精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

NVIDIA推出微服務,助力企業邁向生成式AI

NVIDIA英偉達 ? 來源:NVIDIA英偉達 ? 2024-03-21 09:39 ? 次閱讀

NVIDIA 的 AI 平臺適用于任何高瞻遠矚的企業使用,而且比以往任何時候都更加易于應用。

NVIDIA AI Enterprise 5.0于今日發布,其中包括 NVIDIA 微服務、用于部署生成式 AI 應用和加速計算的可下載軟件容器。領先的云服務提供商、系統構建商和軟件供應商均可提供,并且 Uber 等客戶已開始使用該產品

Uber 平臺工程副總裁 Albert Greenberg 表示:“我們采用了 NVIDIA AI Enterprise 推理軟件,這對于滿足用戶對高性能的期望來說非常重要。讓 Uber 引以為豪的是,我們走在了采用 AI 創新技術的前沿,使我們成為一個在效率和卓越方面樹立行業標準的客戶服務平臺。”

微服務加速應用開發

開發者正在轉而采用微服務,并將其作為在全球范圍內構建現代企業應用的有效方式。他們在瀏覽器中使用云 API 或應用編程接口來編寫可在系統上運行的應用,并為全球用戶提供服務。

NVIDIA AI Enterprise 5.0 現包括一系列微服務,其中包括用于在生產中部署 AI 模型的NVIDIA NIM和包括NVIDIA cuOpt在內的NVIDIA CUDA-X微服務集合。

NIM 微服務可為來自 NVIDIA 及其合作伙伴生態系統的數十種熱門 AI 模型優化推理。

NIM 由 NVIDIA 推理軟件(包括Triton 推理服務器TensorRTTensorRT-LLM)提供支持,可將部署時間由數周縮短至數分鐘。它提供基于行業標準的安全性和可管理性,以及與企業級管理工具的兼容性。

NVIDIA cuOpt 是一款 GPU 加速的 AI 微服務,它在路徑優化方面創造了記錄,并能夠支持動態決策,從而幫助企業降低成本、縮短時間并減少碳足跡。作為 CUDA-X 微服務之一,它可幫助各行業將 AI 投入生產。

更多功能正在陸續開發中。例如NVIDIA RAG LLM operator將把 Co-Pilot 和其他使用檢索增強生成的生成式 AI 應用從試驗階段推向生產階段,而無需重寫任何代碼。

包括 CrowdStrike、SAP 和 ServiceNow 在內的多家領先應用和網絡安全平臺提供商都正在采用 NVIDIA 微服務。

更多工具和功能

此外,我們還在 5.0 版本中進行了 3 項重要更新。

該平臺現集成了一個開發者工具包NVIDIA AI Workbench,用于快速下載、自定義和運行生成式 AI 項目。該軟件目前已全面上市,并已獲得 NVIDIA AI Enterprise 許可證支持。

此外,5.0 版本現在還支持紅帽 OpenStack 平臺,大多數財富 500 強公司都使用該平臺創建私有云和公有云服務。它由紅帽負責維護,為開發者構建虛擬計算環境提供熟悉的平臺。IBM 咨詢服務將幫助客戶部署這些新功能。

此外,5.0 版本還擴展了支持范圍,支持各種最新NVIDIA GPU、網絡硬件和虛擬化軟件。

可隨時隨地運行

功能增強的 NVIDIA AI 平臺比以往任何時候都更易于訪問。

NIM 和 CUDA-X 微服務以及所有 5.0 功能均會很快在亞馬遜科技、谷歌云、Microsoft Azure 和 Oracle Cloud marketplace 上架。

如果用戶希望在自己的數據中心運行代碼,VMware Private AI Foundation 和 NVIDIA 將為軟件提供支持,使其能夠部署在博通公司客戶的虛擬化數據中心中。

企業可以選擇在紅帽 OpenShift 上運行 NVIDIA AI Enterprise,以便在裸機或虛擬化環境中運行。它還可以在 Canonical 的 Charmed Kubernetes 和 Ubuntu 上運行。

此外,該 AI 平臺也將成為慧與(HPE)的 HPE ProLiant 服務器上可用軟件的一部分。HPE 的生成式 AI 企業計算解決方案使用 NVIDIA AI Enterprise 進行推理和模型微調。

同時,Anyscale、Dataiku 和 DataRobot 這三家領先的機器學習操作管理軟件提供商也將在其平臺上支持 NIM。他們加入了由數百家 MLOps 合作伙伴組成的 NVIDIA 生態系統,其中包括 Microsoft Azure 機器學習、Dataloop AI、Domino Data Lab 和 Weights & Biases。

用戶無論通過何種方式訪問 NVIDIA AI Enterprise 5.0,都能從這一安全、生產就緒且性能優化的軟件中獲益。它可以靈活地部署在數據中心、云、工作站或網絡邊緣的應用中。

NVIDIA AI Enterprise 可通過思科、戴爾科技、惠普、HPE、聯想和超微等領先的系統提供商提供。

在 GTC 上聆聽成功案例

3 月 18 日至 21 日,全球 AI 盛會 NVIDIA GTC 在圣何塞會議中心舉行。會上,用戶將會分享他們使用該軟件的體驗。

例如,ServiceNow 首席數字信息官 Chris Bedi 將在小組討論上就如何利用生成式 AI 的潛能進行發言:

https://www.nvidia.com/gtc/session-catalog/?tab.allsessions=1700692987788001F1cG&search=ServiceNow#/session/1698205437942001FOg6

ServiceNow AI 產品副總裁 Jeremy Barnes 則會在另一場演講中分享如何借助 NVIDIA AI Enterprise 充分提高開發者的開發效率

https://www.nvidia.com/gtc/session-catalog/?tab.allsessions=1700692987788001F1cG&search=ServiceNow#/session/1696278742562001JcJ2

來自貝萊德、美敦力、SAP 和 Uber 的高管們將就其在金融、醫療、企業軟件和業務運營領域中使用 NVIDIA AI 平臺開展的工作進行探討。

此外,總部位于德國汽車保險公司全球應用提供商 ControlExpert 的高管將與大家一同分享如何利用 NVIDIA AI Enterprise 軟件開發 AI 理賠管理解決方案。

NVIDIA 對數百個內外部的生成式 AI 項目進行了評估,并將這些項目全部集成到一個經過穩定性和安全性測試的軟件包中,讓越來越多的公司能夠從中受益。




審核編輯:劉清

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • NVIDIA
    +關注

    關注

    14

    文章

    4935

    瀏覽量

    102810
  • 機器學習
    +關注

    關注

    66

    文章

    8377

    瀏覽量

    132406
  • GPU芯片
    +關注

    關注

    1

    文章

    303

    瀏覽量

    5781
  • ai技術
    +關注

    關注

    1

    文章

    1257

    瀏覽量

    24248
  • 生成式AI
    +關注

    關注

    0

    文章

    487

    瀏覽量

    459

原文標題:GTC24 | NVIDIA 推出微服務,助力企業邁向生成式 AI

文章出處:【微信號:NVIDIA_China,微信公眾號:NVIDIA英偉達】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    NVIDIA助力企業創建定制AI應用

    NVIDIA 近日宣布與眾多技術領導者一同使用最新NVIDIA NIM Agent Blueprint以及NVIDIA NeMo和NVIDIA NIM
    的頭像 發表于 11-20 09:12 ?244次閱讀

    NVIDIA助力Amdocs打造生成AI智能體

    正在使用NVIDIA DGX Cloud 與 NVIDIA AI Enterprise軟件開發和交付基于商用大語言模型(LLM)和領域適配模型的解決方案。該公司還在使用NVIDIA
    的頭像 發表于 11-19 14:48 ?233次閱讀

    借助NVIDIA NIM微服務助力可口可樂公司擴展生成AI內容

    借助 NVIDIA NIM 微服務 USD Search 和 USD Code,市場營銷領導者 WPP 幫助飲料公司在全球范圍內加速創意活動的迭代。
    的頭像 發表于 08-13 16:16 ?516次閱讀

    全新NVIDIA NIM微服務生成AI引入數字環境

    生成物理 AI NIM 微服務以及 NVIDIA Metropolis 參考工作流旨在協助創建智能的沉浸
    的頭像 發表于 08-02 15:20 ?495次閱讀

    NVIDIA攜手Meta推出AI服務,為企業提供生成AI服務

    NVIDIA近日宣布了一項重大舉措,正式推出NVIDIA AI Foundry服務NVIDIA
    的頭像 發表于 07-25 16:57 ?493次閱讀

    英偉達推出全新NVIDIA AI Foundry服務NVIDIA NIM推理微服務

    NVIDIA 宣布推出全新 NVIDIA AI Foundry 服務NVIDIA NIM 推
    的頭像 發表于 07-25 09:48 ?668次閱讀

    NVIDIA AI Foundry 為全球企業打造自定義 Llama 3.1 生成 AI 模型

    Foundry 提供從數據策管、合成數據生成、微調、檢索、防護到評估的全方位生成 AI 模型服務,以便部署自定義 Llama 3.1
    發表于 07-24 09:39 ?681次閱讀
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>AI</b> Foundry 為全球<b class='flag-5'>企業</b>打造自定義 Llama 3.1 <b class='flag-5'>生成</b><b class='flag-5'>式</b> <b class='flag-5'>AI</b> 模型

    NVIDIA推出NVIDIA AI Computing by HPE加速生成 AI 變革

    關系進一步深化。助力生成 AI企業級應用與發展加速駛入快車道。 HPE Private Cloud
    的頭像 發表于 06-20 17:36 ?677次閱讀

    NVIDIA宣布全面推出 NVIDIA ACE 生成 AI 微服務

    采用 NVIDIA 宣布全面推出 NVIDIA ACE 生成 AI
    的頭像 發表于 06-04 10:18 ?618次閱讀

    NVIDIA發布數字人微服務,為制作生成AI數字化身鋪平未來之路

    ? ? COMPUTEX—2024年6月2日— NVIDIA宣布全面推出NVIDIA ACE生成AI
    發表于 06-03 17:43 ?171次閱讀

    NVIDIA發布生成AI微服務,推動藥物研發、醫療科技和數字醫療發展

    NVIDIA 今日推出二十多項全新微服務,使全球醫療企業能夠在任何地點和任何云上充分利用生成
    的頭像 發表于 03-20 10:03 ?1663次閱讀

    NVIDIA推出生成AI微服務,供開發者在CUDA GPU系統中創建部署生成AI助手

    NVIDIA 于今日推出數十項企業生成 AI 微服務
    的頭像 發表于 03-20 09:56 ?438次閱讀

    NVIDIA即將推出一項新的生成AI專業認證

    NVIDIA 即將推出一項新的生成 AI 專業認證,助力開發者在這一重要領域證明自身技術實力。
    的頭像 發表于 03-14 09:43 ?515次閱讀

    NVIDIA 通過企業生成 AI 微服務為聊天機器人、AI 助手和摘要工具帶來商業智能

    微服務,支持企業將自定義大語言模型與企業數據相連接,使其 AI 應用能夠提供高度準確的響應。 NVIDIA NeMo Retriever
    的頭像 發表于 11-29 21:05 ?591次閱讀

    NVIDIA 通過企業生成 AI 微服務 為聊天機器人、AI 助手和摘要工具帶來商業智能

    — 太平洋時間 2023 年 11 月 28 日 — NVIDIA 今日宣布推出一項生成 AI 微服
    發表于 11-29 14:37 ?267次閱讀
    <b class='flag-5'>NVIDIA</b> 通過<b class='flag-5'>企業</b>級<b class='flag-5'>生成</b><b class='flag-5'>式</b> <b class='flag-5'>AI</b> <b class='flag-5'>微服務</b> 為聊天機器人、<b class='flag-5'>AI</b> 助手和摘要工具帶來商業智能