NVIDIA 的 AI 平臺適用于任何高瞻遠矚的企業使用,而且比以往任何時候都更加易于應用。
NVIDIA AI Enterprise 5.0于今日發布,其中包括 NVIDIA 微服務、用于部署生成式 AI 應用和加速計算的可下載軟件容器。領先的云服務提供商、系統構建商和軟件供應商均可提供,并且 Uber 等客戶已開始使用該產品。
Uber 平臺工程副總裁 Albert Greenberg 表示:“我們采用了 NVIDIA AI Enterprise 推理軟件,這對于滿足用戶對高性能的期望來說非常重要。讓 Uber 引以為豪的是,我們走在了采用 AI 創新技術的前沿,使我們成為一個在效率和卓越方面樹立行業標準的客戶服務平臺。”
微服務加速應用開發
開發者正在轉而采用微服務,并將其作為在全球范圍內構建現代企業應用的有效方式。他們在瀏覽器中使用云 API 或應用編程接口來編寫可在系統上運行的應用,并為全球用戶提供服務。
NVIDIA AI Enterprise 5.0 現包括一系列微服務,其中包括用于在生產中部署 AI 模型的NVIDIA NIM和包括NVIDIA cuOpt在內的NVIDIA CUDA-X微服務集合。
NIM 微服務可為來自 NVIDIA 及其合作伙伴生態系統的數十種熱門 AI 模型優化推理。
NIM 由 NVIDIA 推理軟件(包括Triton 推理服務器、TensorRT和TensorRT-LLM)提供支持,可將部署時間由數周縮短至數分鐘。它提供基于行業標準的安全性和可管理性,以及與企業級管理工具的兼容性。
NVIDIA cuOpt 是一款 GPU 加速的 AI 微服務,它在路徑優化方面創造了記錄,并能夠支持動態決策,從而幫助企業降低成本、縮短時間并減少碳足跡。作為 CUDA-X 微服務之一,它可幫助各行業將 AI 投入生產。
更多功能正在陸續開發中。例如NVIDIA RAG LLM operator將把 Co-Pilot 和其他使用檢索增強生成的生成式 AI 應用從試驗階段推向生產階段,而無需重寫任何代碼。
包括 CrowdStrike、SAP 和 ServiceNow 在內的多家領先應用和網絡安全平臺提供商都正在采用 NVIDIA 微服務。
更多工具和功能
此外,我們還在 5.0 版本中進行了 3 項重要更新。
該平臺現集成了一個開發者工具包NVIDIA AI Workbench,用于快速下載、自定義和運行生成式 AI 項目。該軟件目前已全面上市,并已獲得 NVIDIA AI Enterprise 許可證支持。
此外,5.0 版本現在還支持紅帽 OpenStack 平臺,大多數財富 500 強公司都使用該平臺創建私有云和公有云服務。它由紅帽負責維護,為開發者構建虛擬計算環境提供熟悉的平臺。IBM 咨詢服務將幫助客戶部署這些新功能。
此外,5.0 版本還擴展了支持范圍,支持各種最新NVIDIA GPU、網絡硬件和虛擬化軟件。
可隨時隨地運行
功能增強的 NVIDIA AI 平臺比以往任何時候都更易于訪問。
NIM 和 CUDA-X 微服務以及所有 5.0 功能均會很快在亞馬遜云科技、谷歌云、Microsoft Azure 和 Oracle Cloud marketplace 上架。
如果用戶希望在自己的數據中心運行代碼,VMware Private AI Foundation 和 NVIDIA 將為軟件提供支持,使其能夠部署在博通公司客戶的虛擬化數據中心中。
企業可以選擇在紅帽 OpenShift 上運行 NVIDIA AI Enterprise,以便在裸機或虛擬化環境中運行。它還可以在 Canonical 的 Charmed Kubernetes 和 Ubuntu 上運行。
此外,該 AI 平臺也將成為慧與(HPE)的 HPE ProLiant 服務器上可用軟件的一部分。HPE 的生成式 AI 企業計算解決方案使用 NVIDIA AI Enterprise 進行推理和模型微調。
同時,Anyscale、Dataiku 和 DataRobot 這三家領先的機器學習操作管理軟件提供商也將在其平臺上支持 NIM。他們加入了由數百家 MLOps 合作伙伴組成的 NVIDIA 生態系統,其中包括 Microsoft Azure 機器學習、Dataloop AI、Domino Data Lab 和 Weights & Biases。
用戶無論通過何種方式訪問 NVIDIA AI Enterprise 5.0,都能從這一安全、生產就緒且性能優化的軟件中獲益。它可以靈活地部署在數據中心、云、工作站或網絡邊緣的應用中。
NVIDIA AI Enterprise 可通過思科、戴爾科技、惠普、HPE、聯想和超微等領先的系統提供商提供。
在 GTC 上聆聽成功案例
3 月 18 日至 21 日,全球 AI 盛會 NVIDIA GTC 在圣何塞會議中心舉行。會上,用戶將會分享他們使用該軟件的體驗。
例如,ServiceNow 首席數字信息官 Chris Bedi 將在小組討論上就如何利用生成式 AI 的潛能進行發言:
https://www.nvidia.com/gtc/session-catalog/?tab.allsessions=1700692987788001F1cG&search=ServiceNow#/session/1698205437942001FOg6
ServiceNow AI 產品副總裁 Jeremy Barnes 則會在另一場演講中分享如何借助 NVIDIA AI Enterprise 充分提高開發者的開發效率:
https://www.nvidia.com/gtc/session-catalog/?tab.allsessions=1700692987788001F1cG&search=ServiceNow#/session/1696278742562001JcJ2
來自貝萊德、美敦力、SAP 和 Uber 的高管們將就其在金融、醫療、企業軟件和業務運營領域中使用 NVIDIA AI 平臺開展的工作進行探討。
此外,總部位于德國汽車保險公司全球應用提供商 ControlExpert 的高管將與大家一同分享如何利用 NVIDIA AI Enterprise 軟件開發 AI 理賠管理解決方案。
NVIDIA 對數百個內外部的生成式 AI 項目進行了評估,并將這些項目全部集成到一個經過穩定性和安全性測試的軟件包中,讓越來越多的公司能夠從中受益。
審核編輯:劉清
-
NVIDIA
+關注
關注
14文章
4935瀏覽量
102810 -
機器學習
+關注
關注
66文章
8377瀏覽量
132406 -
GPU芯片
+關注
關注
1文章
303瀏覽量
5781 -
ai技術
+關注
關注
1文章
1257瀏覽量
24248 -
生成式AI
+關注
關注
0文章
487瀏覽量
459
原文標題:GTC24 | NVIDIA 推出微服務,助力企業邁向生成式 AI
文章出處:【微信號:NVIDIA_China,微信公眾號:NVIDIA英偉達】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論