隨著微軟 Ignite 2023 技術大會的召開，NVIDIA 帶來了一系列發布和更新。這次發布涵蓋了企業級生成式 AI、Omniverse 和 RTX 等重要內容。

微軟首席執行官 Satya Nadella 和 NVIDIA 創始人兼首席執行官黃仁勛也在微軟 Ignite 2023 技術大會上登臺亮相。本文將帶您了解這次的新發布，探索其中的創新亮點。

企業級生成式 AI

NVIDIA 在 Microsoft Azure 上推出面向全球企業和初創公司的生成式 AI Foundry 服務

NVIDIA 推出一項 AI foundry 服務，助力企業和初創公司在 Microsoft Azure 上開發、調優和部署其自定義生成式 AI 應用。

這項 NVIDIA AI foundry 服務整合了 NVIDIA AI Foundation Models、NVIDIA NeMo 框架和工具，以及 NVIDIA DGX 云 AI 超算服務三大要素，為企業提供創建自定義生成式 AI 模型的端到端解決方案，并且支持企業使用 NVIDIA AI Enterprise 軟件部署其定制模型，以支持生成式 AI 應用，包括智能搜索、摘要和內容生成。

NVIDIA 創始人兼首席執行官黃仁勛表示：“企業需要自定義模型來執行基于公司專有 DNA （即數據）訓練的專業技能。NVIDIA 的 AI foundry 服務整合了我們的生成式 AI 模型技術、LLM 訓練的專業知識和超大型 AI 工廠。我們在 Microsoft Azure 中構建這項服務，使全世界的企業都能夠將他們的自定義模型與微軟全球領先的云服務進行連接?！?/span>

點擊圖片即可閱讀全文

NVIDIA 加快企業自定義生成式 AI 模型開發

NVIDIA AI Foundation Models 集企業級預訓練模型之大成，為開發人員提供了針對企業應用定制生成式 AI 的良好開端。

NVIDIA AI Foundation Models 可通過簡單的用戶界面或 API 直接在瀏覽器體驗。此外，這些模型還可通過 NVIDIA AI Foundation Endpoints 進行訪問，以便在企業應用中測試模型性能。

點擊圖片即可閱讀全文

NVIDIA 開發檢索增強生成參考架構

NVIDIA 開發了檢索增強生成參考架構。該架構包含一個聊天機器人示例和用戶使用這種新方法創建個人應用所需的元素。

該工作流使用了專用于開發和自定義生成式 AI 模型的框架 NVIDIA NeMo，以及用于在生產中運行生成式 AI 模型的軟件，例如 NVIDIA Triton 推理服務器和 NVIDIA TensorRT-LLM 等。

這些軟件組件均包含在 NVIDIA AI Enterprise 軟件平臺中，其可加速生產就緒型 AI 的開發和部署，并提供企業所需的安全性、支持和穩定性。

點擊圖片即可閱讀全文

NVIDIA 與 Amdocs 為全球電信行業

帶來自定義生成式 AI

NVIDIA AI foundry 服務集合了 NVIDIA AI Foundation Models、NVIDIA NeMo 框架和工具以及 NVIDIA DGX Cloud AI 超級計算和服務，為企業提供了一套端到端解決方案，用于創建并優化自定義生成式 AI 模型。

借助這項 AI foundry 服務，領先的通信和媒體提供商與軟件和服務提供商 Amdocs 將為電信和媒體行業優化企業級大語言模型（LLM），以便在其從客戶體驗到網絡運營和供應等業務領域有效部署生成式 AI 用例。LLM 將作為 Amdocs amAIz 框架的一部分，在 NVIDIA 加速計算上運行。

該合作以此前宣布的 Amdocs - 微軟的合作伙伴關系為基礎，使服務提供商能夠在安全、可信的環境中采用這些應用，包括在本地和云中。

點擊圖片即可閱讀全文

Omniverse

NVIDIA 宣布在 Microsoft Azure 上提供 Omniverse Cloud 服務，

加速汽車行業的數字化進程

NVIDIA 在 Omniverse Cloud 上發布了兩個全新的仿真引擎：虛擬工廠仿真引擎和自動駕駛汽車（AV）仿真引擎。

Omniverse Cloud 是一項用于開發和部署工業數字化應用的平臺即服務（PaaS，platform-as-a-service），這項服務現已托管在 Microsoft Azure 上。該一站式服務能夠使全球汽車制造商統一其核心產品與業務流程的數字化，從而提高生產速度和運營效率，縮短產品上市時間，推進可持續性計劃。

Omniverse Cloud 虛擬工廠仿真引擎整合了一系列可自定義的開發者應用和服務，使工廠規劃團隊能夠在連接大規模工業數據集的同時，進行實時協作、瀏覽和審核。

自動駕駛汽車仿真引擎實現了符合物理學的傳感器仿真，該服務使自動駕駛和機器人開發者能夠在閉環虛擬環境中運行自主系統。

點擊圖片即可閱讀全文

RTX

TensorRT-LLM更新加速 AI 推理性能，支持在 RTX 驅動的WindowsPC上運行新模型

NVIDIA 發布的全新優化、模型和資源將更快地幫助開發者提供新的終端用戶體驗。

TensorRT-LLM 是一款提升 AI 推理性能的開源軟件，它即將發布的更新將支持更多大語言模型，在 RTX GPU 8GB 及以上顯存的 PC 和筆記本電腦上使要求嚴苛的 AI 工作負載更容易完成。

Tensor RT-LLM for Windows 即將通過全新封裝接口與 OpenAI 廣受歡迎的聊天 API 兼容。這將使數以百計的開發者項目和應用能在 RTX PC 的本地運行，而非云端運行，因此用戶可以在 PC 上保留私人和專有數據。

為支持 AI 開發者，NVIDIA 與微軟發布 DirectML 增強功能以加速最熱門的基礎 AI 模型之一的 Llama 2。除了全新性能標準，開發者現在有更多跨供應商部署可選。

點擊圖片即可閱讀全文

GTC 2024 將于 2024 年 3 月 18 至 21 日在美國加州圣何塞會議中心舉行，線上大會也將同期開放。點擊“閱讀原文”或掃描下方海報二維碼，立即注冊 GTC 大會。