發布AI開放系統戰略,展示與新客戶、合作伙伴跨越AI各領域的合作。
新聞亮點
?英特爾發布了為企業客戶打造的全新AI戰略,其開放、可擴展的特性廣泛適用于AI各領域。
?宣布面向數據中心、云和邊緣的下一代英特爾?至強?6處理器的全新品牌。
?推出英特爾?Gaudi 3 AI加速器,其推理能力和能效均有顯著提高。多家OEM客戶將采用,為企業在AI數據中心市場提供更廣泛的產品選擇空間。
?英特爾聯合SAP、RedHat、VMware和其他行業領導者共同宣布,將創建一個開放平臺助力企業推動AI創新,在RAG(檢索增強生成)技術的支持下,加速部署安全的生成式AI系統。
?通過超以太網聯盟(UEC),英特爾正在驅動面向AI高速互聯技術(AI Fabrics)的開放式以太網網絡創新。英特爾發布了一系列針對AI優化的以太網解決方案,包括英特爾AI網絡連接卡(AI NIC)和AI連接芯粒。
美國當地時間4月9日,英特爾舉辦了面向客戶和合作伙伴的英特爾on產業創新大會,宣布了英特爾?至強?6處理器的全新品牌,推出英特爾Gaudi 3加速器,以高性能、開放性和靈活性助力企業推進生成式AI創新,并發布了涵蓋全新開放、可擴展系統,下一代產品和一系列戰略合作的全棧解決方案,以加速生成式AI落地。根據cnvrg.io的調研結果,2023年只有10%的企業成功將其生成式AI項目產品化。英特爾的最新解決方案有望幫助企業應對推廣AI項目時所面臨的挑戰。
英特爾公司首席執行官帕特·基辛格表示:“創新技術正在以前所未有的速度發展,每家公司都在加速成為AI公司,這一切都需要半導體技術提供支持。從PC到數據中心再到邊緣,英特爾正在讓AI走進千行百業。英特爾最新的Gaudi、至強和酷睿平臺將提供靈活的、可定制化的解決方案,滿足客戶和合作伙伴不斷變化的需求,把握住未來的巨大機遇?!?/p>
企業希望將生成式AI從試驗階段擴展到應用階段。因此,他們需要基于諸如英特爾Gaudi 3 AI加速器這樣的高性能、經濟實用、節能的處理器所打造的可快速部署的解決方案。并且,Gaudi 3還能滿足復雜性、成本效益、碎片化、數據可靠性和合規性等需求。
推出用于AI訓練和推理的Gaudi 3
英特爾Gaudi 3 AI加速器將為AI系統提供動力,該AI系統可通過以太網的通用標準連接多達數萬個加速器。與上一代產品相比,英特爾Gaudi 3將帶來4倍的BF16 AI計算能力提升,以及1.5倍的內存帶寬提升。該加速器將為尋求大規模部署生成式AI的企業帶來AI訓練和推理方面的重大飛躍。
英特爾Gaudi 3預計可大幅縮短70億和130億參數Llama2模型,以及1750億參數GPT-3模型的訓練時間。此外,在Llama 7B、70B和Falcon 180B大語言模型(LLM)的推理吞吐量和能效方面也展現了出色性能。
英特爾Gaudi 3提供開放的、基于社區的軟件和行業標準以太網網絡,允許企業靈活地從單個節點擴展到擁有數千個節點的集群、超級集群和超大集群,支持大規模的推理、微調和訓練。英特爾Gaudi 3將于2024年第二季度面向OEM廠商出貨。
英特爾AI解決方案為客戶創造價值
英特爾概述了面向開放的、可擴展的AI系統的戰略,其中包括硬件、軟件、框架和工具。英特爾讓廣泛的AI開放生態系統參與者,如設備制造商、數據庫提供商、系統集成商、軟件和服務提供商等,能夠提供滿足企業特定生成式AI需求的解決方案。與此同時,亦讓企業與他們已知、信任的生態系統合作伙伴展開合作并采取相應解決方案。
生態系統聯合創建開放平臺,助力企業AI創新發展
英特爾聯合Anyscale、Articul8、DataStax、Domino、Hugging Face、KX Systems、MariaDB、MinIO、Qdrant、RedHat、Redis、SAP、VMware、Yellowbrick和Zilliz共同宣布,將創建一個開放平臺助力企業推動AI創新。這一凝結全行業力量的計劃旨在開發開放的、多供應商的生成式AI系統,通過RAG(檢索增強生成)技術,提供一流的部署便利性、性能和價值。RAG可使企業在標準云基礎設施上運行的大量現存專有數據源得到開放大語言模型(LLM)功能的增強,加速生成式AI在企業中的應用。
在該計劃的初始階段,基于安全的至強處理器和Gaudi解決方案,英特爾將面向生成式AI進程(pipelines)推出參考實現,發布技術概念框架,并繼續增進英特爾Tiber開發者云平臺基礎設施的功能,以便為RAG及未來進程的生態系統開發和確認打下基礎。英特爾鼓勵生態系統進一步參與到這一開放平臺的創建中來,以促進企業采用該平臺,擴大解決方案的應用范圍,并取得業務成果。
英特爾擴展AI路線圖和開放生態系統方法
英特爾還分享了企業AI各細分領域的下一代產品和服務的最新信息。
全新英特爾?至強?6處理器:英特爾至強處理器為運行當前的生成式AI解決方案提供了性能高效的解決方案,包括使用專有數據生成特定業務結果的RAG。同時,英特爾還為面向數據中心、云和邊緣的下一代處理器進行了品牌煥新,即英特爾至強6。配備能效核(E-cores)的英特爾至強6處理器將于2024年第二季度推出,提供卓越的效率,配備性能核(P-cores)的英特爾至強6處理器將緊隨其后推出,帶來更高的AI性能。
?配備能效核的英特爾至強6處理器(代號為Sierra Forest):
*與第二代英特爾?至強?處理器相比,每瓦性能提高2.4倍,機架密度提高2.7倍。
*客戶能以近3:1的比例替換舊系統,大幅降低能耗,幫助其實現可持續發展目標。
?配備性能核的英特爾至強6處理器(代號為Granite Rapids):
*包含了對MXFP4數據格式的軟件支持,與使用FP16的第四代英特爾?至強?處理器相比,可將下一個令牌(token)的延遲時間最多縮短6.5倍,能夠運行700億參數的Llama-2模型。
客戶端、邊緣和連接:英特爾分享了客戶端產品的發展勢頭以及諸多邊緣和網絡互聯產品的路線圖更新,包括:
?英特爾?酷睿?Ultra處理器為生產力、安全性和內容創作提供了全新能力,并為企業煥新其PC設備提供了巨大動力。英特爾預計將于2024年出貨4000萬臺AI PC,以及超過230種的設計,覆蓋輕薄PC和游戲掌機設備。
?將于2024年推出的下一代英特爾酷睿Ultra客戶端處理器家族(代號Lunar Lake),將具備超過100 TOPS平臺算力,以及在神經網絡處理單元(NPU)上帶來超過45 TOPS的算力,從而為下一代AI PC提供強大支持。
?英特爾發布了涵蓋英特爾酷睿Ultra、英特爾?酷睿?、英特爾凌動?處理器和英特爾銳炫?顯卡系列產品在內的全新邊緣芯片,主要面向零售、工業制造和醫療等關鍵領域。英特爾邊緣AI產品組合內的所有新品將于本季度上市,并將在今年年內獲得英特爾Tiber邊緣平臺的支持。
?通過超以太網聯盟(UEC),英特爾正在驅動面向AI高速互聯技術(AI Fabrics)的開放式以太網網絡創新,并推出一系列針對AI優化的以太網解決方案。這些創新旨在革新可大規模縱向(scale-up)和橫向(scale-out)擴展的AI高速互聯技術,以支持AI模型的訓練和推理,這些模型的規模日益龐大,每一代都會增長一個數量級。英特爾的產品組合包括英特爾AI網絡連接卡(AI NIC)、集成到XPU的AI連接芯粒、基于Gaudi加速器的系統,以及一系列面向英特爾代工的AI互聯軟硬件參考設計。
英特爾Tiber業務解決方案組合
英特爾發布了英特爾Tiber業務解決方案組合,以簡化企業軟件和服務的部署,包括生成式AI。
這一統一的體驗將使企業客戶和開發人員能夠更輕松地找到適合其需求的解決方案,加快創新并釋放價值,同時不犧牲安全性、合規性或性能??蛻艏慈掌鸨憧砷_始探索英特爾Tiber產品組合,今年第三季度這一解決方案將會全面推出。
英特爾始終致力于讓AI更易于使用、更開放、更安全,從而滿足全球企業的不同需求。通過Intel Vision 2024大會上公布的全新合作和解決方案,英特爾將在AI浪潮中全力引領創新,讓AI為各行各業帶來前所未有的價值。
審核編輯 黃宇
-
英特爾
+關注
關注
60文章
9749瀏覽量
170652 -
以太網
+關注
關注
40文章
5288瀏覽量
169670 -
OEM
+關注
關注
4文章
397瀏覽量
50121 -
AI
+關注
關注
87文章
28877瀏覽量
266237
發布評論請先 登錄
相關推薦
評論