英特爾通過開放、易獲取的AI系統和生態協作,以創新的方式為運動員提供支持,并助力企業客戶創造更多可能。
今日,英特爾分享了與國際奧林匹克委員會(IOC)的一些合作細節,并披露了其以行業需求為導向所打造的生成式AI(GenAI)檢索增強生成(RAG)解決方案。該成果深度展示了英特爾如何通過基于英特爾?至強?處理器和英特爾?Gaudi AI加速器的開放式AI系統及平臺,幫助開發者和企業應對AI高速發展所帶來的需求。
英特爾執行副總裁兼數據中心與人工智能事業部總經理Justin Hotard表示:“此次與國際奧委會的合作,彰顯了英特爾致力于推動AI觸手可及。我們正在打造一個開放的環境以鼓勵創新,幫助開發者和企業構建定制化的AI解決方案并取得切實成果。通過擁抱開放、協作的生態系統,英特爾正以創新的方式為運動員提供支持,并助力企業客戶創造更多可能。”
基于Athlete365平臺的聊天機器人:對于運動員而言,獲得奧運會參賽資格僅僅是個開始。為了幫助全球約11,000名擁有不同語言和文化背景的運動員在奧運比賽場地出入,并遵守相關規定,國際奧委會與英特爾合作開發了基于Athlete365平臺的聊天機器人AthleteGPT。這是一款基于英特爾至強處理器和Gaudi加速器的RAG解決方案。AthleteGPT不僅能夠應答運動員的日常詢問并進行互動,同時將在運動員入住巴黎奧運村期間,為其按需提供信息,使運動員能夠專注于自身訓練和比賽。
重要意義:部署生成式AI解決方案會帶來諸如成本、規模、準確性、開發需求、隱私和可靠性等方面的挑戰。作為一種關鍵的生成式AI工作負載,RAG可以讓企業安全地利用專有數據,增強AI產出結果的及時性與可靠性。這將極大地提高AI應用的質量和實用性,對于推動當下的數字化發展意義非凡。
基于AI平臺、開放標準以及強大的軟件和系統生態,英特爾以協作的方式幫助開發者構建定制化的生成式AI RAG解決方案,從而滿足企業的多樣化需求。此外,英特爾亦將持續提供開放、強大且可組合的多供應商生成式AI解決方案。
生成式AI RAG解決方案工作流程:英特爾與行業合作伙伴共同創建了開源、可互操作的解決方案,用于輕松部署RAG。基于企業AI開放平臺(OPEA),該方案是一種以行業需求為導向、開箱即用,且可立即投產的 RAG 解決方案。該生成式AI一站式解決方案在助力企業便捷地部署數據中心RAG的同時,具備高度的靈活性和可定制性,并集成了多個OEM系統及行業合作伙伴的產品組件。
該生成式AI一站式解決方案將基于OPEA的微服務組件集成至用于部署英特爾至強處理器和Gaudi AI系統的、可擴展的RAG解決方案中,可通過Kubernetes、Red Hat OpenShift等經驗證的編排框架進行無縫擴展,并提供兼具可靠性和系統遙測功能的標準化API。
·以開放式軟件堆棧打破壁壘:幾乎所有大語言模型(LLM)的開發都基于高抽象框架PyTorch,該框架由英特爾至強和Gaudi及相關技術提供支持,助力在英特爾AI系統及平臺上實現輕松開發。同時,英特爾攜手OPEA開發了用于RAG和LLM部署的開放式軟件堆棧。該軟件堆棧通過生成式AI一站式解決方案進行優化,并基于PyTorch、Hugging Face服務庫(TGI和TEI)、LangChain以及Redis向量數據庫所構建。
·滿足開發者需求:OPEA為企業提供開源、標準化、模塊化,以及異構的RAG流水線(pipeline),并致力于為開放式模型及多種編譯器和工具鏈的開發提供支持。其加速了針對垂直領域用例的容器化AI集成與交付。OPEA通過創建細化、可組合的框架,引領堆棧技術前沿,解鎖AI的全新可能。
憑借生成式AI一站式解決方案與全面的企業AI堆棧,英特爾提供了完整的解決方案,以應對企業和數據中心在部署和擴展RAG與LLM應用時所面臨的挑戰。通過基于英特爾技術與產品的AI系統及平臺,以及OPEA的優化軟件,企業可以更高效、快速地發揮并利用生成式AI的巨大潛力。
現階段,如何將最新的AI計算技術應用到企業中,并推動關鍵業務成果落地,是企業亟待解決的問題。通過與廣大行業合作伙伴的戰略合作,英特爾正為由生成式AI和RAG解決方案驅動的AI服務創造更多新的可能性。
審核編輯 黃宇
-
英特爾
+關注
關注
60文章
9747瀏覽量
170639 -
AI
+關注
關注
87文章
28875瀏覽量
266194
發布評論請先 登錄
相關推薦
評論