3 月 16 日,百度在北京總部召開(kāi)新聞發(fā)布會(huì),主題圍繞新一代大語(yǔ)言模型、生成式 AI 產(chǎn)品文心一言。百度創(chuàng)始人、董事長(zhǎng)兼首席執(zhí)行官李彥宏及百度首席技術(shù)官王海峰出席,并展示了文心一言在文學(xué)創(chuàng)作、商業(yè)文案創(chuàng)作、數(shù)理推算、中文理解、多模態(tài)生成五個(gè)使用場(chǎng)景中的綜合能力。
目前,大語(yǔ)言模型和生成式 AI 代表了一個(gè)新技術(shù)范式,是全球每家企業(yè)都不可錯(cuò)過(guò)的機(jī)會(huì)。百度憑借其在人工智能領(lǐng)域深耕多年的技術(shù)儲(chǔ)備發(fā)力,抓住此次生成式 AI 發(fā)展風(fēng)口,文心一言顯示了其引領(lǐng)中國(guó)生成式 AI 產(chǎn)品發(fā)展的勢(shì)頭。
事實(shí)上,截至 2022 年 11月底,支撐文心一言的飛槳深度學(xué)習(xí)平臺(tái)已凝聚 535 萬(wàn)開(kāi)發(fā)者,創(chuàng)建了 67萬(wàn)個(gè) AI 模型,服務(wù)于 20萬(wàn)家企事業(yè)單位,在工業(yè)、能源、交通、農(nóng)業(yè)等領(lǐng)域大放異彩,構(gòu)建起一個(gè)繁榮的深度學(xué)習(xí)生態(tài)。
在下周舉行的 GTC 2023 春季大會(huì)上,百度飛槳又將帶來(lái)哪些精彩分享?
3 月 20-23 日 鎖定 GTC 2023!
面向全球 AI 開(kāi)發(fā)者的 GTC 2023 將于 3 月 20-23 日在線上舉辦,這場(chǎng)被 NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛描述為 “迄今為止最重要的一次 GTC”,將帶來(lái) 650 多場(chǎng)演講、專家座談會(huì)和特別活動(dòng),幾乎涵蓋了計(jì)算領(lǐng)域的所有熱門(mén)內(nèi)容,預(yù)計(jì)將有超過(guò) 25 萬(wàn)人報(bào)名參加。
本次 GTC 大會(huì)上,來(lái)自百度的四位專家將帶來(lái)精彩的內(nèi)容分享。
其中,百度 AI 技術(shù)生態(tài)總經(jīng)理馬艷軍,將以《飛槳深度學(xué)習(xí)平臺(tái)高效支持大模型生產(chǎn)及應(yīng)用》為題,分享飛槳和文心大模型的發(fā)展現(xiàn)狀,并詳細(xì)介紹飛槳框架的訓(xùn)練和推理技術(shù)以及相關(guān)應(yīng)用實(shí)踐。對(duì)文心一言底層技術(shù)支撐感興趣的朋友,請(qǐng)勿錯(cuò)過(guò)!
此外,百度主任架構(gòu)師、百度 MEG 商業(yè)模型中臺(tái)技術(shù)負(fù)責(zé)人焦學(xué)武,將介紹百度基于 GPU 的超大規(guī)模圖模型訓(xùn)練框架 PGLBox。在 2023 年 1 月舉行的百度Create AI 開(kāi)發(fā)者大會(huì)上,PGLBox 作為十大 “黑科技” 之一首次亮相。據(jù)悉,通過(guò)多種技術(shù)手段,PGLBox 已全面解決了圖模型訓(xùn)練的性能問(wèn)題、規(guī)模問(wèn)題、建模問(wèn)題,是業(yè)界首個(gè)同時(shí)支持復(fù)雜算法+超大圖+超大離散模型的大規(guī)模圖學(xué)習(xí)訓(xùn)練技術(shù)。
如果說(shuō) AI for Science,能幫助未來(lái)的科研成果加速來(lái)到現(xiàn)實(shí),那么 PGLBox 將在生活中幫助我們構(gòu)建 “預(yù)知未來(lái)” 的能力引擎,有望大幅提升生活中所經(jīng)常需要的出行時(shí)間預(yù)測(cè)和信息推薦等服務(wù)的準(zhǔn)確性。PGLBox 為百度業(yè)務(wù)創(chuàng)新提供了廣闊的空間,目前已經(jīng)在智能交通、信息推薦、搜索等標(biāo)桿場(chǎng)景實(shí)現(xiàn)落地,大幅提升業(yè)務(wù)效率和用戶體驗(yàn)。
除此以外,還有關(guān)于飛槳端到端大模型開(kāi)發(fā)套件的介紹——百度資深工程師敖玉龍,將以《面向大模型的端到端套件 PaddleFleetX》為題,介紹依托于飛槳產(chǎn)業(yè)級(jí)深度學(xué)習(xí)平臺(tái)的大模型訓(xùn)推一體開(kāi)發(fā)套件 PaddleFleetX。百度飛槳高級(jí)產(chǎn)品經(jīng)理雷青,將介紹全場(chǎng)景、高性能的 AI 部署工具飛槳 FastDeploy。
以下為演講具體介紹。掃描二維碼,搜索會(huì)議代碼找到對(duì)應(yīng)演講內(nèi)容,通過(guò)點(diǎn)擊“Add to Schedule”或點(diǎn)擊“星星”,將該演講內(nèi)容添加至您的日程,大會(huì)開(kāi)始后登錄即可在線觀看。
飛槳深度學(xué)習(xí)平臺(tái)高效支持大模型生產(chǎn)及應(yīng)用
會(huì)議代碼:[S52366]
演講時(shí)間:3 月 22 日 即可在線觀看
(自主點(diǎn)播形式)
演講嘉賓:
馬艷軍
百度 AI 技術(shù)生態(tài)總經(jīng)理
演講概要:
源于百度業(yè)務(wù)對(duì)人工智能技術(shù)的廣泛應(yīng)用,飛槳深度學(xué)習(xí)平臺(tái)結(jié)合應(yīng)用持續(xù)創(chuàng)新,研發(fā)了業(yè)界領(lǐng)先的大規(guī)模分布式訓(xùn)練技術(shù)。飛槳先后發(fā)布了 4D 混合并行訓(xùn)練、端到端自適應(yīng)分布式訓(xùn)練、超大規(guī)模圖訓(xùn)練引擎等核心技術(shù),并基于這些技術(shù)支持文心大模型的訓(xùn)練和部署。目前,文心大模型已經(jīng)覆蓋基礎(chǔ)大模型、任務(wù)大模型、行業(yè)大模型的三級(jí)體系,飛槳+文心大模型賦能千行百業(yè)的智能化升級(jí)。
掃碼預(yù)約觀看本場(chǎng)演講
進(jìn)入頁(yè)面后,
點(diǎn)擊會(huì)議標(biāo)題右上角[五角星]
完成注冊(cè)并加入收藏
PGLBox:百度基于 GPU 的
超大規(guī)模圖模型訓(xùn)練框架
會(huì)議代碼:[SE51302]
演講時(shí)間:3 月 22 日3:30 PM
演講嘉賓:
焦學(xué)武
百度主任架構(gòu)師
百度 MEG 商業(yè)模型中臺(tái)技術(shù)負(fù)責(zé)人
演講概要:
PGLBox 是百度研發(fā)的基于 GPU 的大規(guī)模圖模型訓(xùn)練框架,支持?jǐn)?shù)百億節(jié)點(diǎn)和邊的圖模型全 GPU 訓(xùn)練,已在百度廣泛部署。與傳統(tǒng)的基于 CPU 的分布式解決方案相比,PGLBox 可以在相同的成本下獲得 28 倍的訓(xùn)練加速。相比業(yè)界主流的分布式 CPU 解決方案,PGLBox 具有超高性能、超大規(guī)模、算法豐富、靈活易用、落地廣泛等優(yōu)勢(shì)。
PGLBox 由以下主要組件組成:
-
超高性能的分布式 GPU 圖學(xué)習(xí)訓(xùn)練框架,圖存儲(chǔ)、深度行走、采樣和訓(xùn)練全流程 GPU 化,通過(guò)使用 GPU 并行技術(shù)大大加快了圖模型的樣本生成和訓(xùn)練。
-
業(yè)界首個(gè)多級(jí)存儲(chǔ)圖引擎,對(duì)圖/屬性/模型差異化存儲(chǔ)構(gòu)建多級(jí)存儲(chǔ)體系,能夠使用單臺(tái) GPU 服務(wù)器訓(xùn)練數(shù)百億節(jié)點(diǎn)和邊的圖模型。
-
吞吐最大化的流水線架構(gòu),采樣、屬性拉取、參數(shù)拉取和模型訓(xùn)練的流水線架構(gòu),高效進(jìn)行端到端的圖模型訓(xùn)練。
-
預(yù)置豐富的圖表示學(xué)習(xí)算法,支持跨場(chǎng)景異構(gòu)圖建模和復(fù)雜圖屬性建模,首次實(shí)現(xiàn) ERNIE-Sage + 大規(guī)模圖結(jié)構(gòu)信息 + 大規(guī)模離散特征的統(tǒng)一建模。
掃碼預(yù)約觀看本場(chǎng)演講
進(jìn)入頁(yè)面后,點(diǎn)擊[Add to Schedule]
完成注冊(cè)并添加至您的日程
面向大模型的端到端套件 PaddleFleetX
會(huì)議代碼:[S51309]
演講時(shí)間:3 月 23 日 10:00 AM
演講嘉賓:
敖玉龍
百度資深工程師
演講概要:
大規(guī)模預(yù)訓(xùn)練技術(shù)已經(jīng)在多個(gè)領(lǐng)域表現(xiàn)出了優(yōu)秀效果,但是從應(yīng)用和落地的角度來(lái)看,其門(mén)檻并不低。PaddleFleetX 是一款依托于飛槳深度學(xué)習(xí)平臺(tái)的面向大模型的端到端套件,涵蓋了開(kāi)發(fā)、訓(xùn)練、小型化、推理等全流程,具備簡(jiǎn)單易用、性能領(lǐng)先、且功能強(qiáng)大等特色。本演講將介紹 PaddleFleetX 相關(guān)核心技術(shù),包括全場(chǎng)景分布式并行策略、極致的分布式訓(xùn)練優(yōu)化技術(shù),豐富多樣的模型小型化能力和高效的大模型分布式推理與部署方案。
掃碼預(yù)約觀看本場(chǎng)演講
進(jìn)入頁(yè)面后,點(diǎn)擊[Add to Schedule]
完成注冊(cè)并添加至您的日程
全場(chǎng)景高性能 AI 部署工具 FastDeploy
會(huì)議代碼:[S52367]
演講時(shí)間:3 月 23 日 2:00 PM
演講嘉賓:
雷青
百度飛槳高級(jí)產(chǎn)品經(jīng)理
演講概要:
FastDeploy 是一款全場(chǎng)景、極致高效、易用靈活的 AI 推理部署工具,支持云邊端部署。統(tǒng)一飛槳及生態(tài)的多端部署 API ,目前支持 Paddle Inference、Paddle Lite、TensorRT、ONNX Runtime、Poros等推理引擎,一行命令可靈活切換多個(gè)推理引擎后端;同時(shí)支持 Triton Inference Server,一款工具可實(shí)現(xiàn)快速的云邊端部署。
通過(guò)集成 CV-CUDA、FastTokenier、FlyCV 等 AI 加速庫(kù),以及 PaddleSlim 自動(dòng)壓縮工具,實(shí)現(xiàn) AI 模型端到端的性能優(yōu)化。FastDeploy 精心完成了部署 API 設(shè)計(jì),確保不同語(yǔ)言的開(kāi)發(fā)者能夠享受到統(tǒng)一的 API 體驗(yàn),不同語(yǔ)言只需要 3 行核心代碼,就可以實(shí)現(xiàn)預(yù)置模型的高性能推理;預(yù)置的 160+SOTA 產(chǎn)業(yè)模型的端到端示例 ,快速完成 AI 的產(chǎn)業(yè)落地。
掃碼預(yù)約觀看本場(chǎng)演講
進(jìn)入頁(yè)面后,點(diǎn)擊[Add to Schedule]
完成注冊(cè)并添加至您的日程
預(yù)約觀看百度 GTC 2023 精彩演講
想要預(yù)約以上精彩內(nèi)容?掃描下方圖片二維碼 或 點(diǎn)擊 “閱讀原文”,即可搜索相關(guān)會(huì)議代碼找到對(duì)應(yīng)演講內(nèi)容,通過(guò)點(diǎn)擊“Add to Schedule”或點(diǎn)擊“星星”,將該演講內(nèi)容添加至您的日程,大會(huì)開(kāi)始后登錄即可在線觀看。
例如:搜索演講代碼 [SE51302],點(diǎn)擊“Add to Schedule”,即可將該演講添加至您的日程。
例如:搜索演講代碼 [S52366],發(fā)現(xiàn)沒(méi)有“Add to Schedule”按鈕,說(shuō)明該演講為自主點(diǎn)播形式,從 3 月 22 日開(kāi)始即可在線觀看。點(diǎn)擊右上方的星星,將該演講添加至您的日程。
如果尚未注冊(cè),請(qǐng)點(diǎn)擊鏈接查看 GTC23 注冊(cè)教程。
請(qǐng)?jiān)?3 月 26 日前完成在線注冊(cè),免費(fèi)觀看以及回看GTC 2023 春季大會(huì)超過(guò) 650 場(chǎng)精彩內(nèi)容!
歡迎加入 GTC 2023,與全球 AI 者同行!
掃描下方海報(bào)二維碼,鎖定 NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛的 GTC 主題演講!北京時(shí)間 3 月 21 日 23:00 全球首播,3 月 22 日 10:00 中國(guó)重播。深度解讀 NVIDIA 加速計(jì)算平臺(tái)如何推動(dòng)人工智能、元宇宙、云技術(shù)和可持續(xù)計(jì)算的下一波浪潮。加入 GTC23,切勿錯(cuò)過(guò) AI 的決定性時(shí)刻!
原文標(biāo)題:GTC23 | 作為支撐文心一言的深度學(xué)習(xí)平臺(tái),百度飛槳將在 GTC 帶來(lái)哪些精彩分享?
文章出處:【微信公眾號(hào):NVIDIA英偉達(dá)】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
-
英偉達(dá)
+關(guān)注
關(guān)注
22文章
3748瀏覽量
90837
原文標(biāo)題:GTC23 | 作為支撐文心一言的深度學(xué)習(xí)平臺(tái),百度飛槳將在 GTC 帶來(lái)哪些精彩分享?
文章出處:【微信號(hào):NVIDIA_China,微信公眾號(hào):NVIDIA英偉達(dá)】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論