2023 年 7 日 -9 日，華為開發(fā)者大會(huì) 2023（Cloud）期間，華為發(fā)布盤古大模型 3.0。華為盤古大模型最早在 2021 年發(fā)布，發(fā)展到今天，盤古大模型已經(jīng)在金融、制造、醫(yī)藥研發(fā)、煤礦、鐵路等諸多行業(yè)發(fā)揮作用。

華為云 CTO 張宇昕在接受 InfoQ 采訪時(shí)表示，華為盤古大模型全棧技術(shù)均由華為自主創(chuàng)新，從算力到基礎(chǔ)的算子、基礎(chǔ)的框架到盤古的開發(fā)平臺(tái)以及模型均沒有采用任何開源技術(shù)。另外，由于華為云盤古大模型的定位是“AI for Industries”，這些行業(yè)大模型里沉淀了客戶的知識(shí)經(jīng)驗(yàn)，所以華為不會(huì)、也不可能把客戶的資產(chǎn)開放出來，也就是說盤古大模型不會(huì)開源，而是走商業(yè)閉源的道路。

據(jù)華為常務(wù)董事、華為云 CEO 張平安介紹，盤古大模型 3.0 是面向行業(yè)的大模型系列，包括“5+N+X”三層架構(gòu)：L0 層是 5 個(gè)基礎(chǔ)大模型，包括自然語言、視覺、多模態(tài)、預(yù)測、科學(xué)計(jì)算，提供滿足行業(yè)場景中的多種技能需求。

盤古 3.0 為客戶提供 100 億參數(shù)、380 億參數(shù)、710 參數(shù)和 1000 億參數(shù)的系列化基礎(chǔ)大模型，匹配客戶不同場景、不同時(shí)延、不同響應(yīng)速度的行業(yè)多樣化需求。同時(shí)提供全新能力集，包括 NLP 大模型的知識(shí)問答、文案生成、代碼生成，以及多模態(tài)大模型的圖像生成、圖像理解等能力，這些技能都可以供客戶和伙伴企業(yè)直接調(diào)用。無論多大參數(shù)規(guī)模的大模型，盤古提供一致的能力集。

L1 層是 N 個(gè)行業(yè)大模型，華為云既可以提供使用行業(yè)公開數(shù)據(jù)訓(xùn)練的行業(yè)通用大模型，包括政務(wù)，金融，制造，礦山，氣象等大模型；也可以基于行業(yè)客戶的自有數(shù)據(jù)，在盤古大模型的 L0 和 L1 層上，為客戶訓(xùn)練自己的專有大模型。

L2 層是為客戶提供 X 個(gè)細(xì)化場景的模型，更加專注于政務(wù)熱線、網(wǎng)點(diǎn)助手、先導(dǎo)藥物篩選、傳送帶異物檢測、臺(tái)風(fēng)路徑預(yù)測等具體行業(yè)應(yīng)用或特定業(yè)務(wù)場景，為客戶提供“開箱即用”的模型服務(wù)。

盤古大模型采用完全的分層解耦設(shè)計(jì)，一方面是為了快速適配、快速滿足行業(yè)的多變需求，背后更是華為希望借此構(gòu)筑出良好的商業(yè)模式的考慮。

在解耦的三層設(shè)計(jì)之上，客戶既可以為自己的大模型加載獨(dú)立的數(shù)據(jù)集，也可以單獨(dú)升級(jí)基礎(chǔ)模型，可以單獨(dú)升級(jí)能力集。在 L0 和 L1 大模型的基礎(chǔ)上，華為云還為客戶提供了大模型行業(yè)開發(fā)套件，通過對(duì)客戶自有數(shù)據(jù)的二次訓(xùn)練，客戶就可以擁有自己的專屬行業(yè)大模型。同時(shí)，根據(jù)客戶不同的數(shù)據(jù)安全與合規(guī)訴求，盤古大模型還提供了公用云、大模型云專區(qū)、混合云多樣化的部署形態(tài)。

張平安強(qiáng)調(diào)，盤古大模型的路標(biāo)圖價(jià)值將更注重于行業(yè)應(yīng)用的深化和擴(kuò)展。團(tuán)隊(duì)已經(jīng)在鐵路、煤礦、金融和政府等行業(yè)開展了大模型的應(yīng)用，并且還有許多行業(yè)需要大模型的支持。未來，團(tuán)隊(duì)將加快行業(yè)大模型的開發(fā)速度，并且在行業(yè)垂直領(lǐng)域深化應(yīng)用。

算力是訓(xùn)練大模型的基礎(chǔ)。本次大會(huì)上，張平安還宣布單集群 2000P Flops 算力的昇騰 AI 云服務(wù)在華為云的烏蘭察布和貴安 AI 算力中心同時(shí)上線。昇騰 AI 云服務(wù)除了支持華為全場景 AI 框架昇思 MindSpore 外，還支持 Pytorch、Tensorflow 等主流 AI 框架。

毫無疑問，大模型的投入是巨大的。不過張平安亦坦言，現(xiàn)階段討論盤古大模型的成本與收益還為時(shí)尚早，華為在貴陽和烏蘭察布投入了大量昇騰 AI 算力，并相信把昇騰 AI 算力做好之后，中國的許多行業(yè)以及重塑將會(huì)采用盤古大模型。