“大模型的未來在于行業應用”,對此業界已經達成了共識,下一步則是如何將大模型在行業中落地。
于是,我們能夠看到,既前一階段的基礎大模型之后,近來又掀起了行業大模型的熱潮。據粗略統計,僅在國內,已經和計劃發布的大模型就達到上百個。
那么,對于有志于大模型業務的IT企業來說,是不是只有這兩條路可走,是否存在第三條可達路徑呢?
軟通動力給出的答案是:不做通用大模型,而是為行業客戶提供平臺工具、專業人才和技術服務,與他們共創定制化的私有大模型,以此推動大模型行業應用的快速落地。
行業頭部企業將扮演重要角色
在第一波熱潮中,大模型的發布者主要是ICT企業,尤其以互聯網公司為主導。最近一段時間,各個行業的頭部企業也開始參與其中。
IDC前不久發布的報告預測,金融行業、能源行業等頭部機構,會率先在1年內在相對成熟的場景中嘗試引入大模型。而且,隨著技術的普及,行業頭部企業在該市場的角色,也不再只是最終用戶,而有望成為新一代AI技術的提供商。
無論作為最終用戶還是技術提供商,頭部企業參與行業大模型的趨勢已經建立,因為他們已經看到大模型能夠為企業降本增效,建立起業務競爭優勢。這些行業頭部企業,正是軟通動力所長期服務的客戶,也在大模型領域走在前列。
軟通動力數字化創新服務線副總裁霍宇認為,要做好行業大模型,企業需要在兩個方面加大投入,一是算力,二是語料。對于算力的重要性,大家已經都認識到了,其實語料對于行業大模型的訓練更為重要。
他表示,相比國外,國內的語料多集中在企業內部,可以公開獲得的則比較少。因此,他建議,行業客戶應該先“補數據的課”,把更多預算投入到提升大模型的輸入質量上,這樣不僅不耽誤時間,反而可以節省成本。
當然,在這一過程中,如何治理數據、如何把數據語料化、如何更好地訓練模型,都將是對企業能力的考驗。軟通動力正致力于幫助企業提升這些方面的能力,從而利用大模型來升級數智化轉型戰略,在外部產業鏈和內部企業管理兩個領域實現全面數字化。
堅持走與客戶共創的路徑
在過去半年時間里,ICT企業都紛紛加入到大模型產業當中,發揮自身專長來獲取一席之地。目前,圍繞大模型的產業生態正逐步形成,雖然這一生態體系仍不穩定,處于快速發展演化的過程中。
霍宇認為,軟通動力不做通用基礎大模型,因為這需要巨額投入,是行業頭部企業才能做的;也不會做通用行業大模型,因為軟通動力雖然懂行業,但缺乏相應的數據資源。因此,在行業大模型賽道里,軟通動力堅持走與客戶共創的路徑,為行業客戶提供數學建模、規則設定、模型優化等服務,幫助他們定制自己的私有大模型。這也可以充分發揮軟通動力的優勢:定制開發能力強、技術服務能力強。
在這一路徑中,軟通動力也堅持生態合作,在底層基礎設施和基礎大模型方面,與微軟、華為、亞馬遜、阿里云等巨頭合作——他們原本就是軟通動力的長期戰略伙伴。
在行業選擇方面,霍宇介紹說,金融、零售兩個行業是當前的重點。選擇這兩個行業,是因為他們的客戶是個人消費者,數據量比較充足,同時也是軟通動力長期服務的行業,對其業務邏輯非常熟悉。
在大模型的規模方面,軟通動力則側重在六七十億到一百多億參數量的行業大模型,因為這個規模的大模型最具性價比。
對于大模型這個新鮮事物,很多行業頭部企業都表達出了強烈的興趣,但需求并不明確,目前仍處于嘗試階段。對此,軟通動力決定自己先探路,今年在基礎算力方面預計會投入近億元,同時,搭建服務工具平臺,讓工程師們去“練手”?!拔磥磉€會繼續加大投入力度?!被粲畋硎?。
目前,行業大模型相對成熟的應用場景是軟件開發和知識管理,其中軟件開發是公司的主要業務。軟通動力正在利用大模型,來優化軟件工程研發及測試效率,爭取在年內實現提效30%的目標。在知識管理方面,軟通動力則開發了律師行業助手類應用LawCopilot,幫助律師進行文獻檢索、案例分析、錄音分析和法律咨詢。
不過,霍宇強調說,目前to B大模型的行業應用都處于Copilot的階段,即輔助人工進行駕駛,而達不到脫離人工的完全自動駕駛。
圍繞工具和人才進行能力打造
與傳統ICT生態類似,在大模型生態系統中,技術服務商扮演著為客戶提供貼身服務的關鍵角色。
IDC也認為,提供各種工具和服務,是大模型技術廠商的集中發力方向,包括模型訓練、部署和推理,以及相關的數據集、API和工具軟件等,以幫助開發者更加高效地使用大型模型,從而快速實現各種應用場景的落地。
軟通動力前不久發布了自己的模型即服務平臺——軟通天璇2.0 MaaS平臺。這一平臺包括三層,底層的大模型技術底座(L0級)、中間層的行業大模型(L1級)及管理、頂層的場景大模型應用(L2級);除此之外,軟通動力還為客戶提供大模型一站式運營服務、數據治理及安全服務。
在天璇2.0中,軟通動力訓推一體化平臺發揮了核心作用。其基于昇騰硬件底座+昇思MindSporeAI框架,采用軟通G420K訓練平臺和G210K推理平臺,整合歐拉操作系統等組件,搭載軟通自有AI中臺,為客戶提供多種交互式AI模型,深度適配不同AI應用場景,支持多模態場景,提供了涵蓋大模型訓練、測評、部署的一整套端到端的安全可信體系。
霍宇介紹說,軟通動力訓推一體化平臺,同時提供對商用和開源大模型的支持,客戶既可以直接接入商用大模型,也可以基于開源大模型進行本地化部署。實際上,大模型的開源化趨勢已經非常明顯,正在成為大模型生態的主流。
除了工具平臺,軟通動力也加緊致力于AI專業人才的培養,這也成為其在大模型生態中的核心競爭優勢之一。
毫無疑問,大模型的流行將帶來人才結構的變革,未來會需要大量的AI訓練師、機器學習工程師、數據科學家等新型人才。在霍宇看來,未來的AI人才,不僅需要懂AI,也需要懂架構。基于過去的業務積累,軟通動力已經儲備了一大批相關人才,目前正在加緊培訓及在內部的算力平臺上實踐,幫助他們實現從編碼邏輯到提示詞邏輯的轉換。
這些專業人才,將會幫助軟通動力的行業客戶構建自己的大模型,并最大程度地發揮大模型的作用,將其付諸落地實踐。
當下,基礎大模型的熱潮正在逐漸消退,但定制化大模型和大模型應用才剛剛開始。隨著應用的普及,大模型將帶來新的服務范式和商業模式。霍宇也認為,未來SaaS會被基于大模型的SaaS所取代。整個軟件領域甚至ICT行業生態的變革正在路上。
原文標題:與行業客戶共創,軟通動力大模型生態開辟新路徑
文章出處:【微信公眾號:軟通動力】歡迎添加關注!文章轉載請注明出處。
-
軟通動力
+關注
關注
1文章
758瀏覽量
15131
原文標題:與行業客戶共創,軟通動力大模型生態開辟新路徑
文章出處:【微信號:isoftstone-group,微信公眾號:軟通動力】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論