ChatGPT在全球范圍內掀起了一場技術革命與商業浪潮,AI 市場也迎來了前所未有的機遇。伴隨著大模型的快速崛起及廣泛應用,底層算力的支撐作用愈發凸顯。順應技術發展潮流,天數智芯從硬件、軟件兩個角度推動戰略升級,打造高性價比、廣通用性的全棧式集群解決方案,為大模型時代提供強大算力底座。
天數智芯的通用GPU產品天垓、智鎧系列具有自主可控、高性能、通用性、靈活性等特點,廣泛支持PyTorch、TensorFlow、PaddlePaddle 等各種原生框架,支撐了200余種人工智能算法模型穩定運行。在此基礎上,天數智芯自主研發了IXCCL分布式通信技術,顯著提升多機多卡高速互聯性能,打造基于自主通用GPU的算力集群方案,持續優化自動混精訓練、流水線并行、張量并行、數據并行以及模型并行等并行加速策略,讓大模型訓練、推理變得更加高效。
天數智芯通用GPU產品天垓、智鎧系列
在合作伙伴的大力支持和共同努力下,天數智芯自主算力集群方案不僅能夠有效支持OPT、LLaMa、GPT-2、CPM、GLM等主流AIGC大模型的Pretrain和Finetune,還適配支持了清華、智源、復旦等在內的國內多個研究機構的開源大模型,取得了大模型適配支持階段性成果。如,由清華技術成果轉化的智譜AI公司推出了基于千億基座模型的ChatGLM,采用天數智芯算力集群方案無需修改代碼即可跑通GLM 6B開源版,節省了大量時間成本和運營成本,讓客戶無痛使用。結果顯示,在問答環節,基于天數智芯算力集群的ChatGLM能夠快速響應用戶問題,并較精準給出回答。
天數智芯自主算力集群方案
全新的人工智能時代正呼嘯而來,海量數據洪流和大模型應用需求爆發將繼續拉動算力規模成倍增長。天數智芯將始終堅持開發自主可控、國際領先的高性能通用GPU產品,不斷升級算力解決方案,適配支持更多參數量、更大數據集、更復雜算法的大模型,為我國大模型創新發展、應用落地提供更加堅實的算力支撐。
關于天數智芯
上海天數智芯半導體有限公司(簡稱“天數智芯”)于2018年正式啟動通用GPU芯片設計,是中國第一家通用GPU高端芯片及超級算力系統提供商。公司以“成為智能社會的賦能者”為使命,立足客戶、市場的需求,致力于開發自主可控、國際領先的高性能通用GPU產品,探索通用GPU趕超發展道路,加快建設自主產業生態,打造世界一流的算力引擎,以更可信、更高效、更綠色的算力賦能各行各業智能化轉型,促進我國數字經濟高質量發展,開啟中國引領世界走向元宇宙、數字孿生的嶄新一頁。
審核編輯 :李倩
-
人工智能
+關注
關注
1791文章
46853瀏覽量
237544 -
天數智芯
+關注
關注
0文章
94瀏覽量
5530 -
ChatGPT
+關注
關注
29文章
1548瀏覽量
7490
原文標題:天數智芯取得大模型適配支持階段性成果
文章出處:【微信號:IluvatarCoreX,微信公眾號:天數智芯】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論