精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

用國產通用GPU打造中國版ChatGPT的算力底座

Felix分析 ? 來源:電子發燒友網 ? 作者:吳子鵬 ? 2023-03-01 01:05 ? 次閱讀

電子發燒友網報道(文/吳子鵬)據國信證券統計,ChatGPT今年1月的月活躍用戶超過1億,用戶過億只用了2至3個月,其速度遠超過去的推特、海外版抖音等。ChatGPT爆火之后,如何打造中國版的ChatGPT成為熱門話題,并且與之相關的AIGC以及其他AI大模型應用也都受到廣泛關注。

作為國內頭部通用GPU高端芯片及超級算力系統提供商,天數智芯認為,ChatGPT的推廣進一步驗證了人工智能給工作、生活帶來很大幫助,甚至不亞于工業革命的影響,可以親身體驗到其帶來的效率上的提升。這種應用是建立在巨大算力模型訓練基礎上帶來的智能處理,因此也帶動了0座的需求。

確實,隨著以ChatGPT為代表的AIGC應用大火,背后大模型訓練所需要的算力也隨之暴漲。統計數據顯示,ChatGPT的總算力消耗約為3640PF-days(即假如每秒計算一千萬億次,需要計算3640天),整體部署大約需要7-8個500P算力的數據中心。而根據微軟官網的消息,微軟Azure為OpenAI建設了一個單獨的超算中心,具有超過28.5萬個CPU核心、1萬個GPU和400 GB/s的GPU服務器網絡傳輸帶寬。

從成本上看,ChatGPT就像一個吞金獸。數據顯示,其運行一次的費用大概需要430萬美元。這主要是因為ChatGPT背后的預訓練大模型——GPT大模型的GPT-3.5版本是一個“龐然大物”。目前,GPT-3.5模型的參數規模已經達1750億,原始數據規模達45TB。

天數智芯表示,目前大模型參數已經突破千億,并有更高的要求,對于訓練芯片的通用性及兼容性有更高的要求。訓練芯片要能支持更多的算法及改進,而且由于算力需求的規模越來越大,甚至單個算力集群無法滿足,對于異構算力、多集群協同等方面有更高的要求,進而對于異構算力上的兼容性就會有更高的要求。同時,由于數據量的急劇提升,對于數據的隱私保護也會有所要求,對于隱私計算在訓練芯片上的支持也會有要求。

從微軟對ChatGPT的介紹能夠看出,這套系統除了模型預訓練和日常運行,Finetune模型調優也是關鍵一環。因此,確實如天數智芯所言,雖然ChatGPT目前的算力規模和運行費用很高,但是這些數字還會與日俱增。

隨著ChatGPT在全球范圍內大火,目前國內眾多科技巨頭也相繼宣布,將推出自己的類ChatGPT應用。比如國內的百度,根據百度創始人、董事長兼首席執行官李彥宏在一封名為“百度站在AI浪潮之巔”的內部信中表示,百度即將在3月份推出新一代的大語言模型“文心一言”。這也是繼“文心一格”(AI作畫)、“文心百中”(產業搜索)之后,百度推出的又一大重磅的AI大模型應用。

在中國版ChatGPT不斷涌現后,算力芯片作為供給端核心環節將率先受益,而其中又以擁有數量眾多的計算單元和超長的流水線的通用GPU需求最為迫切。天數智芯表示,大規模的普及應用會對大模型算法有更高的要求,很多科研及企業也投入到大模型算法的研究中,對于算法模型會有優化和改進,因此對于算力底座支持的通用性及擴展性有很高要求,因此一定程度上會降低對于定制化AI芯片的需求,促進通用GPU市場的發展。

天數智芯自2021年3月推出云端訓練通用GPU產品--天垓100,并于2022年12月推出云端推理通用GPU產品--智鎧100,截止目前,天數智芯訂單規模就已經突破5億元。目前,基于天垓100訓練的模型種類超過了兩百種。天數智芯表示,公司在訓練芯片上堅持通用GPU架構、主流生態兼容等發展路線,對于通用性、兼容性、安全性等方面都進行了支持,可以為ChatGPT的發展提供有效安全的算力底座。

當然,正如中信證券在研報中指出的,目前在通用GPU方面,國際廠商高精度浮點計算及CUDA生態方面還手握核心的技術壁壘,***和方案在軟硬件方面都還有一定的差距。對此,天數智芯回應稱,堅持通用GPU發展的路線,全面覆蓋訓練和推理兩條產品發展主線。結合行業解決方案為各行業、各產業發展提供完整成熟的軟硬件一體化方案。在未來的產品發展上,逐步縮小和國際先進產品的差距,為國內人工智能發展提供強有力的支持。

從中長期來看,ChatGPT的火爆以及中國版ChatGPT的陸續推出,對通用GPU有著巨大的需求。同時,國內AIGC市場將和信創市場出現疊加效應,讓天數智芯等相關廠商長期收益,并借此機會提升產品迭代的速度,逐漸達到國際領先水平。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • gpu
    gpu
    +關注

    關注

    28

    文章

    4703

    瀏覽量

    128718
  • ChatGPT
    +關注

    關注

    29

    文章

    1548

    瀏覽量

    7506
收藏 人收藏

    評論

    相關推薦

    GPU開發平臺是什么

    隨著AI技術的廣泛應用,需求呈現出爆發式增長。AI租賃作為一種新興的服務模式,正逐漸成為企業獲取
    的頭像 發表于 10-31 10:31 ?129次閱讀

    【一文看懂】大白話解釋“GPUGPU

    隨著大模型的興起,“GPU”這個詞正頻繁出現在人工智能、游戲、圖形設計等工作場景中,什么是GPU,它與CPU的區別是什么?以及到底什么是GPU
    的頭像 發表于 10-29 08:05 ?285次閱讀
    【一文看懂】大白話解釋“<b class='flag-5'>GPU</b>與<b class='flag-5'>GPU</b><b class='flag-5'>算</b><b class='flag-5'>力</b>”

    GPU租用平臺是什么

    GPU租用平臺是一種基于云計算的服務模式,它允許用戶通過互聯網按需租用高性能GPU資源,而無需自行購買、部署和維護這些硬件。
    的頭像 發表于 10-16 10:15 ?170次閱讀

    【「芯片 | 高性能 CPU/GPU/NPU 微架構分析」閱讀體驗】--全書概覽

    GPU、NPU,給我們剖析了芯片的微架構。書中有對芯片方案商處理器的講解,理論聯系實際,使讀者能更好理解芯片。 全書共11章,
    發表于 10-15 22:08

    名單公布!【書籍評測活動NO.43】 芯片 | 高性能 CPU/GPU/NPU 微架構分析

    。本書對華為等廠商推出的NPU芯片設計也做了架構描述,中國也擁有獨立自主知識產權的高芯片,并且支持多芯片、高帶寬互連。本書也回顧了近20年來主流的CPU、GPU芯片架構的特點,介紹
    發表于 09-02 10:09

    摩爾線程GPU底座助力大模型產業發展

    以大模型為代表的新一代人工智能技術是引領新一輪科技革命和產業變革的戰略性技術和重要驅動力量,隨著對需求的日益高漲,人工智能底座公司日
    的頭像 發表于 08-27 16:15 ?582次閱讀

    服務器為什么選擇GPU

    隨著人工智能技術的快速普及,需求日益增長。智中心的服務器作為支撐大規模數據處理和計算的核心設備,其性能優化顯得尤為關鍵。而GPU服務器也進入了大眾的視野,成為高性能計算的首選。那
    的頭像 發表于 07-25 08:28 ?516次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>服務器為什么選擇<b class='flag-5'>GPU</b>

    IaaS+on+DPU(IoD)+下一代高性能底座技術白皮書

    DPU 是當下基礎設施的核心創新之一。如果把 CPU 比做大腦,那么 GPU 就好比是肌肉,而 DPU 就是神經中樞。CPU 承載了應用生態,提供了通用
    發表于 07-24 15:32

    神州鯤泰亮相北京數字安全大會,以智能構筑數據安全的堅實底座

    GPU資源虛擬化或池化,完成跨集群之間的調度;打造異構智加速平臺HICA,屏蔽集群內底層
    的頭像 發表于 07-18 16:06 ?413次閱讀
    神州鯤泰亮相北京數字安全大會,以智能<b class='flag-5'>算</b><b class='flag-5'>力</b>構筑數據安全的堅實<b class='flag-5'>底座</b>

    壁仞科技參與中國移動呼和浩特智中心,共筑AI新基石

    的一步,也彰顯了國內企業在高端GPU技術研發與應用上的卓越成就。其中,壁仞科技作為國產GPU領域的佼佼者,以其壁礪?系列通用GPU
    的頭像 發表于 07-09 09:37 ?598次閱讀

    壁仞科技為中國移動呼和浩特智中心提供強大

    ? 隨著人工智能技術的飛速發展,高性能計算中心成為推動AI創新和應用的關鍵基礎設施。近日,中國移動智中心(呼和浩特)成功上線運營。國內領先的GPU企業壁仞科技的壁礪系列通用
    的頭像 發表于 07-05 17:16 ?1243次閱讀

    專注為通用人工智能底座筑基,燧原科技連續五年參加世界人工智能大會

    工智能大會(WAIC 2024)正式開幕。致力于為通用人工智能打造底座的燧原科技以 “芯火燎原”為主題,連續第五年參會。 大會期間,燧原
    的頭像 發表于 07-05 08:16 ?711次閱讀
    專注為<b class='flag-5'>通用</b>人工智能<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>底座</b>筑基,燧原科技連續五年參加世界人工智能大會

    中國電信規劃在上海建設首個國產超大規模液冷集群

    中國電信規劃建設首個國產超大規模液冷集群 人工智能技術的快速發展催生了巨大的需求;
    的頭像 發表于 02-22 18:48 ?1306次閱讀

    智能規模超通用,大模型對智能提出高要求

    的縮寫,即每秒所能夠進行的浮點運算數目(每秒浮點運算量)。 ? 可以分為通用、智能
    的頭像 發表于 02-06 00:08 ?6133次閱讀

    芯科技,解密ChatGPT暢聊之芯片

    GPU服務器,尤其是英偉達的A100 GPU,提供了強大而精確的計算能力。ChatGPT的功能遠超日常對話,它能夠學習、理解并生成人類般的文本,是人工智能領域的一個重要突破。但其真正力量的源泉,是背后那些不斷工作的
    的頭像 發表于 12-27 07:45 ?954次閱讀
    芯科技,解密<b class='flag-5'>ChatGPT</b>暢聊之<b class='flag-5'>算</b><b class='flag-5'>力</b>芯片