精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

摩爾線程與智譜AI完成大模型性能測試與適配

CHANBAEK ? 來源:網絡整理 ? 2024-06-14 16:40 ? 次閱讀

近日,摩爾線程與智譜AI人工智能領域開展了一輪深入的合作,共同對GPU大模型進行了適配及性能測試。此次測試不僅涵蓋了大模型的推理能力,還涉及了基于摩爾線程夸娥(KUAE)千卡智算集群的大模型預訓練,旨在全面評估摩爾線程GPU在大模型應用中的性能表現。

在推理性能測試中,摩爾線程自研的全功能GPU展現出了卓越的性能。與基準對比產品RTX 3090和RTX 4090相比,摩爾線程的GPU在全部測試用例中均優于RTX 3090,而在多batch情況下更是超越了RTX 4090。這一結果充分證明了摩爾線程GPU在推理能力上的出色表現,為用戶提供了更加高效、準確的計算體驗。

在訓練性能測試中,摩爾線程夸娥千卡智算集群同樣展現出了強大的性能。測試結果顯示,夸娥千卡智算集群的訓練精度與A100集群誤差在1%以內,這一數據足以證明其在訓練過程中的精確度和穩定性。同時,夸娥千卡智算集群的性能擴展系數超過90%,意味著在分布式計算環境下,該集群能夠充分利用各節點的計算能力,實現高效的并行計算。此外,模型算力利用率(MFU)與A100集群相當,進一步證明了夸娥千卡智算集群在大模型訓練中的高效性。

此次測試的成功不僅為摩爾線程和智譜AI的合作奠定了堅實的基礎,也為雙方在人工智能領域的深入探索提供了有力的技術支撐。未來,雙方將繼續攜手合作,共同推動GPU大模型在更多領域的應用和發展。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • AI
    AI
    +關注

    關注

    87

    文章

    30239

    瀏覽量

    268472
  • 人工智能
    +關注

    關注

    1791

    文章

    46896

    瀏覽量

    237660
  • 摩爾線程
    +關注

    關注

    2

    文章

    199

    瀏覽量

    4521
收藏 人收藏

    評論

    相關推薦

    摩爾線程完成股改,籌備上市

    近日,摩爾線程智能科技(北京)股份有限公司(簡稱“摩爾線程”)宣布已完成股改,并正積極籌備上市。據國家企業信用信息公示系統最新查詢結果顯示,
    的頭像 發表于 11-12 14:15 ?347次閱讀

    摩爾線程GPU與超圖軟件大模型適配:共筑國產地理空間AI新生態

    10月24日,摩爾線程公司宣布與超圖軟件達成重要合作里程碑。經過雙方的嚴格測試,摩爾線程的MTT S/X系列全功能GPU已成功與超圖軟件最新
    的頭像 發表于 10-24 11:29 ?580次閱讀

    摩爾線程與超圖軟件完成產品兼容認證

    10月24日,摩爾線程官方正式對外宣布,其MTT S/X系列全功能GPU已成功與超圖軟件最新發布的大模型系列產品完成產品兼容認證。這一消息的發布標志著雙方在GPU與軟件
    的頭像 發表于 10-24 10:25 ?392次閱讀

    摩爾線程與羽人科技完成大語言模型訓練測試

    近日,摩爾線程與羽人科技攜手宣布,雙方已成功實現夸娥(KUAE)千卡智算集群與羽人系列模型解決方案的訓練兼容適配。在本次測試中,羽人科技通過
    的頭像 發表于 08-27 16:19 ?504次閱讀

    摩爾線程正式開源音頻理解大模型MooER

    近日,國內領先的GPU創新企業摩爾線程宣布了一項重大技術突破——正式開源其自主研發的音頻理解大模型MooER(摩耳)。這一舉動標志著我國在音頻處理與理解領域邁出了堅實的一步,特別是在基于國產硬件的
    的頭像 發表于 08-27 15:24 ?461次閱讀

    摩爾線程攜手智源研究院完成基于Triton的大模型算子庫適配

    近日,摩爾線程與北京智源人工智能研究院(簡稱:智源研究院)已順利完成基于Triton語言的高性能算子庫FlagGems的適配工作。得益于
    的頭像 發表于 08-02 11:06 ?786次閱讀

    摩爾線程攜手東華軟件完成AI模型推理測試適配

    近日,摩爾線程與東華軟件云筑AI創新中心宣布,雙方已完成大模型推理測試
    的頭像 發表于 07-31 10:51 ?696次閱讀

    摩爾線程和樂創能源簽署戰略合作協議

    近日,摩爾線程和樂創能源簽署了戰略合作協議,雙方將聚焦能源大模型的創新與應用,圍繞新能源領域的電池、新能源發電、負荷管理、需求側響應等產品技術方向,共同研發能源大模型。依托
    的頭像 發表于 07-11 14:35 ?683次閱讀

    摩爾線程與羽人科技攜手完成7B大模型訓練測試

    近日,摩爾線程與羽人科技聯合宣布了一項重要成果:雙方已成功實現夸娥(KUAE)千卡智算集群與羽人系列模型解決方案的訓練兼容適配。這一成果不僅標志著兩大技術巨頭在人工智能領域的深度合作取
    的頭像 發表于 06-14 16:33 ?460次閱讀

    摩爾線程與師者AI攜手完成70億參數教育AI模型訓練測試

    近日,國內知名的GPU制造商摩爾線程與全學科教育AI模型“師者AI”聯合宣布,雙方已成功完成
    的頭像 發表于 06-14 16:31 ?540次閱讀

    摩爾線程和滴普科技完成大模型訓練與推理適配

    近日,摩爾線程與滴普科技宣布了一項重要合作成果。摩爾線程的夸娥(KUAE)千卡智算集群與滴普科技的企業大模型Deepexi已
    的頭像 發表于 05-30 10:14 ?521次閱讀

    摩爾線程千卡智算集群與滴普企業大模型完成訓練及推理適配

    近日,摩爾線程與國內領先的數據智能服務商滴普科技共同宣布,摩爾線程夸娥(KUAE)千卡智算集群與滴普企業大模型Deepexi已
    的頭像 發表于 05-29 10:28 ?432次閱讀
    <b class='flag-5'>摩爾</b><b class='flag-5'>線程</b>千卡智算集群與滴普企業大<b class='flag-5'>模型</b>已<b class='flag-5'>完成</b>訓練及推理<b class='flag-5'>適配</b>

    摩爾線程與無問芯穹宣布完成基于GPU千卡集群的3B規模大模型實訓

    摩爾線程聯合無問芯穹宣布,雙方已在本周正式完成基于國產全功能GPU千卡集群的3B規模大模型實訓。
    的頭像 發表于 05-27 10:44 ?453次閱讀
    <b class='flag-5'>摩爾</b><b class='flag-5'>線程</b>與無問芯穹宣布<b class='flag-5'>完成</b>基于GPU千卡集群的3B規模大<b class='flag-5'>模型</b>實訓

    摩爾線程與Reportify聯手加速金融大模型創新應用

    近日,國內創新的AI投資研究問答搜索引擎Reportify成功集成了摩爾線程自研大語言模型MUSAChat的推理API云服務,并已正式上線,運行效果良好。
    的頭像 發表于 05-22 18:14 ?1273次閱讀

    摩爾線程助力AI模型訓練與計算升級,共建美好數字化未來

    此外,在中關村國際技術交易大會高精尖技術產品首發會上,摩爾線程與無問芯穹聯合宣布,雙方正致力于開發基于夸娥千卡智算集群的“MT-infini-3B”合作大模型摩爾
    的頭像 發表于 04-28 16:42 ?1015次閱讀