精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

沐曦彭莉談后GPT時(shí)代的算力需求

沐曦MetaX ? 來(lái)源:沐曦MetaX ? 2023-08-22 10:26 ? 次閱讀

近日,2023中國(guó)算力大會(huì)在寧夏銀川舉行,沐曦集成電路(上海)有限公司(下稱“沐曦”)聯(lián)合創(chuàng)始人、CTO兼首席硬件架構(gòu)師彭莉受邀出席由中國(guó)信息通信研究院、中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)聯(lián)合舉辦的智能計(jì)算論壇,并擔(dān)任演講嘉賓,探討后GPT時(shí)代算力需求激增帶來(lái)的挑戰(zhàn)以及GPU如何突破算力供需瓶頸、推動(dòng)人工智能產(chǎn)業(yè)普惠化發(fā)展。

在題為“后GPT時(shí)代的算力需求”的演講中,彭莉預(yù)測(cè)大模型商業(yè)模式將分為通用計(jì)算市場(chǎng)和專用定制化市場(chǎng)兩大類:在通用計(jì)算市場(chǎng),大語(yǔ)言模型將終結(jié)多數(shù)NLP任務(wù),NLP技術(shù)水平被強(qiáng)行拉平,通用大模型或被大廠“壟斷”;而在專用定制化市場(chǎng),開源大模型將呈現(xiàn)百花齊放的發(fā)展態(tài)勢(shì),可針對(duì)私有數(shù)據(jù)、敏感數(shù)據(jù)進(jìn)行快速定制和領(lǐng)域?qū)R,大模型開發(fā)和部署能力將趨于普及化。

彭莉指出,區(qū)別于傳統(tǒng)AI,生成式AI技術(shù)可以借助接入類ChatGPT應(yīng)用發(fā)揮顯著的技術(shù)優(yōu)勢(shì),為大語(yǔ)言模型的開發(fā)降本增效,同時(shí)也對(duì)算力提出更高和更迫切的要求。由于大模型訓(xùn)練的一次性成本被大規(guī)模推理攤薄,大模型盈利的一大難點(diǎn)是降低推理成本。沐曦致力于打造高效通用的GPU芯片及軟硬件一體的生態(tài)解決方案,通過(guò)GPU軟件生態(tài)優(yōu)勢(shì)、硬件架構(gòu)優(yōu)勢(shì)、先進(jìn)封裝等方面全面提升GPU算力,降低大模型訓(xùn)練和推理的算力成本,在產(chǎn)品路線和生態(tài)戰(zhàn)略上均可滿足大模型對(duì)算力基礎(chǔ)設(shè)施的大規(guī)模需求,為推進(jìn)智能產(chǎn)業(yè)可持續(xù)發(fā)展打造堅(jiān)實(shí)的算力底座。

關(guān)于沐曦

沐曦致力于為異構(gòu)計(jì)算提供安全可靠的GPU芯片及解決方案,打造全棧GPU芯片產(chǎn)品,推出曦思N系列GPU用于AI推理,曦云C系列GPU用于千億參數(shù)AI大模型訓(xùn)練及通用計(jì)算,以及曦彩G系列GPU用于圖形渲染,滿足數(shù)據(jù)中心對(duì)“高能效”及“高通用性”的算力需求。沐曦產(chǎn)品均采用完全自主研發(fā)的GPU IP,擁有完全自主的指令集和架構(gòu),配以兼容主流GPU生態(tài)的完整軟件棧(MXMACA),具備高能效和高通用性的天然優(yōu)勢(shì),能夠?yàn)榭蛻魳?gòu)建軟硬件一體的全面生態(tài)解決方案,是“雙碳”背景下推動(dòng)數(shù)據(jù)中心建設(shè)和產(chǎn)業(yè)數(shù)字化、智能化轉(zhuǎn)

審核編輯:湯梓紅
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 集成電路
    +關(guān)注

    關(guān)注

    5381

    文章

    11385

    瀏覽量

    360875
  • gpu
    gpu
    +關(guān)注

    關(guān)注

    28

    文章

    4701

    瀏覽量

    128706
  • 智能計(jì)算
    +關(guān)注

    關(guān)注

    0

    文章

    176

    瀏覽量

    16454
  • 沐曦
    +關(guān)注

    關(guān)注

    0

    文章

    26

    瀏覽量

    1142

原文標(biāo)題:沐曦彭莉:后GPT時(shí)代GPU如何降低算力門檻

文章出處:【微信號(hào):沐曦MetaX,微信公眾號(hào):沐曦MetaX】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏

    評(píng)論

    相關(guān)推薦

    芯片、模型生態(tài)分散,無(wú)問芯穹、、壁仞國(guó)產(chǎn)瓶頸破局之道

    ? 電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)近日,2024世界人工智能大會(huì)正在舉行,無(wú)問芯穹聯(lián)合創(chuàng)始人兼CEO夏立雪在大會(huì)論壇上談到一個(gè)現(xiàn)象,從GPT-3到GPT-4,無(wú)論是還是大模型能力都
    的頭像 發(fā)表于 07-07 11:14 ?4415次閱讀
    芯片、模型生態(tài)分散,無(wú)問芯穹、<b class='flag-5'>沐</b><b class='flag-5'>曦</b>、壁仞<b class='flag-5'>談</b>國(guó)產(chǎn)<b class='flag-5'>算</b><b class='flag-5'>力</b>瓶頸破局之道

    基礎(chǔ)篇:從零開始了解

    即計(jì)算能力(Computing Power),狹義上指對(duì)數(shù)字問題的運(yùn)算能力,而廣義上指對(duì)輸入信息處理實(shí)現(xiàn)結(jié)果輸出的一種能力。雖然處理的內(nèi)容不同,但處理過(guò)程的能力都可抽象為
    的頭像 發(fā)表于 11-15 14:22 ?347次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>基礎(chǔ)篇:從零開始了解<b class='flag-5'>算</b><b class='flag-5'>力</b>

    企業(yè)AI租賃是什么

    企業(yè)AI租賃是指企業(yè)通過(guò)互聯(lián)網(wǎng)向?qū)I(yè)的提供商租用所需的計(jì)算資源,以滿足其AI應(yīng)用的需求。以下是對(duì)企業(yè)AI
    的頭像 發(fā)表于 11-14 09:30 ?174次閱讀

    AI時(shí)代的重要性及現(xiàn)狀:平衡發(fā)展與優(yōu)化配置的挑戰(zhàn)

    在AI時(shí)代扮演著至關(guān)重要的角色。如果說(shuō)數(shù)據(jù)是AI大模型的“燃料”,那么則是其強(qiáng)大的“動(dòng)力引擎”。據(jù)資料顯示,為了訓(xùn)練
    的頭像 發(fā)表于 11-04 11:45 ?313次閱讀

    GPU開發(fā)平臺(tái)是什么

    隨著AI技術(shù)的廣泛應(yīng)用,需求呈現(xiàn)出爆發(fā)式增長(zhǎng)。AI租賃作為一種新興的服務(wù)模式,正逐漸成為企業(yè)獲取
    的頭像 發(fā)表于 10-31 10:31 ?124次閱讀

    中國(guó)大會(huì)召開,業(yè)界首個(gè)高質(zhì)量評(píng)估體系發(fā)布

    首次完整地構(gòu)建了人工智能時(shí)代高質(zhì)量的理論體系,并探索性提出業(yè)界首個(gè) "五位一體"的高質(zhì)量評(píng)估體系。 發(fā)布現(xiàn)場(chǎng) 在當(dāng)前由大模型和AIG
    的頭像 發(fā)表于 09-28 16:50 ?235次閱讀
    中國(guó)<b class='flag-5'>算</b><b class='flag-5'>力</b>大會(huì)召開,業(yè)界首個(gè)<b class='flag-5'>算</b><b class='flag-5'>力</b>高質(zhì)量評(píng)估體系發(fā)布

    淺析三大之異同

    隨著一年多前ChatGPT的出現(xiàn)引爆人工智能(AI)浪潮,支撐大模型背后的“”概念突然闖進(jìn)我們的視野,成為科技圈炙手可熱的新詞,引領(lǐng)著最新潮流。作為數(shù)字經(jīng)濟(jì)時(shí)代新生產(chǎn),也許不少人
    的頭像 發(fā)表于 08-30 12:56 ?633次閱讀
    淺析三大<b class='flag-5'>算</b><b class='flag-5'>力</b>之異同

    大模型時(shí)代需求

    現(xiàn)在AI已進(jìn)入大模型時(shí)代,各企業(yè)都爭(zhēng)相部署大模型,但如何保證大模型的,以及相關(guān)的穩(wěn)定性和性能,是一個(gè)極為重要的問題,帶著這個(gè)極為重要的問題,我需要在此書中找到答案。
    發(fā)表于 08-20 09:04

    摩爾線程張建中:以國(guó)產(chǎn)助力數(shù)智世界,滿足大模型需求

    摩爾線程創(chuàng)始人兼CEO張建中在會(huì)上透露,為了滿足國(guó)內(nèi)對(duì)AI的迫切需求,他們正在積極尋求與國(guó)內(nèi)頂尖科研機(jī)構(gòu)的深度合作,共同推動(dòng)更大規(guī)模的AI智集群項(xiàng)目。
    的頭像 發(fā)表于 05-10 16:36 ?889次閱讀

    力系列基礎(chǔ)篇——101:從零開始了解

    相信大家已經(jīng)感受到,我們正處在一個(gè)人工智能時(shí)代。如果要問在人工智能時(shí)代最重要的是什么?那必須是:
    的頭像 發(fā)表于 04-24 08:05 ?1002次閱讀
    <b class='flag-5'>算</b>力系列基礎(chǔ)篇——<b class='flag-5'>算</b><b class='flag-5'>力</b>101:從零開始了解<b class='flag-5'>算</b><b class='flag-5'>力</b>

    液冷是大模型對(duì)需求的必然選擇?|英偉達(dá) GTC 2024六大亮點(diǎn)

    在這個(gè)以高性能計(jì)算和大模型推動(dòng)未來(lái)通用人工智能時(shí)代已成為科技發(fā)展的隱形支柱。本文將重點(diǎn)探討的演進(jìn),深入分析在不同領(lǐng)域中
    的頭像 發(fā)表于 04-10 12:57 ?507次閱讀
    液冷是大模型對(duì)<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>需求</b>的必然選擇?|英偉達(dá) GTC 2024六大亮點(diǎn)

    時(shí)代, 如何打破內(nèi)存墻

    設(shè)計(jì)的不斷革新,進(jìn)入了大時(shí)代。 目前,主流AI芯片的架構(gòu)仍然沿用了傳統(tǒng)的馮·諾依曼模型,這一設(shè)計(jì)將計(jì)算單元與數(shù)據(jù)存儲(chǔ)分離。在這種架構(gòu)下,處理器需要從內(nèi)存中讀取數(shù)據(jù),執(zhí)行計(jì)算任務(wù),然后將結(jié)果寫回內(nèi)存。盡管AI芯片的
    的頭像 發(fā)表于 03-06 19:51 ?293次閱讀
    大<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>時(shí)代</b>, 如何打破內(nèi)存墻

    智能規(guī)模超通用,大模型對(duì)智能提出高要求

    的縮寫,即每秒所能夠進(jìn)行的浮點(diǎn)運(yùn)算數(shù)目(每秒浮點(diǎn)運(yùn)算量)。 ? 可以分為通用、智能
    的頭像 發(fā)表于 02-06 00:08 ?6113次閱讀

    大茉莉X16-P,5800M大稱王稱霸

    Rykj365
    發(fā)布于 :2024年01月25日 14:54:52

    夯實(shí)底座,順網(wǎng)科技業(yè)務(wù)全面升級(jí)

    解決行業(yè)的上網(wǎng)問題,演變?yōu)榻鉀Q行業(yè) “上好,用好AI” 的問題,真正實(shí)現(xiàn)順網(wǎng)新發(fā)展戰(zhàn)略—— “立足,聚焦AI” ,滿足AI智
    的頭像 發(fā)表于 01-22 09:20 ?372次閱讀
    夯實(shí)<b class='flag-5'>算</b><b class='flag-5'>力</b>底座,順網(wǎng)科技<b class='flag-5'>算</b><b class='flag-5'>力</b>業(yè)務(wù)全面升級(jí)