精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

為什么說MEMS-OXC在智算場景沒有未來?

腦極體 ? 來源:腦極體 ? 作者:腦極體 ? 2024-11-16 15:21 ? 次閱讀

wKgaomc4SAOAVDaWAAjpiSghgek785.jpg

智算中心是這一輪科技革命的算力“心臟”,更是國際科技博弈的長期焦點(diǎn)。智算中心建設(shè)方案,一直牽動著國人的神經(jīng)。

近期,OXC光交換技術(shù)在智算場景的應(yīng)用,走進(jìn)了大眾視野,這個技術(shù)及其解決方案,撐得起智算中心網(wǎng)絡(luò)嗎?

深入技術(shù)本質(zhì)、落地實(shí)踐、產(chǎn)業(yè)進(jìn)程來看,恐怕都要說一句,“OXC技術(shù)在智算場景其實(shí)沒有未來”。

技術(shù)上看,OXC光交換技術(shù)在智算場景中會面臨光電協(xié)同、不支持AI任務(wù)多對多傳輸?shù)燃夹g(shù)挑戰(zhàn),很難有效解決。

實(shí)踐上看,當(dāng)前業(yè)界僅谷歌一家商用MEMS-OXC設(shè)備,而谷歌TPU集群用OXC的核心目的是解決Torus拓?fù)涞目捎枚葐栴},但網(wǎng)絡(luò)可用度的短板其實(shí)是在接入端口,OXC不解決網(wǎng)絡(luò)可用度問題,所以實(shí)際上跟自動配線架沒有本質(zhì)區(qū)別。

產(chǎn)業(yè)上看,谷歌商用OXC全球僅此一家,根據(jù)LightCounting預(yù)測,到2029年OXC的全球市場空間約為5億美元,其中大部分是谷歌,產(chǎn)業(yè)規(guī)模僅為電交換的二十分之一。

綜合上述維度,不難得出結(jié)論,OXC技術(shù)在智算場景中只是配線架,無法真的規(guī)模化落地,也支撐不了超萬卡集群智算中心網(wǎng)絡(luò)。

接下來咱們就從技術(shù)的起點(diǎn)到產(chǎn)業(yè)的終點(diǎn),全面掀開智算場景MEMS-OXC的面紗。

wKgaomc4SAeART1xAAJKKFYm7RA130.jpg

簡單來說,OXC光交換技術(shù)就是在不同的光路徑之間進(jìn)行光信號交換。技術(shù)路徑包括MEMS、DLC、和DLBS。其中,MEMS技術(shù)是目前最主流的方案,MEMS-OXC設(shè)備也是目前唯一被谷歌這一家所商用的。

但在超萬卡集群的智算中心網(wǎng)絡(luò)中,MEMS-OXC發(fā)揮的作用其實(shí)就是配線架。

wKgZomc4SAeAf0g5AAHjE-kxA64434.jpg

我們先來看看,智算中心組網(wǎng)是怎么實(shí)現(xiàn)的。ODCC(開放數(shù)據(jù)中心委員會)發(fā)布的《AI數(shù)據(jù)中心網(wǎng)絡(luò)建網(wǎng)》報告提到,AI參數(shù)面網(wǎng)絡(luò)有兩層Spine—Leaf,以及三層CLOS架構(gòu)組網(wǎng),而在AI集群組網(wǎng)實(shí)踐中,通過三層組網(wǎng)達(dá)到十萬卡以上的組網(wǎng)規(guī)模。

目前,Meta、OpenAI、微軟等AI巨頭,都是通過從兩層向三層擴(kuò)展的組網(wǎng)模式,去構(gòu)建超大規(guī)模集群的,也就是在Leaf層、Spine層之外增加Core層。其中,兩層組網(wǎng)使用的是電交換機(jī)。比如目前業(yè)界唯一的OXC商用實(shí)踐——谷歌也采用的是光電混合架構(gòu)。

可以看到,智算中心網(wǎng)絡(luò)如果采用兩層組網(wǎng),不需要OXC;如果是三層組網(wǎng),MEMS -OXC設(shè)備在Core層主要發(fā)揮的作用是靈活配線,與自動配線架沒有本質(zhì)區(qū)別。

引入MEMS-OXC,不僅無法給網(wǎng)絡(luò)帶來增益,還可能制造出額外的問題:

首先,光電協(xié)同問題。

如果在第三層引入OXC光交換機(jī),但數(shù)據(jù)中心網(wǎng)絡(luò)底層用的還是電交換機(jī),這就需要光電之間的協(xié)同、通信、配合,對整個數(shù)據(jù)中心網(wǎng)絡(luò)的沖擊是比較大的。

舉個例子,OXC技術(shù)有靈活切換的特征,但對于整網(wǎng)來說,光交換機(jī)一會兒連通、一會兒斷開,這就需要整個接入層和Spine層,都要隨之進(jìn)行策略調(diào)整。

試想一下,智算場景下的大模型訓(xùn)練大多采用并行訓(xùn)練,業(yè)務(wù)流隨時變化,如果數(shù)據(jù)中心網(wǎng)絡(luò)隨時隨地在進(jìn)行秒級調(diào)整,那訓(xùn)練的可靠性就很難保證了。任何一個大模型研發(fā)團(tuán)隊,恐怕都無法接受訓(xùn)練的高頻中斷。

其次,OXC與AI業(yè)務(wù)的適配問題。

OXC光交換技術(shù)是不支持多對多通信的,只能進(jìn)行純物理的轉(zhuǎn)發(fā)。而在智算場景中,AI任務(wù)是有很多算法和算子的,不同算法的通信模式都不太一樣,可能需要一對多、多對一、多對多等多種轉(zhuǎn)發(fā)方式。這些算法的高效通信,OXC技術(shù)就很難滿足,導(dǎo)致相關(guān)智算業(yè)務(wù)無法開展。

第三大問題,就是OXC的耗能問題。

OXC光交換機(jī)的插損很大,也就是信號在光折射的過程中產(chǎn)生了衰減。那么為了彌補(bǔ)OXC的插損,就不得不采用更大功率或更長距離的光模塊,這又會導(dǎo)致能耗上升。此外,插損問題,還會導(dǎo)致光模塊速率無法演進(jìn)。

由于上述問題的存在,智算中心結(jié)合插損、功耗等多方面進(jìn)行考量,算一筆綜合賬,就會發(fā)現(xiàn)MEMS-OXC設(shè)備還不如自動配線架。

wKgZomc4SAiAXDpFAAIcFW0WLGw980.jpg

MEMS-OXC不如自動配線架的另一個關(guān)鍵因素,就是商用前景。

我們知道,一項(xiàng)新技術(shù)都必須在商業(yè)市場中完成閉環(huán),能夠通過使用來回收投資,才能吸引基礎(chǔ)設(shè)施的進(jìn)一步投入,形成良性循環(huán)。而OXC技術(shù)的產(chǎn)業(yè)化,良性商業(yè)閉環(huán)是很難的。

最首要的制約,是成本。

OXC技術(shù)的落地需要光交換機(jī)的大量使用,并且所有的相關(guān)器件如光模塊都需要進(jìn)行升級,這會導(dǎo)致前期投資巨大,綜合成本高。

ODCC(開放數(shù)據(jù)中心委員會)在《AI網(wǎng)絡(luò)光交換機(jī)技術(shù)報告》中提出,考慮到網(wǎng)絡(luò)系統(tǒng)和OCS(光交換機(jī))本身的挑戰(zhàn),從端口數(shù)量需求、切換時間需求、低成本、高可靠性、拓?fù)湟子诠芾淼染S度分析,光交換機(jī)還需要優(yōu)化設(shè)計以降低插損和回波損耗,以及探索與電交換機(jī)組網(wǎng)方案來降低成本等。

而上述投資,都需要從產(chǎn)業(yè)用戶身上完成商業(yè)回報。但如前所說,受限于光交換技術(shù)本身的瓶頸,許多AI任務(wù)及場景是短期內(nèi)難以落地的,這就導(dǎo)致OXC的商業(yè)不確定性強(qiáng)。

這樣綜合考慮下來,就導(dǎo)致業(yè)界落地OXC的步伐明顯冷靜,基本處于觀望狀態(tài)。

wKgZomc4SAmAePzrAAInWq12bXU698.jpg

技術(shù)不是生存在真空之中的,是寄生在人才、資金、產(chǎn)業(yè)、實(shí)體經(jīng)濟(jì)等多重因素的現(xiàn)實(shí)中。

中國智算產(chǎn)業(yè)仍處于追趕階段,資源、人才等都相對不足,既要把握發(fā)展前景與機(jī)遇,也要面對當(dāng)下生存、商業(yè)的現(xiàn)實(shí)挑戰(zhàn),甚至有的還要處理歷史遺留問題。

這種情況下,如果國內(nèi)智算產(chǎn)業(yè)將寶貴的資源,投入并不適合用來組網(wǎng)的OXC身上,可能會導(dǎo)致一系列連鎖反應(yīng)。

比如產(chǎn)業(yè)資源的分散,智算中心建設(shè)昂貴,而在組網(wǎng)規(guī)模、插損、功耗、成本等方面都沒有優(yōu)勢的OXC設(shè)備,意味著低效投資,降低科技企業(yè)的抗風(fēng)險能力。

MEMS-OXC設(shè)備在智算集群中的落地效果并不顯著,解決不了網(wǎng)絡(luò)可用度問題,引入OXC會影響到AI算力的傳輸與供給,進(jìn)而阻礙AI訓(xùn)練、AI推理等業(yè)務(wù)的韌性開展。

更需要警惕的是,對OXC路線的炒作,可能導(dǎo)致國內(nèi)智算錯過對其他技術(shù)路線的探索,由此帶來的機(jī)會成本,是無法估量的。

所以,只能作為自動配線架的OXC,并不適合成為智算中心組網(wǎng)的選擇,在智算場景沒有未來。眼下,中國智算產(chǎn)業(yè)真正該做的,是把自身在成熟交換技術(shù)、現(xiàn)有寶貴資源、產(chǎn)業(yè)智能化機(jī)遇等方面的核心優(yōu)勢,進(jìn)一步發(fā)揮好。

wKgZomc4SAqAJzypAAGrMtiW8nA842.jpg

審核編輯 黃宇

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    30106

    瀏覽量

    268398
  • 智算中心
    +關(guān)注

    關(guān)注

    0

    文章

    55

    瀏覽量

    1647
收藏 人收藏

    評論

    相關(guān)推薦

    RISC-V與ARM相同頻率下的力相同嗎?

    目前來講RISC-V的頻率一般來講會更高一些,STM32G030C8T6和CH32V203相比,CH32V203C8T6具有更高的頻率和更低廉的價格,很多應(yīng)用場景都可以互換,但是真的很好奇會不會在運(yùn)行中反而STM32G030的
    發(fā)表于 11-23 11:05

    全球視野 領(lǐng)未來,施耐德電氣助力數(shù)據(jù)中心把握智算機(jī)遇

    近日,2024年數(shù)據(jù)中心標(biāo)準(zhǔn)大會(CDCC)上,由產(chǎn)業(yè)技術(shù)的全球領(lǐng)導(dǎo)者施耐德電氣主辦的、以“全球視野,領(lǐng)未來”為主題的智未來之?dāng)?shù)據(jù)中心
    的頭像 發(fā)表于 11-21 15:50 ?124次閱讀
    全球視野 <b class='flag-5'>算</b>領(lǐng)<b class='flag-5'>未來</b>,施耐德電氣助力數(shù)據(jù)中心把握智算機(jī)遇

    嵌入式系統(tǒng)的未來趨勢有哪些?

    (ML)技術(shù)的快速發(fā)展,嵌入式系統(tǒng)將更多地整合這些先進(jìn)技術(shù),以支持智能決策和自動化。設(shè)備上直接運(yùn)行AI和ML模型,進(jìn)行圖像識別、自然語言處理、預(yù)測分析等任務(wù),將極大提升嵌入式系統(tǒng)的智能化水平。比如
    發(fā)表于 09-12 15:42

    RISC-V中國的發(fā)展機(jī)遇有哪些場景

    聯(lián)網(wǎng)市場的重要參與者,擁有龐大的用戶基數(shù)和豐富的應(yīng)用場景。RISC-V中國的發(fā)展將受益于這一市場需求的增長。 2. 人工智能(AI) AI力需求:隨著人工智能技術(shù)的廣泛應(yīng)用,對
    發(fā)表于 07-29 17:14

    中國力中心市場持續(xù)增長,智能力規(guī)模快速崛起

    7月24日,中國信息通信研究院(簡稱“中國信通院”)權(quán)威發(fā)布了《中國力中心服務(wù)商分析報告(2024年)》,該報告深入剖析了中國力中心市場的現(xiàn)狀與未來趨勢,揭示了我國全球
    的頭像 發(fā)表于 07-24 15:25 ?422次閱讀

    力系列基礎(chǔ)篇——力與計算機(jī)性能:解鎖超能力的神秘力量!

    力系列基礎(chǔ)篇——力101:從零開始了解力》中,相信各位粉絲初步了解到人工智能的“發(fā)動機(jī)”和核心驅(qū)動力:力!
    的頭像 發(fā)表于 07-11 08:04 ?104次閱讀
    <b class='flag-5'>算</b>力系列基礎(chǔ)篇——<b class='flag-5'>算</b>力與計算機(jī)性能:解鎖超能力的神秘力量!

    MWC 2024聚焦:中國電信智實(shí)踐引領(lǐng)未來

    成果。其中,“AI智 領(lǐng)航未來”成為此次展覽中的一大亮點(diǎn),充分展現(xiàn)了中國電信基礎(chǔ)設(shè)施及平臺方面的深厚實(shí)力與卓越成就。
    的頭像 發(fā)表于 06-28 11:46 ?741次閱讀

    數(shù)字孿生場景構(gòu)建的未來發(fā)展

    工業(yè)制造、城市規(guī)劃、醫(yī)療保健、農(nóng)業(yè)等。隨著數(shù)字孿生技術(shù)的不斷發(fā)展和應(yīng)用,未來數(shù)字孿生場景將呈現(xiàn)出以下發(fā)展趨勢: 1.智能化與自動化:未來的數(shù)字孿生場景將更加智能化和自動化。通過結(jié)合人工
    的頭像 發(fā)表于 06-11 14:57 ?293次閱讀
    數(shù)字孿生<b class='flag-5'>場景</b>構(gòu)建的<b class='flag-5'>未來</b>發(fā)展

    壁仞科技加入中國移動“融創(chuàng)未來力網(wǎng)絡(luò)創(chuàng)新聯(lián)合體

    近日,以“力網(wǎng)絡(luò)點(diǎn)亮AI新時代”為主題的2024中國移動力網(wǎng)絡(luò)大會在蘇州舉行。作為中國移動的力合作伙伴,壁仞科技加入“融創(chuàng)未來力網(wǎng)
    的頭像 發(fā)表于 04-30 09:36 ?854次閱讀
    壁仞科技加入中國移動“融創(chuàng)<b class='flag-5'>未來</b>”<b class='flag-5'>算</b>力網(wǎng)絡(luò)創(chuàng)新聯(lián)合體

    力系列基礎(chǔ)篇——力101:從零開始了解

    相信大家已經(jīng)感受到,我們正處在一個人工智能時代。如果要問人工智能時代最重要的是什么?那必須是:力!力!力!(重要的事情三遍)作為推
    的頭像 發(fā)表于 04-24 08:05 ?1002次閱讀
    <b class='flag-5'>算</b>力系列基礎(chǔ)篇——<b class='flag-5'>算</b>力101:從零開始了解<b class='flag-5'>算</b>力

    能RADXA微服務(wù)器試用體驗(yàn)】Radxa Fogwise 1684X Mini 規(guī)格

    ——能杯的選用硬件之一。 BM1684X是能出的一款智能視覺深度學(xué)習(xí)處理器,視頻處理方面的性能非常的強(qiáng)勁: 所能使用的應(yīng)用場景,也非常的多:
    發(fā)表于 02-28 11:21

    MEMS行業(yè)格局,重新洗牌

    來源:內(nèi)容由半導(dǎo)體行業(yè)觀察(ID:icbank)編譯自elektroniknet,謝謝。 美國和歐洲通脹率下降表明終端消費(fèi)市場溫和復(fù)蘇,從而帶動該領(lǐng)域 MEMS 需求的復(fù)蘇。汽車領(lǐng)域,汽車電氣化
    的頭像 發(fā)表于 02-20 08:38 ?209次閱讀
    <b class='flag-5'>MEMS</b>行業(yè)格局,重新洗牌

    MEMS行業(yè)格局,重新洗牌!

    來源:半導(dǎo)體行業(yè)觀察,謝謝 編輯:感知芯視界 Link 美國和歐洲通脹率下降表明終端消費(fèi)市場溫和復(fù)蘇,從而帶動該領(lǐng)域 MEMS 需求的復(fù)蘇。汽車領(lǐng)域,汽車電氣化和自動駕駛將帶動MEMS需求
    的頭像 發(fā)表于 02-04 09:35 ?668次閱讀

    什么是通感一體化?通感一體化的應(yīng)用場景

    通感一體化可廣泛應(yīng)用于智能家居、智慧城市、智慧交通、醫(yī)療健康等方面。文檔君為大家搜集了一些典型的應(yīng)用場景。 智能家居 通感一體化利用基站或者Wi-Fi路由器為智能家居系統(tǒng)提供更加豐富的功能。
    發(fā)表于 01-18 16:12 ?1.1w次閱讀
    什么是通感<b class='flag-5'>算</b>一體化?通感<b class='flag-5'>算</b>一體化的應(yīng)用<b class='flag-5'>場景</b>

    福英達(dá)淺談MEMS封裝焊接技術(shù)

    是IC封裝的延伸,MEMS的高度復(fù)雜性加大了封裝難度和成本。通常來說MEMS封裝成本占到了總設(shè)備費(fèi)用的一半或更高,是因?yàn)?b class='flag-5'>MEMS的獨(dú)特性導(dǎo)致沒有標(biāo)準(zhǔn)的封裝技術(shù)。傳統(tǒng)的IC封裝需要提供芯
    的頭像 發(fā)表于 01-17 08:59 ?296次閱讀