電子發(fā)燒友網(wǎng)報(bào)道(文/周凱揚(yáng))云服務(wù)作為目前市面上利潤(rùn)最大的市場(chǎng)之一,已然成了不少互聯(lián)網(wǎng)巨頭公司的主要業(yè)務(wù),而云服務(wù)供應(yīng)商中穩(wěn)坐頭號(hào)交椅的,自然是亞馬遜的AWS。作為占據(jù)全球市場(chǎng)近三分之一,在中國(guó)市場(chǎng)僅次于阿里云的公共云平臺(tái),亞馬遜的云業(yè)務(wù)成了它最賺錢的業(yè)務(wù),甚至在其零售業(yè)務(wù)開始虧損時(shí),也依然在一己之力撐起亞馬遜的利潤(rùn)率。
亞馬遜的AWS業(yè)務(wù)之所以能收獲這樣的成功,同樣離不開硬件。云服務(wù)市場(chǎng)初期的競(jìng)爭(zhēng)很簡(jiǎn)單,由于硬件用的都是英特爾、AMD這些廠商的服務(wù)器產(chǎn)品線,所以差距不大,只能靠虛擬化技術(shù)之類的軟件架構(gòu)以及更高的性價(jià)比來吸引客戶。但為了進(jìn)一步降低成本,云服務(wù)廠商們也紛紛開始自研芯片,亞馬遜、谷歌還有阿里巴巴都是如此。
一次成功的收購(gòu)
對(duì)于云服務(wù)的基石實(shí)例來說,虛擬化是至關(guān)重要的。亞馬遜此前用到的都是Xen這一開源虛擬化技術(shù),隨后在發(fā)現(xiàn)Xen在硬件虛擬化上的一些限制之后,亞馬遜開始轉(zhuǎn)向另一個(gè)開源虛擬化技術(shù)KVM。
但也正是這一轉(zhuǎn)變讓他們有了重大發(fā)現(xiàn),那就是盡管英特爾和AMD的服務(wù)器CPU在虛擬化上越來越成熟,但KVM能與ASIC緊密結(jié)合在一起反而能發(fā)揮出更大的優(yōu)勢(shì)。為此,他們決定發(fā)展自己的芯片設(shè)計(jì)業(yè)務(wù)。
2015年,亞馬遜以未公開的金額收購(gòu)了一家來自以色列的初創(chuàng)芯片公司Annapurna Labs,而這時(shí)的Annapurna Labs甚至沒有任何公開的產(chǎn)品,但亞馬遜很明顯看中了他們?cè)诜?wù)器芯片上的開發(fā)實(shí)力。果不其然,2015年起,帶有Annapurna Labs標(biāo)志的ASIC芯片開始出現(xiàn)在Project Nitro中,只不過大部分ASIC芯片都只是作為網(wǎng)絡(luò)/存儲(chǔ)卸載卡,上,每個(gè)實(shí)例的硬件主體大部分還是英特爾的x86 CPU。
亞馬遜自研CPU和AI芯片 / 亞馬遜
2018年,第一代AWS Graviton面世,作為亞馬遜自研的ARM服務(wù)器CPU方案,基于該處理器的實(shí)例在使用成本上要低于基于x86的方案,收獲了不少用戶的同時(shí),也擴(kuò)展了ARM的云端開發(fā)生態(tài)。這之后公布的第二代與第三代AWS Graviton,都為通用工作復(fù)雜提供了更高的性價(jià)比。
之所以有這么快的迭代速度,與亞馬遜以IP為導(dǎo)向的設(shè)計(jì)路線有關(guān)。以AWS Graviton2和Graviton3為例,這兩者分別運(yùn)用了ARM Neoverse N1和Neoverse V1的方案,并不需要亞馬遜像Ampere Computing這樣的服務(wù)器芯片廠商一樣,開始考慮自研ARM IP。
AI/ML帶來的新一波熱潮
提供通用計(jì)算托管平臺(tái)的亞馬遜也沒有止步于此,他們看上了新的市場(chǎng),那就是AI/ML。作為“新電力”的人工智能正在為各個(gè)行業(yè)帶去新的生機(jī),但所需的算力也成了轉(zhuǎn)型過程中最大的難題。最初大家指望用CPU來解決AI算力的問題,然而面對(duì)全新的計(jì)算方式,CPU很快就顯得心有余而力不足。
但要去做GPU需要的技術(shù)積累可不少,市面上也只有英偉達(dá)的GPU在AI/ML上打出了名號(hào),所以亞馬遜和許多AI芯片初創(chuàng)公司一樣,還是打算從ASIC上出發(fā),推出了Inferentia和Trainium這兩款推理和訓(xùn)練芯片。
不過Inferentia和Trainium與Graviton的定位是一樣的,亞馬遜并不指望從性能上打敗如日中天的GPU,而是希望提供一個(gè)成本更低延遲更低并支持更多算法的方案,繼續(xù)發(fā)揮云服務(wù)在即用即付這一高性價(jià)比商業(yè)模式上的優(yōu)勢(shì)。
與此同時(shí),亞馬遜作為全球市占比第一的云服務(wù)廠商,單靠自己的硬件是沒法實(shí)現(xiàn)這樣的地位的,所以無論是英偉達(dá)的GPU還是英特爾Habana Labs的AI加速器,亞馬遜也都有合作部署。
即便Inferentia和Trainium帶來了一定的成本和功耗優(yōu)勢(shì),但要想打破當(dāng)下以GPU主導(dǎo)的AI/ML生態(tài),還面臨著不少挑戰(zhàn),英偉達(dá)的CUDA已經(jīng)打造了一個(gè)相當(dāng)龐大的開發(fā)社區(qū),要想讓開發(fā)者遷移到ASIC硬件上,還有龐大的移植工作需要完成。這也是為何亞馬遜的Annapurna Labs部門目前開放的100多個(gè)職位中,硬件開發(fā)的其實(shí)只有10多位,余下的大部分還是軟件開發(fā)崗,大部分AI芯片初創(chuàng)公司也在面臨著這類困境,并非獨(dú)此一家。
結(jié)語
在大部分服務(wù)器CPU、AI/ML加速器初創(chuàng)公司眼中,直接把硬件賣給各大數(shù)據(jù)中心和互聯(lián)網(wǎng)公司并不是唯一的銷售途徑,能傍上亞馬遜、谷歌和阿里巴巴這樣的大腿不僅能盈利,還能提高自己產(chǎn)品的普及程度。
這也是為何Ampere Computing的Altra處理器開始陸續(xù)出現(xiàn)在Azure、谷歌云和阿里云等平臺(tái)上,云服務(wù)平臺(tái)自研芯片歸根結(jié)底還是為了提供性價(jià)比更高的方案,但他們的客戶還在猛增階段,只靠閉門造車肯定是沒法擴(kuò)大市場(chǎng)份額的,擁抱更大的硬件生態(tài)才能實(shí)現(xiàn)共贏。
亞馬遜的AWS業(yè)務(wù)之所以能收獲這樣的成功,同樣離不開硬件。云服務(wù)市場(chǎng)初期的競(jìng)爭(zhēng)很簡(jiǎn)單,由于硬件用的都是英特爾、AMD這些廠商的服務(wù)器產(chǎn)品線,所以差距不大,只能靠虛擬化技術(shù)之類的軟件架構(gòu)以及更高的性價(jià)比來吸引客戶。但為了進(jìn)一步降低成本,云服務(wù)廠商們也紛紛開始自研芯片,亞馬遜、谷歌還有阿里巴巴都是如此。
一次成功的收購(gòu)
對(duì)于云服務(wù)的基石實(shí)例來說,虛擬化是至關(guān)重要的。亞馬遜此前用到的都是Xen這一開源虛擬化技術(shù),隨后在發(fā)現(xiàn)Xen在硬件虛擬化上的一些限制之后,亞馬遜開始轉(zhuǎn)向另一個(gè)開源虛擬化技術(shù)KVM。
但也正是這一轉(zhuǎn)變讓他們有了重大發(fā)現(xiàn),那就是盡管英特爾和AMD的服務(wù)器CPU在虛擬化上越來越成熟,但KVM能與ASIC緊密結(jié)合在一起反而能發(fā)揮出更大的優(yōu)勢(shì)。為此,他們決定發(fā)展自己的芯片設(shè)計(jì)業(yè)務(wù)。
2015年,亞馬遜以未公開的金額收購(gòu)了一家來自以色列的初創(chuàng)芯片公司Annapurna Labs,而這時(shí)的Annapurna Labs甚至沒有任何公開的產(chǎn)品,但亞馬遜很明顯看中了他們?cè)诜?wù)器芯片上的開發(fā)實(shí)力。果不其然,2015年起,帶有Annapurna Labs標(biāo)志的ASIC芯片開始出現(xiàn)在Project Nitro中,只不過大部分ASIC芯片都只是作為網(wǎng)絡(luò)/存儲(chǔ)卸載卡,上,每個(gè)實(shí)例的硬件主體大部分還是英特爾的x86 CPU。
亞馬遜自研CPU和AI芯片 / 亞馬遜
2018年,第一代AWS Graviton面世,作為亞馬遜自研的ARM服務(wù)器CPU方案,基于該處理器的實(shí)例在使用成本上要低于基于x86的方案,收獲了不少用戶的同時(shí),也擴(kuò)展了ARM的云端開發(fā)生態(tài)。這之后公布的第二代與第三代AWS Graviton,都為通用工作復(fù)雜提供了更高的性價(jià)比。
之所以有這么快的迭代速度,與亞馬遜以IP為導(dǎo)向的設(shè)計(jì)路線有關(guān)。以AWS Graviton2和Graviton3為例,這兩者分別運(yùn)用了ARM Neoverse N1和Neoverse V1的方案,并不需要亞馬遜像Ampere Computing這樣的服務(wù)器芯片廠商一樣,開始考慮自研ARM IP。
AI/ML帶來的新一波熱潮
提供通用計(jì)算托管平臺(tái)的亞馬遜也沒有止步于此,他們看上了新的市場(chǎng),那就是AI/ML。作為“新電力”的人工智能正在為各個(gè)行業(yè)帶去新的生機(jī),但所需的算力也成了轉(zhuǎn)型過程中最大的難題。最初大家指望用CPU來解決AI算力的問題,然而面對(duì)全新的計(jì)算方式,CPU很快就顯得心有余而力不足。
但要去做GPU需要的技術(shù)積累可不少,市面上也只有英偉達(dá)的GPU在AI/ML上打出了名號(hào),所以亞馬遜和許多AI芯片初創(chuàng)公司一樣,還是打算從ASIC上出發(fā),推出了Inferentia和Trainium這兩款推理和訓(xùn)練芯片。
不過Inferentia和Trainium與Graviton的定位是一樣的,亞馬遜并不指望從性能上打敗如日中天的GPU,而是希望提供一個(gè)成本更低延遲更低并支持更多算法的方案,繼續(xù)發(fā)揮云服務(wù)在即用即付這一高性價(jià)比商業(yè)模式上的優(yōu)勢(shì)。
與此同時(shí),亞馬遜作為全球市占比第一的云服務(wù)廠商,單靠自己的硬件是沒法實(shí)現(xiàn)這樣的地位的,所以無論是英偉達(dá)的GPU還是英特爾Habana Labs的AI加速器,亞馬遜也都有合作部署。
即便Inferentia和Trainium帶來了一定的成本和功耗優(yōu)勢(shì),但要想打破當(dāng)下以GPU主導(dǎo)的AI/ML生態(tài),還面臨著不少挑戰(zhàn),英偉達(dá)的CUDA已經(jīng)打造了一個(gè)相當(dāng)龐大的開發(fā)社區(qū),要想讓開發(fā)者遷移到ASIC硬件上,還有龐大的移植工作需要完成。這也是為何亞馬遜的Annapurna Labs部門目前開放的100多個(gè)職位中,硬件開發(fā)的其實(shí)只有10多位,余下的大部分還是軟件開發(fā)崗,大部分AI芯片初創(chuàng)公司也在面臨著這類困境,并非獨(dú)此一家。
結(jié)語
在大部分服務(wù)器CPU、AI/ML加速器初創(chuàng)公司眼中,直接把硬件賣給各大數(shù)據(jù)中心和互聯(lián)網(wǎng)公司并不是唯一的銷售途徑,能傍上亞馬遜、谷歌和阿里巴巴這樣的大腿不僅能盈利,還能提高自己產(chǎn)品的普及程度。
這也是為何Ampere Computing的Altra處理器開始陸續(xù)出現(xiàn)在Azure、谷歌云和阿里云等平臺(tái)上,云服務(wù)平臺(tái)自研芯片歸根結(jié)底還是為了提供性價(jià)比更高的方案,但他們的客戶還在猛增階段,只靠閉門造車肯定是沒法擴(kuò)大市場(chǎng)份額的,擁抱更大的硬件生態(tài)才能實(shí)現(xiàn)共贏。
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。
舉報(bào)投訴
-
芯片
+關(guān)注
關(guān)注
454文章
50460瀏覽量
421976 -
亞馬遜
+關(guān)注
關(guān)注
8文章
2629瀏覽量
83206
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
美國(guó)大帶寬云服務(wù)器怎么用?完整教程來了
首先選擇一家靠譜的服務(wù)商,其次在服務(wù)商平臺(tái)上創(chuàng)建云服務(wù)器實(shí)例,第三,進(jìn)行遠(yuǎn)程連接,并配置
亞馬遜云科技成為店匠科技的首選云服務(wù)供應(yīng)商
在當(dāng)今日新月異的數(shù)字化時(shí)代,跨境電商領(lǐng)域的競(jìng)爭(zhēng)愈發(fā)激烈。深圳店匠科技有限公司,作為業(yè)內(nèi)知名的跨境電商解決方案提供商,始終致力于為客戶帶來前沿的技術(shù)體驗(yàn)與高效的業(yè)務(wù)支持。為了不斷推動(dòng)自身
店匠科技選擇亞馬遜云科技為首選云服務(wù)供應(yīng)商
,應(yīng)用亞馬遜云科技的生成式AI技術(shù)與服務(wù),在"GenAI營(yíng)銷素材創(chuàng)作、AI建站Copilot、智能客服、智能推薦和搜索"四大關(guān)鍵場(chǎng)景創(chuàng)新跨境電商
萬里紅榮獲“首批鴻蒙原生應(yīng)用開發(fā)服務(wù)商和培訓(xùn)服務(wù)商”授牌
近日,鴻蒙原生應(yīng)用合作交流推介會(huì)在深圳召開,作為鴻蒙生態(tài)重要合作伙伴,萬里紅受邀出席,并榮獲“首批鴻蒙原生應(yīng)用開發(fā)服務(wù)商和培訓(xùn)服務(wù)商”授牌。
掌閱科技選擇亞馬遜云科技為重要云服務(wù)供應(yīng)商
應(yīng)用生成式AI打造數(shù)字閱讀體驗(yàn)新范式 北京2024年5月16日 /美通社/ -- 掌閱科技選擇亞馬遜云科技為重要云服務(wù)供應(yīng)商,應(yīng)用生成式AI
全球云服務(wù)市場(chǎng)增長(zhǎng),亞馬遜AWS、微軟Azure及谷歌GCP差距拉大
報(bào)告指出,目前全球的主要云服務(wù)商包括亞馬遜AWS(市場(chǎng)份額31%),其次是微軟Azure(25%)和谷歌(11%)。盡管亞馬遜在整體市場(chǎng)仍占
積木易搭通過亞馬遜SPN服務(wù)商認(rèn)證,成為平臺(tái)指定3D商品展示服務(wù)商
近日,全棧式3D數(shù)字化解決方案提供商積木易搭正式通過亞馬遜SPN服務(wù)商認(rèn)證,成為亞馬遜官方推薦的3D內(nèi)容服務(wù)商,為
鴻蒙新篇章,領(lǐng)航新征程 I 軟通動(dòng)力榮膺首批“HarmonyOS開發(fā)服務(wù)商”
“HarmonyOS開發(fā)服務(wù)商”,成為華為該領(lǐng)域首批認(rèn)證服務(wù)商。 軟通動(dòng)力高級(jí)副總裁石蓉(右),華為終端云開發(fā)者服務(wù)與平臺(tái)部總裁望岳(左) HarmonyOS開發(fā)
誠(chéng)邁科技入選華為首批HarmonyOS開發(fā)服務(wù)商
3月13日,華為鯨鴻動(dòng)能服務(wù)商政策發(fā)布暨鴻蒙服務(wù)商先鋒計(jì)劃授牌儀式在南京舉行。
軟通動(dòng)力榮膺首批“HarmonyOS開發(fā)服務(wù)商”
華為在南京隆重舉辦了以“聚勢(shì)謀新,攜手并進(jìn)”為主題的鴻蒙服務(wù)商政策發(fā)布及先鋒計(jì)劃授牌儀式。在這一重要時(shí)刻,深度參與鴻蒙生態(tài)建設(shè)的軟通動(dòng)力受邀出席,并光榮地榮獲了“HarmonyOS開發(fā)服務(wù)商
全球通實(shí)驗(yàn)室正式成為亞馬遜SPN合規(guī)服務(wù)商,助力跨境企業(yè)揚(yáng)帆起航
系統(tǒng)并成為亞馬遜推薦的合規(guī)服務(wù)商,為平臺(tái)賣家提供專業(yè)的技術(shù)服務(wù)和一站式合規(guī)解決方案。什么是亞馬遜SPN服
華訊利用亞馬遜云科技打造安全托管服務(wù)與產(chǎn)品組合
助力企業(yè)實(shí)現(xiàn)數(shù)據(jù)全生命周期防護(hù) 北京2024年1月23日?/美通社/ -- 行業(yè)數(shù)字化服務(wù)商華訊網(wǎng)絡(luò)系統(tǒng)有限公司(簡(jiǎn)稱華訊)充分利用亞馬遜云科技豐富的數(shù)據(jù)和安全服務(wù)以及解決方案,結(jié)合自
邊緣計(jì)算新篇章:亞馬遜云科技海外服務(wù)器服務(wù)成就全球創(chuàng)新
的最新發(fā)展和創(chuàng)新成果,引發(fā)與會(huì)者熱烈關(guān)注。 re:Invent的核心主題是不斷創(chuàng)新,與會(huì)者對(duì)亞馬遜云科技海外服務(wù)器在整個(gè)技術(shù)棧各個(gè)層次上的創(chuàng)
云服務(wù)生態(tài)演進(jìn):亞馬遜云科技輕量應(yīng)用服務(wù)器應(yīng)對(duì)復(fù)雜需求
難度、使用和管理流程,提供了獨(dú)立的產(chǎn)品控制臺(tái),并一站式融合了常用基礎(chǔ)云服務(wù),是眾多企業(yè)上云的理想選擇。 隨著輕量應(yīng)用
上汽海外出行選擇亞馬遜云科技為重要云服務(wù)供應(yīng)商
:Invent全球大會(huì)上宣布,中國(guó)最大的汽車制造商之一、《財(cái)富》世界500強(qiáng)企業(yè)上汽集團(tuán)旗下的上汽海外出行科技有限公司(以下簡(jiǎn)稱“上汽海外出行”)已選擇亞馬遜云科技為重要
發(fā)表于 12-01 16:43
?218次閱讀
評(píng)論