電子發燒友網報道(文/周凱揚)自研芯片在當下似乎已經成了一種潮流,無論是消費電子廠商、互聯網公司還是汽車廠商,都在拿自研芯片做文章。作為時刻都在與計算打交道的云端,自然也參與其中,甚至是先進工藝自研芯片的主力軍。
自研芯片能省下多少錢?
早在芯片產業有布局,或者以收購來掌握芯片設計實力的云服務廠商,幾乎都選擇了自研服務器芯片這條路線,比如亞馬遜、谷歌、阿里巴巴等等。自研芯片的范圍也從網絡芯片到通用計算的CPU,再到用于AI計算的ASIC芯片。
亞馬遜就靠著自研芯片省下了一大筆成本,這也是其他云服務廠商目前都沒能復制的成功。首先自研芯片通過架構上的創新,為其定制化實例提供了更高的性能,比如Nitro芯片靠卸載任務可以多省出兩個CPU內核;其次,對于某些特定的工作負載來說,自研芯片帶來了更容易把握的戰略控制以及硬件鎖定;最后,自然也省去了找第三方fabless設計公司的成本。
考慮到云服務廠商在硬件投入上的規模,以及亞馬遜作為全球第一大云服務廠商的體量,其中省下的成本還是相當龐大的。這也是亞馬遜走自研芯片可行的原因,其他云服務廠商或許能通過自研把設計成本壓下去,但制造成本絕對沒法像亞馬遜一樣壓這么低,這也是為何AWS過去能做到頻繁降價。
AI時代下自研芯片優勢有,但不多
亞馬遜在收購后,接連推出了Trainium和Inferentia這兩大訓練和推理加速器,并將其集成到自己的云端實例中去,以優異的性能為客戶提供高性價比的AI硬件方案。但這似乎并沒有為其在最近的AI熱潮中帶來優勢,反倒是微軟憑借英偉達的GPU率先以ChatGPT開啟了這場惡戰,谷歌的Bard也緊隨其后。
亞馬遜則選擇了與Hugging Face合作,作為其首選云供應商,用戶可以借助AWS上的先進工具,比如SageMaker托管服務,以及Trainium和Inferentia硬件,去訓練、微調和部署模型,從而為社區創造更加開放易用的AI。
但事實上是,這一合作激起的水花很快就被淹沒在了如傾盆大雨般落地的AI應用中。而且對于Hugging Face來說,他們想要打造的是開放式的生成式AI模型,也就是說其他廠商也都能從中獲益,也就是兩家共同提到的機器學習民主化。
況且在部署上,早在與亞馬遜合作之前,Hugging Face就已經在2022年與微軟Azure達成合作,在Azure的ML終結點上部署Hugging Face的機器學習推理服務。所以這次合作即便充分利用了亞馬遜的自研AI芯片,但給其帶來的優勢并不算大。無論是在性能還是在軟件生態上,現有的自研芯片都存在如鯁在喉的地方,而這不僅局限于亞馬遜這樣的大廠,不少初創AI芯片公司也都或多或少面臨這樣的困境。
結語
其實自研芯片也并非真的毫無靈活性可言,比如亞馬遜的Graviton和阿里的倚天710,雖說是自研芯片,但用到的畢竟還是Arm的Neoverse公版方案,還有不少第三方方案也是如此,比如英偉達的Grace、Ampere Computing的Altra等等。
這樣一來其實開發靈活性依然很高,比如英偉達為了給Grace做鋪墊,也對同類產品的軟件棧提供了支持。比如英偉達的HPC SDK全面支持AWS的Graviton 3,也支持對SVE和NEON的自動矢量化。而英偉達推出的Arm HPC開發套件,也是由Ampere的Altra Q80-30 CPU與A100 GPU組合打造的,與Grace芯片共用同一套軟件環境。
只不過在AI領域,這樣的自研路線優勢會更小一點,畢竟現在AI模型與算法發展迅速,自研GPU有著各種難以突破的專利壁壘,自研ASIC又存在迭代適應和軟件生態移植的問題。而這對于云服務廠商這種為客戶賦能更快產品上市速度的企業來說,或許在AI仍在快速演進的當下,GPU會是更優解,這也是云服務廠商即便選擇了自研AI芯片,主打的卻依然是GPU實例的原因。
自研芯片能省下多少錢?
早在芯片產業有布局,或者以收購來掌握芯片設計實力的云服務廠商,幾乎都選擇了自研服務器芯片這條路線,比如亞馬遜、谷歌、阿里巴巴等等。自研芯片的范圍也從網絡芯片到通用計算的CPU,再到用于AI計算的ASIC芯片。
亞馬遜就靠著自研芯片省下了一大筆成本,這也是其他云服務廠商目前都沒能復制的成功。首先自研芯片通過架構上的創新,為其定制化實例提供了更高的性能,比如Nitro芯片靠卸載任務可以多省出兩個CPU內核;其次,對于某些特定的工作負載來說,自研芯片帶來了更容易把握的戰略控制以及硬件鎖定;最后,自然也省去了找第三方fabless設計公司的成本。
考慮到云服務廠商在硬件投入上的規模,以及亞馬遜作為全球第一大云服務廠商的體量,其中省下的成本還是相當龐大的。這也是亞馬遜走自研芯片可行的原因,其他云服務廠商或許能通過自研把設計成本壓下去,但制造成本絕對沒法像亞馬遜一樣壓這么低,這也是為何AWS過去能做到頻繁降價。
AI時代下自研芯片優勢有,但不多
亞馬遜在收購后,接連推出了Trainium和Inferentia這兩大訓練和推理加速器,并將其集成到自己的云端實例中去,以優異的性能為客戶提供高性價比的AI硬件方案。但這似乎并沒有為其在最近的AI熱潮中帶來優勢,反倒是微軟憑借英偉達的GPU率先以ChatGPT開啟了這場惡戰,谷歌的Bard也緊隨其后。
亞馬遜則選擇了與Hugging Face合作,作為其首選云供應商,用戶可以借助AWS上的先進工具,比如SageMaker托管服務,以及Trainium和Inferentia硬件,去訓練、微調和部署模型,從而為社區創造更加開放易用的AI。
但事實上是,這一合作激起的水花很快就被淹沒在了如傾盆大雨般落地的AI應用中。而且對于Hugging Face來說,他們想要打造的是開放式的生成式AI模型,也就是說其他廠商也都能從中獲益,也就是兩家共同提到的機器學習民主化。
況且在部署上,早在與亞馬遜合作之前,Hugging Face就已經在2022年與微軟Azure達成合作,在Azure的ML終結點上部署Hugging Face的機器學習推理服務。所以這次合作即便充分利用了亞馬遜的自研AI芯片,但給其帶來的優勢并不算大。無論是在性能還是在軟件生態上,現有的自研芯片都存在如鯁在喉的地方,而這不僅局限于亞馬遜這樣的大廠,不少初創AI芯片公司也都或多或少面臨這樣的困境。
結語
其實自研芯片也并非真的毫無靈活性可言,比如亞馬遜的Graviton和阿里的倚天710,雖說是自研芯片,但用到的畢竟還是Arm的Neoverse公版方案,還有不少第三方方案也是如此,比如英偉達的Grace、Ampere Computing的Altra等等。
這樣一來其實開發靈活性依然很高,比如英偉達為了給Grace做鋪墊,也對同類產品的軟件棧提供了支持。比如英偉達的HPC SDK全面支持AWS的Graviton 3,也支持對SVE和NEON的自動矢量化。而英偉達推出的Arm HPC開發套件,也是由Ampere的Altra Q80-30 CPU與A100 GPU組合打造的,與Grace芯片共用同一套軟件環境。
只不過在AI領域,這樣的自研路線優勢會更小一點,畢竟現在AI模型與算法發展迅速,自研GPU有著各種難以突破的專利壁壘,自研ASIC又存在迭代適應和軟件生態移植的問題。而這對于云服務廠商這種為客戶賦能更快產品上市速度的企業來說,或許在AI仍在快速演進的當下,GPU會是更優解,這也是云服務廠商即便選擇了自研AI芯片,主打的卻依然是GPU實例的原因。
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。
舉報投訴
-
服務器
+關注
關注
12文章
9026瀏覽量
85194
發布評論請先 登錄
相關推薦
云服務器主要應用行業及優勢
云服務器作為一種基于云計算技術的虛擬化計算資源,正逐漸成為眾多行業數字化轉型的重要支撐。它不僅提供了靈活的資源配置,還帶來了諸多傳統物理服務器難以比擬的優勢。以下是云服務器的主要應用行
比亞迪最快于11月實現自研算法量產,推進智駕芯片自研進程
10月21日市場傳出消息,比亞迪正計劃整合其新技術院下的自研智能駕駛團隊,目標是在今年11月實現自研智能駕駛算法的量產,并持續推進智能駕駛芯片
美國硅谷RAKsmart服務器的優勢
RAKsmart是一家總部位于美國加州硅谷的全球領先的IDC服務提供商,以其高性能、高可靠性和定制化的服務器托管及云服務聞名。以下幾點概述了RAKsmart服務器的主要
什么是AI服務器?AI服務器的優勢是什么?
AI服務器是一種專門為人工智能應用設計的服務器,它采用異構形式的硬件架構,通常搭載GPU、FPGA、ASIC等加速芯片,利用CPU與加速芯片的組合來滿足高吞吐量互聯的需求,為自然語言處
硅谷物理服務器有哪些關鍵優勢和特點
硅谷的物理服務器設施全球知名,為各類企業提供了卓越的IT基礎設施支持。下面將逐一探討硅谷物理服務器的關鍵優勢和特點,rak小編為您整理發布硅谷物理服務器有哪些關鍵
IaaS云服務器的優勢是什么?
云計算的基本定義是,使用部署在遠程機器/系統上的計算資源(硬件/軟件),并通過網絡(私人/公共)作為服務交付給最終用戶。 IaaS云計算(云服務器)的優勢 1、節省成本。云服務器有助于
洛杉磯裸機云大寬帶服務器的特性和優勢
洛杉磯裸機云大寬帶服務器是結合了物理服務器性能和云服務靈活性的高性能計算服務,為用戶提供高效、安全的計算和存儲能力。在了解如何使用洛杉磯裸機云大寬帶
高通自研服務器芯片"SD1"揭曉,核心搭載Oryon
據國外科技媒體Android Authority透露,高通公司在公布驍龍X Elite / Plus芯片之后,內部正在研發代號為“SD1”、內置Oryon處理器的服務器芯片。
服務器遠程不上服務器怎么辦?服務器無法遠程的原因是什么?
訪問服務器
PS:檢查端口是否能正常通信,可以通過命令tcping ip端口來確定,如果端口不通,檢查防火墻遠程端口策略有沒有把現在
的遠程端口加入策略之中,如果防火墻策略正常,那么檢查服務器
發表于 02-27 16:21
linux服務器和windows服務器
,這在滿足個性化需求和增強服務器安全
性上具有優勢。
Linux服務器還具有出色的性能和穩定性。相比之下,Windows服務器在性能和穩定性方面稍有不足。特別是在處理高負載和
大數據量
發表于 02-22 15:46
選擇云服務器租用托管有哪些優勢?
云服務器租用托管服務好嗎?選擇云服務器租用托管有哪些優勢?關于云服務器租用托管的話題RAKsmart小編今天來為您做詳細的解答。
站群服務器的優勢與挑戰
站群服務器(也稱為網站集群或站群架構)是一種通過將多個服務器協同工作來分擔負載和提高可用性的解決方案。它在某些方面具有優勢,但也面臨一些挑戰。 一、站群服務器的
評論