液冷NVIDIA A100 PCIe GPU能夠滿足客戶對高性能綠色數據中心的需求,在主流服務器GPU中尚屬首例。
為了遏制氣候變化,全球企業正在加快構建高性能、高能效的數據中心,Equinix邊緣基礎設施主管Zac Smith也參與其中。
他所效力的Equinix是一家全球服務提供商,旗下管理的數據中心超過240個,致力于在業內率先實現氣候中和。
“一萬家客戶依賴Equinix達成氣候中和的目標。他們需要更大量的數據以及更高水平的智能,而這通常有賴于AI,且他們希望能夠以一種具有可持續性的方式來實現。”Smith說道。2000年代初還在茱莉亞音樂學院讀研的他,為紐約的音樂家同僚們搭建了網站,由此與技術結下不解之緣。
能效穩步提升
截至4月,Equinix已發行49億美元的綠色債券。Equinix將通過這些投資工具來優化電源使用效率(PUE),以期減少對環境的影響。PUE是一種行業指標,用于衡量數據中心使用的能源有多少直接用于計算任務。
數據中心運營商正試圖將PUE降至接近1.0的理想水平。Equinix設施目前的平均PUE為1.48,而其旗下新數據中心的PUE最低可低于1.2。
從PUE來看,Equinix正在穩步提升數據中心的能效
Equinix于1月新啟動了一個專門用于提升能效的設施,在此方向上更進一步。其中一部分工作側重于液冷技術。
液冷技術誕生于大型機時代,在AI時代日臻成熟。如今,液冷技術已經以直接芯片(Direct-to-Chip)冷卻的形式廣泛應用于全球高速超級計算機。
NVIDIA GPU在AI推理和高性能計算方面的能效已比CPU高出20倍,而加速計算也順理成章地將采用液冷技術。
通過加速提高效率
如果將全球所有運行AI和HPC的CPU服務器切換為GPU加速系統,每年可節省高達11萬億瓦時的能源。節約的能源量可供150多萬套房屋使用一年。
今日,NVIDIA發布了率先采用直接芯片(Direct-to-Chip)冷卻技術的數據中心PCIe GPU,為可持續發展貢獻了自己的力量。
Equinix正在驗證A100 80GB PCIe液冷GPU在其數據中心的應用,這也是該公司為實現可持續性冷卻和熱量捕獲的綜合性方案中的一部分。GPU現已進入試用階段,預計將于今年夏季正式發布。
節約用水和用電
“這是我們實驗室中引入的首款液冷GPU,我們倍感興奮,因為客戶迫切希望通過可持續的方式來利用AI,”Smith說道。
數據中心運營商旨在淘汰用于冷卻數據中心內部氣體的冷水機組,因其每年會蒸發數百萬加侖的水量。而借助液冷技術,系統僅需對封閉系統中的少量液體進行循環利用,并能夠著重于主要的發熱點。
Smith說:“我們將變廢為寶。”
同等性能,更少耗電
在單獨的測試中,Equinix和NVIDIA均發現:采用液冷技術的數據中心工作負載可與風冷設施持平,同時消耗的能源減少了約30%。NVIDIA估計,液冷數據中心的PUE可能達到1.15,遠低于風冷的PUE 1.6。
在空間相同的條件下,液冷數據中心可以實現雙倍的計算量。這是由于A100 GPU僅使用一個PCIe插槽,而風冷A100 GPU需使用兩個PCIe插槽。
NVIDIA借助液冷技術達到了節省電力和增加密度的效果
至少有十幾家系統制造商計劃于今年晚些時候在其產品中使用液冷GPU,包括華碩(ASUS)、永擎電子(ASRock Rack)、富士康工業互聯網(Foxconn Industrial Internet)、技嘉科技(GIGABYTE)、新華三(H3C)、浪潮(Inspur)、英業達(Inventec)、寧暢(Nettrix)、云達科技(QCT)、超微(Supermicro)、緯穎科技(Wiwynn)和超聚變(xFusion)。
全球趨勢
在亞洲、歐洲和美國,制定能效標準的法規尚未確定。這也推動了銀行和其他大型數據中心運營商紛紛加入液冷技術評估的隊伍。
液冷技術的使用范圍并不局限于數據中心,汽車和其他系統也需要利用該項技術來冷卻封閉空間內的高性能系統。
可持續發展之路
“我們即將開啟新的旅程,”Smith談及這一采用液冷技術的主流加速器首次亮相時如是說。
事實上,NVIDIA計劃于明年推出的一版A100 PCIe卡中搭載基于NVIDIA Hopper架構的H100 Tensor Core GPU。近期內,NVIDIA計劃將液冷技術應用于自有高性能數據中心GPU和NVIDIA HGX平臺。
為推動快速采用,今日發布的液冷GPU可在減少能耗的同時維持性能不變。未來,我們期望這些卡在使用同等能源的條件下,展現更出色的性能,滿足用戶所需。
“僅僅測量功率沒有意義,降低碳排放的同時提升性能才是我們努力的方向,” Smith說道。
詳細了解NVIDIA全新發布的A100 PCIe液冷GPU。
-
NVIDIA
+關注
關注
14文章
4949瀏覽量
102829 -
gpu
+關注
關注
28文章
4703瀏覽量
128729 -
服務器
+關注
關注
12文章
9029瀏覽量
85207
發布評論請先 登錄
相關推薦
評論