人工智能(AI)性能的新突破,掀起了一場未來強大數據中心的競賽。隨著 AI 應用的復雜性不斷提高,以及對計算的需求呈指數級增長,電源可能決定著哪些數據中心可提升到更高一級的處理水平并保持領先地位。
近年來,AI 在各行各業帶來了翻天覆地的變化——從醫療保健和金融到交通運輸。機器學習算法和深度神經網絡已成為數據分析、模式識別和決策方面的強大工具。然而,這些 AI 應用需要大量的計算能力和能源才能有效運作。
訓練大的 AI 模型可能會消耗大量電力,圖形處理器 (GPU) 或張量處理器 (TPU) 等專用硬件常常被用來執行深度學習算法所需的復雜矩陣計算,這樣的計算速度比傳統 CPU 快得多。這些專用硬件單元旨在處理大量數據以及優化機器學習所需的處理。
當大模型開始擴展
近期的例子表明,訓練模型可能需要多達數百千瓦的電力。例如,OpenAI 的大語言模型 (LLM) GPT-3 的訓練使用了 1,750 億個參數和來自互聯網的 570GB 數據,據稱消耗了 355 兆瓦的電力。
OpenAI 的下一個版本 GPT-4 比 GPT-3 強大數百倍,其訓練集包括 170 萬億個參數,使其成為有史以來最強大的 AI 引擎——至少在目前是這樣。
OpenAI 使用了 Microsoft Azure 數據中心來開展 GPT 項目。公司將會繼續在自己的場所內打造并維護數據中心,以幫助提升自身知名度或迅速擴大用戶群。但公司可能還需要依賴基于云的服務,例如 Microsoft Azure、Amazon Web Services 和 Google Cloud Platform,以提供額外計算能力來滿足突然激增的需求。
這些大規模云平臺一直引領著超大規模數據中心最佳實踐的發展,并推動數據中心在計算速度和帶寬方面的性能不斷進步。
在這個競爭激烈的環境中,前景廣闊 AI 項目將會在最大計算處理負載的可靠數據中心方面展開爭奪。展望 AI 發展和數據中心升級的下一階段,可能沒有足夠的優質數據中心服務供每個人使用。
造成瓶頸的原因在很大程度上可能是電力限制。一項以 800 多名設計工程師及其經理為調查對象的 Molex莫仕調查顯示,40% 的受訪者將電源管理列為在數據中心實施電源系統時面臨的最大挑戰。有 20% 的受訪者認為,配電問題是第二大挑戰。
讓數據能力翻倍
當今一流的數據中心可提供高達 112 Gbps 的數據傳輸率。許多數據中心正在升級硬件和連接器,以期達到這種速度和性能水平。
打造224 Gbps-PAM4數據中心趨勢已初現端倪,以滿足不斷增長的 AI 處理需求。然而,適用于 224G 的基礎設施組件還處于上市的早期階段,這意味著完全采用 224G 技術的設施要在幾年后才會普及。
讓全世界數據中心的數據傳輸率總體上翻倍將是一項艱巨的任務,因為這需要大幅增加發電量。鑒于如今 AI 消耗的能源量占了能源消耗總量的 2%,未來的升級可能相當于在這個世界新增幾個大城市,每個城市需要有自己的發電廠。
事實上,典型 GPU 模塊的電力需求已從 2018 年的每個模塊 450W 增加到 2022 年的 1000W,OCP OAM 的電力需求從每個機箱 3600W 增加到 8000W——推動這種增長的因素是對更強計算能力的需求。這種電力增長帶來了前所未有的高發熱量,并促使需要能夠耐受更高溫度的散熱片和組件。Molex莫仕 Mirror Mezz 連接器可滿足更高的電力需求并實現相關的熱管理。這些連接器可用于 450W 和 1000W GPU 型號,且具有出色的氣冷和液冷性能。
適應未來發展趨勢
AI 數據中心的電力需求成倍增長,這與現有設施的局限性形成了矛盾,解決這種矛盾需要創造性的解決方案。目前,一些超大規模數據中心可能只是因為地理位置不佳而無法進行下一代升級。某些地區可能不會選擇將本已有限的發電量分配給云服務提供商。而且,老舊的電網(即使已開始過渡到使用可再生資源)可能會出現間歇性停電,事實證明,這種情況會導致數據服務出現問題。
隨著數據中心從一種技術過渡到另一種技術并充分利用內部配電架構,數據中心內部也可能會出現瓶頸。除了硬件投資外,行業打造 AI 驅動的數據中心的趨勢,數據中心還必須著眼于尋找新方法優化自身的功耗。優化功耗的方法可能包括使用先進的冷卻系統、高效節能的硬件和創新的電源管理策略。對于想方設法優化現有資源的數據中心來說,AI 驅動的管理工具甚至可能是理想的未來解決方案。
AI 不斷重塑計算世界,數據中心必須做出調整,以滿足這些應用不斷增長的需求。隨著 AI 領域的發展,以及越來越多公司希望在業務中部署 AI 應用,對強大計算資源的爭奪將愈演愈烈。數據中心運營商必須投資于最新的技術和策略,以在這個不斷變化的環境中保持領先地位和競爭優勢。因此,Molex莫仕投資于未來的技術,其中包括 224 Gbps-PAM4 功能以及一整套數據中心電源管理解決方案。
-
連接器
+關注
關注
98文章
13630瀏覽量
134648 -
AI
+關注
關注
87文章
28461瀏覽量
265734 -
機器學習
+關注
關注
66文章
8293瀏覽量
131663 -
莫仕
+關注
關注
0文章
90瀏覽量
11399
發布評論請先 登錄
相關推薦
評論