精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

驅動 AI 的未來

Molex莫仕連接器 ? 來源:Molex莫仕連接器 ? 2023-12-07 15:10 ? 次閱讀

人工智能AI)性能的新突破,掀起了一場未來強大數據中心的競賽。隨著 AI 應用的復雜性不斷提高,以及對計算的需求呈指數級增長,電源可能決定著哪些數據中心可提升到更高一級的處理水平并保持領先地位。

近年來,AI 在各行各業帶來了翻天覆地的變化——從醫療保健和金融到交通運輸。機器學習算法和深度神經網絡已成為數據分析、模式識別和決策方面的強大工具。然而,這些 AI 應用需要大量的計算能力和能源才能有效運作。

訓練大的 AI 模型可能會消耗大量電力,圖形處理器 (GPU) 或張量處理器 (TPU) 等專用硬件常常被用來執行深度學習算法所需的復雜矩陣計算,這樣的計算速度比傳統 CPU 快得多。這些專用硬件單元旨在處理大量數據以及優化機器學習所需的處理。

當大模型開始擴展

近期的例子表明,訓練模型可能需要多達數百千瓦的電力。例如,OpenAI 的大語言模型 (LLM) GPT-3 的訓練使用了 1,750 億個參數和來自互聯網的 570GB 數據,據稱消耗了 355 兆瓦的電力。

OpenAI 的下一個版本 GPT-4 比 GPT-3 強大數百倍,其訓練集包括 170 萬億個參數,使其成為有史以來最強大的 AI 引擎——至少在目前是這樣。

OpenAI 使用了 Microsoft Azure 數據中心來開展 GPT 項目。公司將會繼續在自己的場所內打造并維護數據中心,以幫助提升自身知名度或迅速擴大用戶群。但公司可能還需要依賴基于云的服務,例如 Microsoft Azure、Amazon Web Services 和 Google Cloud Platform,以提供額外計算能力來滿足突然激增的需求。

這些大規模云平臺一直引領著超大規模數據中心最佳實踐的發展,并推動數據中心在計算速度和帶寬方面的性能不斷進步。

在這個競爭激烈的環境中,前景廣闊 AI 項目將會在最大計算處理負載的可靠數據中心方面展開爭奪。展望 AI 發展和數據中心升級的下一階段,可能沒有足夠的優質數據中心服務供每個人使用。

造成瓶頸的原因在很大程度上可能是電力限制。一項以 800 多名設計工程師及其經理為調查對象的 Molex莫仕調查顯示,40% 的受訪者將電源管理列為在數據中心實施電源系統時面臨的最大挑戰。有 20% 的受訪者認為,配電問題是第二大挑戰。

讓數據能力翻倍

當今一流的數據中心可提供高達 112 Gbps 的數據傳輸率。許多數據中心正在升級硬件和連接器,以期達到這種速度和性能水平。

打造224 Gbps-PAM4數據中心趨勢已初現端倪,以滿足不斷增長的 AI 處理需求。然而,適用于 224G 的基礎設施組件還處于上市的早期階段,這意味著完全采用 224G 技術的設施要在幾年后才會普及。

讓全世界數據中心的數據傳輸率總體上翻倍將是一項艱巨的任務,因為這需要大幅增加發電量。鑒于如今 AI 消耗的能源量占了能源消耗總量的 2%,未來的升級可能相當于在這個世界新增幾個大城市,每個城市需要有自己的發電廠。

事實上,典型 GPU 模塊的電力需求已從 2018 年的每個模塊 450W 增加到 2022 年的 1000W,OCP OAM 的電力需求從每個機箱 3600W 增加到 8000W——推動這種增長的因素是對更強計算能力的需求。這種電力增長帶來了前所未有的高發熱量,并促使需要能夠耐受更高溫度的散熱片和組件。Molex莫仕 Mirror Mezz 連接器可滿足更高的電力需求并實現相關的熱管理。這些連接器可用于 450W 和 1000W GPU 型號,且具有出色的氣冷和液冷性能。

適應未來發展趨勢

AI 數據中心的電力需求成倍增長,這與現有設施的局限性形成了矛盾,解決這種矛盾需要創造性的解決方案。目前,一些超大規模數據中心可能只是因為地理位置不佳而無法進行下一代升級。某些地區可能不會選擇將本已有限的發電量分配給云服務提供商。而且,老舊的電網(即使已開始過渡到使用可再生資源)可能會出現間歇性停電,事實證明,這種情況會導致數據服務出現問題。

隨著數據中心從一種技術過渡到另一種技術并充分利用內部配電架構,數據中心內部也可能會出現瓶頸。除了硬件投資外,行業打造 AI 驅動的數據中心的趨勢,數據中心還必須著眼于尋找新方法優化自身的功耗。優化功耗的方法可能包括使用先進的冷卻系統、高效節能的硬件和創新的電源管理策略。對于想方設法優化現有資源的數據中心來說,AI 驅動的管理工具甚至可能是理想的未來解決方案。

AI 不斷重塑計算世界,數據中心必須做出調整,以滿足這些應用不斷增長的需求。隨著 AI 領域的發展,以及越來越多公司希望在業務中部署 AI 應用,對強大計算資源的爭奪將愈演愈烈。數據中心運營商必須投資于最新的技術和策略,以在這個不斷變化的環境中保持領先地位和競爭優勢。因此,Molex莫仕投資于未來的技術,其中包括 224 Gbps-PAM4 功能以及一整套數據中心電源管理解決方案。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 連接器
    +關注

    關注

    98

    文章

    13630

    瀏覽量

    134648
  • AI
    AI
    +關注

    關注

    87

    文章

    28461

    瀏覽量

    265734
  • 機器學習
    +關注

    關注

    66

    文章

    8293

    瀏覽量

    131663
  • 莫仕
    +關注

    關注

    0

    文章

    90

    瀏覽量

    11399
收藏 人收藏

    評論

    相關推薦

    智馭未來,AI拼才會贏—鄭弘孟董事長寄語工業富聯,拼搏共贏新篇章

    奧運會馬上就要開始,Fii工業富聯發布《鄭弘孟董事長致工業富聯全體同仁的一封信》,在全球AI競賽浪潮中,AI已經成為公司未來發展的核心驅動力,如何讓
    的頭像 發表于 07-14 08:33 ?171次閱讀
    智馭<b class='flag-5'>未來</b>,<b class='flag-5'>AI</b>拼才會贏—鄭弘孟董事長寄語工業富聯,拼搏共贏新篇章

    生成式AI與傳統AI的主要區別

    隨著人工智能技術的飛速發展,生成式AI(Generative AI)逐漸嶄露頭角,并與傳統AI(也稱為“規則驅動AI”或“判別式
    的頭像 發表于 07-05 17:35 ?537次閱讀

    比爾·蓋茨展望AI未來:從AI顧問到深度智能體的演變

    在科技日新月異的今天,人工智能(AI)作為引領未來變革的關鍵力量,其發展前景始終牽動著全球科技界與公眾的神經。近日,微軟創始人比爾·蓋茨在知名播客節目《Next Big Idea Club》上,就AI
    的頭像 發表于 07-03 16:10 ?277次閱讀

    李開復展望AI未來:2025年AI或超博士水平

    在6月29日舉辦的知乎第十屆鹽Club新知青年大會上,科技巨頭李開復,身兼零一萬物CEO和創新工場董事長雙重身份,發表了對人工智能(AI未來的深度見解。他回顧了自己與AI相伴的40年歷程,并大膽預測,大模型技術的飛速進步將使
    的頭像 發表于 06-29 15:56 ?473次閱讀

    Imagination 引領邊緣計算和AI創新,擁抱AI未來發展

    ,致力于推動技術創新,擁抱人工智能的未來發展。同時他也介紹了Imagination在計算領域的戰略布局、產品技術以及對未來AI發展的深刻洞察。Imagination
    的頭像 發表于 06-28 08:28 ?372次閱讀
    Imagination 引領邊緣計算和<b class='flag-5'>AI</b>創新,擁抱<b class='flag-5'>AI</b><b class='flag-5'>未來</b>發展

    中國AI芯片行業,自主突破與未來展望

    在全球科技競賽的舞臺上,中國AI芯片行業正面臨前所未有的挑戰與機遇。近日,Gartner研究副總裁盛陵海在一場分享會上深入剖析了中國AI芯片行業的現狀和未來發展趨勢,揭示了在這一關鍵領域,中國正逐步走向自主研發的道路,并有望在
    的頭像 發表于 06-19 17:02 ?430次閱讀

    微軟CEO納德拉:全力押注AI未來

    微軟首席執行官納德拉在AI領域的布局引人注目。在與ChatGPT背后的OpenAI建立合作關系后,他更是將微軟的未來AI的潛在發展緊密相連。然而,這位執掌微軟十年的領導者并未止步于此,他正以前所未有的力度,將微軟推向
    的頭像 發表于 06-17 17:11 ?480次閱讀

    開發者手機 AI - 目標識別 demo

    Network Runtime 神經網絡運行時,作為中間橋梁連通上層AI推理框架和底層加速芯片,實現AI模型的跨芯片推理計算。提供統一AI芯片驅動接口,使
    發表于 04-11 16:14

    炬芯科技趙新中:無線音頻SoC的AI算法未來和應用

    的平臺。 炬芯科技算法研發中心高級總監趙新中受邀出席,于電聲元器件及芯片專題論壇發表以《無線音頻SoC的AI算法未來和應用》為主題的演講,分享了炬芯科技的音頻AI算法研究、應用經驗和最新成果。 隨著人工智能的迅猛發展,
    的頭像 發表于 04-10 11:13 ?310次閱讀
    炬芯科技趙新中:無線音頻SoC的<b class='flag-5'>AI</b>算法<b class='flag-5'>未來</b>和應用

    AI芯片未來會控制這個世界嗎?

    AI芯片行業資訊
    芯廣場
    發布于 :2024年03月27日 18:21:28

    愛立信發布基于AI的意圖驅動運營方案

    日前,愛立信宣布:在其托管服務交付平臺——愛立信運營引擎(Ericsson Operations Engine)中,嵌入了基于AI賦能的意圖驅動運營方案,為消費者和企業用戶提供差異化優質5G服務。
    的頭像 發表于 02-21 09:15 ?4779次閱讀

    引領AI未來 | 軟通動力攜手華為云聯合成立泰國AI云智社區

    12月18日,以“引領AI未來”為主題的華為云泰國首屆AI主題峰會在曼谷舉行,政企客戶、本地伙伴、中資伙伴、開發者等千人參會,圍繞“AI for Thailand”、“
    的頭像 發表于 12-20 09:45 ?276次閱讀
    引領<b class='flag-5'>AI</b><b class='flag-5'>未來</b> | 軟通動力攜手華為云聯合成立泰國<b class='flag-5'>AI</b>云智社區

    【嵌入式AI簡報20231117期】面對未來AI的三大挑戰!

    AI 簡報 20231117期 1.面對未來AI:三大挑戰 當AI如ChatGPT在2022年末突然嶄露頭角時,不僅展現了AI的驚人進步,
    的頭像 發表于 11-17 21:10 ?691次閱讀
    【嵌入式<b class='flag-5'>AI</b>簡報20231117期】面對<b class='flag-5'>未來</b><b class='flag-5'>AI</b>的三大挑戰!

    百川智能嶄露頭角:A1輪融資3億美元,助力AI領域的未來發展

    AI
    北京中科同志科技股份有限公司
    發布于 :2023年10月17日 10:39:24

    AI智能呼叫中心

    、數據驅動決策以及人力成本節約,旨在深入剖析其核心優勢和對企業的重要意義。一、自動化處理AI智能呼叫中心通過引入自然語言處理(NLP)、機器學習和自動化技術,使得呼叫中心的處理過程更加高效和準確,AI
    發表于 09-20 17:53