精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

為AI計(jì)算釋放空間

安晟培半導(dǎo)體 ? 來(lái)源:未知 ? 2024-11-21 09:19 ? 次閱讀

無(wú)論是移動(dòng)應(yīng)用程序或數(shù)字商務(wù)等可見(jiàn)應(yīng)用程序,還是航空公司定價(jià)算法或每次刷卡時(shí)激活的欺詐檢測(cè)系統(tǒng)等幕后流程,AI 都已成為我們?nèi)粘I钪胁豢苫蛉钡囊徊糠帧S绕涫巧墒?AI,預(yù)計(jì)未來(lái)十年將以?xún)晌粩?shù)的速度持續(xù)增長(zhǎng),到 2032 年市場(chǎng)規(guī)??赡苓_(dá)到1 萬(wàn)億美元以上。

AI 技術(shù)的發(fā)展推動(dòng)了對(duì)更強(qiáng)大的處理器的需求,尤其是 GPU,是構(gòu)建 AI 基礎(chǔ)設(shè)施的重要組成部分。NVIDIA 在行業(yè)和市場(chǎng)占據(jù)著主導(dǎo)地位,AMD 也越來(lái)越受歡迎,但企業(yè)必須面對(duì)GPU 持續(xù)增加的功耗,部分型號(hào)甚至已經(jīng)超過(guò)1kW,這一趨勢(shì)也導(dǎo)致全球數(shù)據(jù)中心功耗大幅增加。預(yù)計(jì)在 2022 年至 2026 年間還將翻一番,容量已然成為公共事業(yè)提供商和企業(yè)面臨的主要挑戰(zhàn)。

目前,大約80% 的數(shù)據(jù)中心運(yùn)營(yíng)商面臨功率限制,許多運(yùn)營(yíng)商對(duì)每機(jī)架功率限制在 10-20 kW的范圍內(nèi)。雖然傳統(tǒng)方法證明,提高處理器性能和效率可以提高總功耗,但很多數(shù)據(jù)中心運(yùn)營(yíng)商已經(jīng)達(dá)到功率上限,這也對(duì)企業(yè)的持續(xù)創(chuàng)新和增長(zhǎng)造成了阻礙。此外,擴(kuò)展機(jī)架空間或適應(yīng)特殊的冷卻方法通常成本高昂或受到空間和法規(guī)的限制;老化的服務(wù)器基礎(chǔ)設(shè)施(許多服務(wù)器使用時(shí)間超過(guò) 5 年)也不斷增加維護(hù)成本和安全風(fēng)險(xiǎn)。

對(duì)此,最實(shí)用的解決方案是升級(jí)現(xiàn)有的基礎(chǔ)設(shè)施。及時(shí)的服務(wù)器更新能夠大幅整合機(jī)架空間,從而降低運(yùn)營(yíng)成本,回收電力預(yù)算,并支持部署能夠處理 AI 工作負(fù)載的現(xiàn)代服務(wù)器。在評(píng)估服務(wù)器更新時(shí),運(yùn)營(yíng)商需要用新的方式來(lái)思考,只要新一代處理器的每瓦性能(即效率)提高,處理器功耗的增加就可以被接受,這意味著新服務(wù)器比舊服務(wù)器 “里程更長(zhǎng)”。盡管最大機(jī)架功率預(yù)算有限并開(kāi)始接近極限,通過(guò)專(zhuān)注于每機(jī)架的性能,企業(yè)可以?xún)?yōu)化現(xiàn)有的電力和空間,使他們能夠從數(shù)據(jù)中心的局限性轉(zhuǎn)為更加專(zhuān)注于業(yè)務(wù)的增長(zhǎng)和創(chuàng)新。

Ampere 的云原生處理器旨在提供橫向擴(kuò)展性能和領(lǐng)先的效率。AmpereOne 自研核是替代老舊服務(wù)器的最佳 CPU 選擇。在AmpereOne 效率白皮書(shū)中,詳細(xì)闡述了 AmpereOne 的效率優(yōu)勢(shì),相較 AMD EPYC 9004 系列處理器,如何使云原生和 AI 工作負(fù)載的每機(jī)架性能提高 67%。

以下是 7 個(gè)開(kāi)源工作負(fù)載,從 Web 服務(wù)器和負(fù)載均衡器到數(shù)據(jù)庫(kù),再到緩存和內(nèi)存中數(shù)據(jù)存儲(chǔ)。它們?cè)谠S多現(xiàn)代 Web 服務(wù)中頗受歡迎,因?yàn)樗鼈兺ㄟ^(guò)緩存處理 web 流量管理、數(shù)據(jù)存儲(chǔ)和性能優(yōu)化。

91c9f60c-a7a4-11ef-93f3-92fbcf53809c.png

在AI 計(jì)算時(shí)代,通過(guò)將 AI 推理工作負(fù)載添加到上述通用工作負(fù)載中,可以增強(qiáng)各個(gè)行業(yè)的產(chǎn)品和服務(wù)。下表展示了 AmpereOne 在機(jī)架級(jí)別的性能和效率,適用于推理工作負(fù)載,如推薦引擎(DLRM)、圖像處理(ResNet-50)以及以語(yǔ)言為中心的工作負(fù)載(Whisper和Llama3)。這些工作負(fù)載支持現(xiàn)代設(shè)施,例如聊天機(jī)器人、在電子商務(wù)網(wǎng)站上查看推薦的產(chǎn)品、在流媒體平臺(tái)上呈現(xiàn)“您可能喜歡的節(jié)目”,或者為直播電視流提供實(shí)時(shí)隱藏字幕。

91d59e44-a7a4-11ef-93f3-92fbcf53809c.png

對(duì)于前面提到的每機(jī)架可用功率有限的企業(yè)和服務(wù)提供商來(lái)說(shuō),實(shí)現(xiàn)每機(jī)架的最大性能尤為重要。即使是中等規(guī)模的企業(yè),由 AI 驅(qū)動(dòng)的 web 服務(wù)也可以從 AmpereOne 中受益。與 AMD EPYC Genoa 8 個(gè)機(jī)架的輸出相比,AmpereOne 可以在不犧牲性能水平的情況下,將機(jī)架空間減少 38%,將功率預(yù)算降低 37%,并將購(gòu)置成本降低 49%。以下代理 web 服務(wù)包括作為前端 Web 服務(wù)器的 NGINX、作為鍵值存儲(chǔ)的 Redis、作為內(nèi)存數(shù)據(jù)庫(kù)的 Memcached、作為關(guān)系數(shù)據(jù)庫(kù)的 MySQL,以及分別作為推薦引擎和聊天機(jī)器人的 AI 組件 DLRM 和 Llama3。

91e45d12-a7a4-11ef-93f3-92fbcf53809c.png

AmpereOne 可以通過(guò)更新老化的服務(wù)器來(lái)重新利用預(yù)算、空間和功率。我們展示了如何節(jié)約資本支出,如何通過(guò)降低功耗和管理開(kāi)銷(xiāo)而實(shí)現(xiàn)運(yùn)營(yíng)支出的節(jié)省,在三年內(nèi)為企業(yè)節(jié)省大量 TCO。相較 AMD EPYC Bergamo,運(yùn)營(yíng)商可以節(jié)省 33% 的成本;與 AMD EPYC Genoa 相比,可節(jié)省高達(dá) 41% 的成本,這都?xì)w功于AmpereOne。

91f8aeca-a7a4-11ef-93f3-92fbcf53809c.png

無(wú)論公司規(guī)模大小,“AI 海嘯” 將繼續(xù)降低企業(yè)大規(guī)模實(shí)施 AI 的準(zhǔn)入門(mén)檻。即使沒(méi)有資源去雇傭?qū)iT(mén)的 AI 團(tuán)隊(duì),企業(yè)也可以通過(guò)服務(wù)提供商來(lái)開(kāi)啟 AI 之旅,并迅速投入生產(chǎn)。因此,整合傳統(tǒng)基礎(chǔ)設(shè)施為 AI 擴(kuò)展釋放空間尤其重要。

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 處理器
    +關(guān)注

    關(guān)注

    68

    文章

    19160

    瀏覽量

    229115
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    30108

    瀏覽量

    268401

原文標(biāo)題:技術(shù)文章 | 為AI計(jì)算釋放空間

文章出處:【微信號(hào):AmpereComputing,微信公眾號(hào):安晟培半導(dǎo)體】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏

    評(píng)論

    相關(guān)推薦

    AI云端計(jì)算資源有哪些類(lèi)型

    AI云端計(jì)算資源涵蓋了從基礎(chǔ)設(shè)施到軟件服務(wù)的多個(gè)層面,AI模型的訓(xùn)練、推理和部署提供了強(qiáng)大的支持。下面,AI部落小編為您詳細(xì)介紹
    的頭像 發(fā)表于 11-15 09:39 ?115次閱讀

    AI高性能計(jì)算平臺(tái)是什么

    AI高性能計(jì)算平臺(tái)不僅是AI技術(shù)發(fā)展的基石,更是推動(dòng)AI應(yīng)用落地、加速產(chǎn)業(yè)升級(jí)的重要工具。以下,是對(duì)AI高性能
    的頭像 發(fā)表于 11-11 09:56 ?125次閱讀

    AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第二章AI for Science的技術(shù)支撐學(xué)習(xí)心得

    計(jì)算的結(jié)合 我深刻體會(huì)到高性能計(jì)算(HPC)在AI for Science中的重要性。傳統(tǒng)的科學(xué)計(jì)算往往面臨計(jì)算量大、
    發(fā)表于 10-14 09:16

    華邦電子邊緣設(shè)備打造生成式AI性能

    在以大模型基礎(chǔ)的云端 AI 廣泛賦能各行各業(yè)后,邊緣設(shè)備對(duì)于 AI釋放出巨大需求,AI 也在從云端向邊緣端加速落地,層出不窮的應(yīng)用場(chǎng)景
    的頭像 發(fā)表于 08-19 16:14 ?571次閱讀

    電機(jī)抱閘釋放時(shí)間控制

    最近碰到一個(gè)問(wèn)題,在電機(jī)的抱閘釋放時(shí)接觸器兩端會(huì)拉弧,測(cè)量反電動(dòng)勢(shì)277v,反接蓄流二級(jí)管后,發(fā)現(xiàn)反電動(dòng)勢(shì)基本上被釋放,但是出現(xiàn)了制動(dòng)器釋放時(shí)間較長(zhǎng)約為350ms,會(huì)溜車(chē)。 測(cè)量抱閘
    發(fā)表于 08-05 13:44

    杭州靈伴科技向文杰:AR+AI,加速進(jìn)入空間計(jì)算時(shí)代

    創(chuàng)始人向文杰發(fā)表主旨演講,向文杰認(rèn)為,AR和AI的結(jié)合將是未來(lái)技術(shù)發(fā)展的重要方向,并將加速空間計(jì)算時(shí)代的到來(lái)。 ? AR與AI的深度融合 向文杰在演講中提到,AR(增強(qiáng)現(xiàn)實(shí))和
    的頭像 發(fā)表于 06-20 09:09 ?323次閱讀
    杭州靈伴科技向文杰:AR+<b class='flag-5'>AI</b>,加速進(jìn)入<b class='flag-5'>空間</b><b class='flag-5'>計(jì)算</b>時(shí)代

    利亞德新工廠投產(chǎn),加速AI空間計(jì)算發(fā)展

    近日,位于美國(guó)俄勒岡州的利亞德旗下NaturalPoint公司宣布,其新工廠已正式投產(chǎn)。這一重要舉措將為利亞德·虛擬動(dòng)點(diǎn)提供更多的研發(fā)和生產(chǎn)資源,從而加速公司在人工智能(AI)與空間計(jì)算領(lǐng)域的發(fā)展步伐。
    的頭像 發(fā)表于 06-11 10:43 ?587次閱讀

    銀牛微電子:集3D視覺(jué)感知、AI及SLAM一體的3D空間計(jì)算

    有限責(zé)任公司研發(fā)副總裁周凡在論壇上介紹了“集3D視覺(jué)感知、AI及SLAM一體的3D空間計(jì)算芯片NU4500”。 ? 合肥銀牛微電子有限責(zé)任公司研發(fā)副總裁周凡 ? 銀牛微電子是一家專(zhuān)注
    的頭像 發(fā)表于 05-17 10:18 ?828次閱讀
    銀牛微電子:集3D視覺(jué)感知、<b class='flag-5'>AI</b>及SLAM<b class='flag-5'>為</b>一體的3D<b class='flag-5'>空間</b><b class='flag-5'>計(jì)算</b>芯

    一圖看懂星河AI數(shù)據(jù)中心網(wǎng)絡(luò),全面釋放AI時(shí)代算力

    華為中國(guó)合作伙伴大會(huì) | 一圖看懂星河AI數(shù)據(jù)中心網(wǎng)絡(luò),以網(wǎng)強(qiáng)算,全面釋放AI時(shí)代算力
    的頭像 發(fā)表于 03-22 10:28 ?704次閱讀
    一圖看懂星河<b class='flag-5'>AI</b>數(shù)據(jù)中心網(wǎng)絡(luò),全面<b class='flag-5'>釋放</b><b class='flag-5'>AI</b>時(shí)代算力

    基于 GPU 渲染的高性能空間包圍計(jì)算

    空間包圍檢測(cè)在計(jì)算機(jī)圖形學(xué)、虛擬仿真、工業(yè)生產(chǎn)等有著廣泛的應(yīng)用。
    的頭像 發(fā)表于 02-18 10:47 ?653次閱讀
    基于 GPU 渲染的高性能<b class='flag-5'>空間</b>包圍<b class='flag-5'>計(jì)算</b>

    什么是AI邊緣計(jì)算,AI邊緣計(jì)算的特點(diǎn)和優(yōu)勢(shì)介紹

    隨著人工智能的迅猛發(fā)展,AI邊緣計(jì)算成為了熱門(mén)話題。那么什么是AI邊緣計(jì)算呢?簡(jiǎn)單來(lái)說(shuō),它是將人工智能技術(shù)引入邊緣計(jì)算的新興領(lǐng)域,旨在將
    的頭像 發(fā)表于 02-01 11:42 ?819次閱讀

    AI如何助力我們構(gòu)建更智能的空間?利用AI構(gòu)建智能空間的5種方式

    當(dāng)下業(yè)界都聚焦于生成式 AI 如何推動(dòng)未來(lái)變革,但我們也不妨回顧一下過(guò)去的一年,AI 如何助力我們構(gòu)建更智能的空間
    的頭像 發(fā)表于 01-24 18:19 ?1047次閱讀

    積極布局空間計(jì)算時(shí)代,天娛數(shù)科子公司智境云創(chuàng)品牌業(yè)務(wù)雙升級(jí)

    ,將迸發(fā)出巨大能量與廣闊空間,已成為行業(yè)共識(shí)。 1月18日,天娛數(shù)科子公司北京智境云創(chuàng)科技有限公司(以下簡(jiǎn)稱(chēng):智境云創(chuàng))召開(kāi)了主題為 “智啟新境,‘乘’勢(shì)而起” 的品牌升級(jí)戰(zhàn)略發(fā)布會(huì),所乘之勢(shì)正是AI、MR和空間
    的頭像 發(fā)表于 01-19 13:59 ?605次閱讀
    積極布局<b class='flag-5'>空間</b><b class='flag-5'>計(jì)算</b>時(shí)代,天娛數(shù)科子公司智境云創(chuàng)品牌業(yè)務(wù)雙升級(jí)

    AMD CES 2024:AI計(jì)算引領(lǐng)未來(lái)

    AMD最新推出的Versal AI Edge XA自適應(yīng)SoC搭載AI引擎,AI計(jì)算、視覺(jué)和信號(hào)處理提供強(qiáng)大支持,自適應(yīng)SoC適用于邊緣傳
    的頭像 發(fā)表于 01-12 16:37 ?1239次閱讀
    AMD CES 2024:<b class='flag-5'>AI</b><b class='flag-5'>計(jì)算</b>引領(lǐng)未來(lái)

    如何在Ubuntu Linux上釋放/boot分區(qū)中的空間

    在Ubuntu Linux上,/boot分區(qū)是用于存儲(chǔ)啟動(dòng)相關(guān)的文件的。隨著時(shí)間的推移,這個(gè)分區(qū)可能會(huì)變滿,導(dǎo)致系統(tǒng)無(wú)法安裝新的內(nèi)核和更新。本文將介紹如何釋放/boot分區(qū)中的空間,并提供詳細(xì)的步驟。
    的頭像 發(fā)表于 11-28 10:04 ?850次閱讀