精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

64核+高內存帶寬!英特爾發布第五代至強服務器,加速AI原生應用落地

章鷹觀察 ? 來源:電子發燒友網 ? 作者:章鷹 ? 2023-12-20 00:26 ? 次閱讀

12月15日下午,在2023年英特爾新品發布會上,英特爾正式揭開了第五代至強可擴展處理器(代號Emerald Rapids)的神秘面紗。在會上,英特爾的合作伙伴京東云、阿里云和火山引擎也分享了其自身使用第五代至強開發新品服務器和大模型訓練的案例。

這款產品是英特爾最強AI性能的CPU,采用了Intel7工藝,該處理器擁有多達64 核,具備8 條 DDR5 通道,支持高達5,600 MT/s的傳輸速率,三級緩存是上一代產品的近 3 倍,且采用英特爾超級通道互聯2.0 以增加跨插槽內帶寬,提供高達20 GT/s的傳輸。
據悉,第五代至強可擴展處理器比較上一代產品,可以處理更多的AI工作負載,其迭代性能相較于上一代產品提升了21%,而在AI推理性能上,則擁有高達42%的提升,其內存帶寬也提升了16%。

相較上一代產品,第五代英特爾至強可擴展處理器可在進行通用計算時將整體性能提升高達21%,并在一系列客戶工作負載中將每瓦性能提升高達36%。對于遵循典型的五年更新周期并從更前一代處理器進行升級的客戶而言,總體擁有成本最多降低77%。

京東云服務器搭載第五代至強,整機提升123%,大模型推理能力提升51%!

京東科技京東云事業部硬件架構總監董可新表示,基于英特爾新一代處理器的京東云自研服務器全面支持京東雙十一大促。評測結果顯示,新一代至強可擴展服務器平臺比上一代整體提升了23%,一方面得益于新一代處理器更高的內存頻率,以及更大的L3 Cache等新的技術特性,另一方面得益于我們在和英特爾聯合定制的新一代CPU中,針對京東各個業務場景的性能需求進行了針對性的性能優化。

在AI應用方面,京東云服務器在通用的AI視覺類模型ResNet50推理性能測試中,比上一代平臺整體性能提升了38%。在通用的大語言模型Llama2-13B模型推理性能測試中,與上一代相比,提升高達51%,擁有出色的整體優化效果。

在剛剛過去的雙十一中,京東商城上超過60個品牌的營銷額突破了10億。在大促期間,每秒用戶訪問峰值同比提升了170%,京東智能客服為超過14億次的用戶提供了累計智能咨詢的服務。他指出,特別在智能營銷方面,京東實現了能夠根據產業洞察及帶貨思維進行服務的數字人,以及其他成本降低達90%的生成式AI應用。

英特爾和多家合作伙伴打造第五代Xeon生態合作圈

數據中心人工智能集團副總裁兼中國區總經理陳葆立介紹了英特爾和百度云合作的最新成果。在針對大規模推理的早期測試,雙方使用700億參數的Llama 2開源大模型進行推理,采用了4臺內含第五代至強的服務器,并通過100G的高速網絡聯合在一起。結果是,相比單臺的服務器,其性能提升了2.85倍。從整個性能上看,在處理Llama 2 700億模型推理時,時間可以控制在87毫秒以內。

阿里云則展示了基于英特爾第五代至強可擴展處理器,推出新一代云實例。基于英特爾第五代至強芯片,阿里云第八代計算實例迎來了全面的計算升級。英特爾CPU在L3 Cache的3倍性能提升和內存帶寬16%的提升,在媒體處理、網站應用和AI應用等場景性能提升20%以上。

通義千問720億大模型近期在開源社區Hugging Face大模型排行榜上問鼎。阿里云非常重視云上用戶的數據安全,結合英特爾TDX技術,阿里云第八代機密計算實例可以保障用戶在整個AI推理過程中,模型和數據全流程的數據安全。用戶可以在英特爾AMX技術的加持下,在阿里云第八代實例上輕松部署通義千問。

陳葆立總結說:“以ChatGPT為例的生成式人工智能帶來了一個全新的火爆趨勢。我們看到非常多的中國本土企業,包括眾多軟、硬件公司正在加速推進AI在各行各業的應用和落地。目前在國內,已有超過20家的硬件伙伴,超過7家云服務商基于第五代英特爾至強可擴展處理器,準備好了全新的服務器和云服務。對中國的終端用戶來說,無論是對類型、規模以及應用有著如何多樣化的需求,都將擁有豐富的選擇。英特爾可靠的產業伙伴們,將會為用戶提供全面的產品以及服務。”

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 英特爾
    +關注

    關注

    60

    文章

    9900

    瀏覽量

    171548
  • 服務器
    +關注

    關注

    12

    文章

    9029

    瀏覽量

    85205
  • AI
    AI
    +關注

    關注

    87

    文章

    30238

    瀏覽量

    268471
收藏 人收藏

    評論

    相關推薦

    寧暢B5000 G5多節點服務器采用第五代英特爾至強可擴展處理

    “基于第五代英特爾 至強 可擴展處理的寧暢B5000 G5多節點服務器,可以在滿足大量AI推理
    的頭像 發表于 05-27 11:46 ?790次閱讀
    寧暢B5000 G5多節點<b class='flag-5'>服務器</b>采用<b class='flag-5'>第五代</b><b class='flag-5'>英特爾</b><b class='flag-5'>至強</b>可擴展處理<b class='flag-5'>器</b>

    第五代英特爾至強處理AI特化的通用服務器CPU

    ? 電子發燒友網報道(文/周凱揚)隨著AI已經成了數據中心與服務器市場的主流應用,就連通用服務器CPU,也開始著重加強AI計算能力。為此,英特爾
    的頭像 發表于 03-18 08:14 ?4237次閱讀
    <b class='flag-5'>第五代</b><b class='flag-5'>英特爾</b><b class='flag-5'>至強</b>處理<b class='flag-5'>器</b>,<b class='flag-5'>AI</b>特化的通用<b class='flag-5'>服務器</b>CPU

    浪潮信息NE5260G7服務器適配第五代英特爾至強處理

    浪潮信息近日宣布,其邊緣服務器NE5260G7已成功適配第五代英特爾至強處理,實現了平均性能21%的提升。這一創新產品不僅針對邊緣
    的頭像 發表于 03-06 09:29 ?857次閱讀

    第五代英特爾至強,以卓越性能為多元化工作負載“保駕護航”

    第五代英特爾至強鉑金?8592+處理憑借更優化的SoC,三倍更大緩存和更快內存,在運行諸多工作負載時具備與眾不同的優勢,尤其是
    的頭像 發表于 02-28 09:50 ?460次閱讀

    英特爾至強處理優化升級,助力打造未來高能效數據中心

    %。與此同時,英特爾還對該處理進行了大量優化,以滿足日益增長的AI算力需求。 該適用于企業級服務器英特爾高端CPU受到了眾多行業專家們的
    的頭像 發表于 02-26 17:39 ?683次閱讀

    第五代英特爾至強可擴展處理以強勁性能,打造更“全能”的計算

    ? ? ? ?隨著第五代英特爾至強可擴展處理(以下簡稱“第五代至強”)的問世,其也成為了多年來
    的頭像 發表于 01-19 15:40 ?633次閱讀

    英特爾專家為您揭秘第五代英特爾? 至強? 可擴展處理如何為AI加速

    近日,英特爾發布第五代至強 可擴展處理,尤其是其“為 AI
    的頭像 發表于 12-23 12:20 ?710次閱讀

    寶德服務器全面升級到第五代英特爾?至強?平臺

    發布全新一基于第五代英特爾?至強?可擴展處理的寶德服務器
    的頭像 發表于 12-21 16:12 ?685次閱讀
    寶德<b class='flag-5'>服務器</b>全面升級到<b class='flag-5'>第五代</b><b class='flag-5'>英特爾</b>?<b class='flag-5'>至強</b>?平臺

    64+內存帶寬英特爾發布第五代至強可擴展處理加速AI原生應用落地

    第五代至強可擴展處理英特爾最強AI性能的CPU,采用了Intel7工藝,該處理擁有多達
    的頭像 發表于 12-19 09:45 ?4441次閱讀
    <b class='flag-5'>64</b><b class='flag-5'>核</b>+<b class='flag-5'>高</b><b class='flag-5'>內存</b><b class='flag-5'>帶寬</b>!<b class='flag-5'>英特爾</b><b class='flag-5'>發布</b><b class='flag-5'>第五代</b><b class='flag-5'>至強</b>可擴展處理<b class='flag-5'>器</b>,<b class='flag-5'>加速</b><b class='flag-5'>AI</b><b class='flag-5'>原生</b>應用<b class='flag-5'>落地</b>

    第五代英特爾至強可擴展處理 AI 性能大幅提升,英特爾加注推動人工智能無處不在

    ? ? ? ?今日,在以“AI 無處不在 創芯無所不及”為主題的 2023 英特爾新品發布會暨 AI 技術創新派對上,英特爾正式推出
    的頭像 發表于 12-18 17:22 ?634次閱讀
    <b class='flag-5'>第五代</b><b class='flag-5'>英特爾</b><b class='flag-5'>至強</b>可擴展處理<b class='flag-5'>器</b> <b class='flag-5'>AI</b> 性能大幅提升,<b class='flag-5'>英特爾</b>加注推動人工智能無處不在

    英特爾推出新一強大產品, 加速實現 “AI 無處不在 ”

    英特爾? 酷睿? Ultra 和第五代英特爾? 至強? 可擴展處理豐富了英特爾出色的
    發表于 12-16 16:27 ?450次閱讀
    <b class='flag-5'>英特爾</b>推出新一<b class='flag-5'>代</b>強大產品, <b class='flag-5'>加速</b>實現 “<b class='flag-5'>AI</b> 無處不在 ”

    第五代英特爾至強可擴展處理,為AI加速而生

    今日,在以“AI無處不在 創芯無所不及”為主題的2023英特爾新品發布會暨AI技術創新派對上,英特爾正式推出
    的頭像 發表于 12-16 16:15 ?431次閱讀
    <b class='flag-5'>第五代</b><b class='flag-5'>英特爾</b><b class='flag-5'>至強</b>可擴展處理<b class='flag-5'>器</b>,為<b class='flag-5'>AI</b><b class='flag-5'>加速</b>而生

    AI 無處不在,英特爾酷睿Ultra 和第五代英特爾至強可擴展處理正式發布

    英特爾 ?酷睿?Ultra處理第五代英特爾 ? 至強 ? 可擴展處理支持的
    的頭像 發表于 12-16 16:05 ?684次閱讀
    <b class='flag-5'>AI</b> 無處不在,<b class='flag-5'>英特爾</b>酷睿Ultra 和<b class='flag-5'>第五代</b><b class='flag-5'>英特爾</b><b class='flag-5'>至強</b>可擴展處理<b class='flag-5'>器</b>正式<b class='flag-5'>發布</b>

    第五代英特爾至強可擴展處理,為AI加速而生

    今日,在以“AI無處不在 創芯無所不及”為主題的2023英特爾新品發布會暨AI技術創新派對上,英特爾正式推出
    發表于 12-16 15:53 ?319次閱讀
    <b class='flag-5'>第五代</b><b class='flag-5'>英特爾</b><b class='flag-5'>至強</b>可擴展處理<b class='flag-5'>器</b>,為<b class='flag-5'>AI</b><b class='flag-5'>加速</b>而生

    英特爾發布酷睿Ultra和第五代至強可擴展處理

    戰略的發布,以及英特爾 酷睿 Ultra處理第五代英特爾 至強 可擴展處理
    的頭像 發表于 12-16 15:23 ?1259次閱讀