精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

ChatGPT熱潮引發(fā)AI服務(wù)器爆單

Carol Li ? 來源:電子發(fā)燒友網(wǎng) ? 作者:李彎彎 ? 2023-02-22 01:13 ? 次閱讀
電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)近日消息,隨著ChatGPT的熱潮,華為昇騰AI服務(wù)器、拓維信息兆瀚RA5900-A系列AI訓(xùn)練服務(wù)器等詢單量及預(yù)定量爆發(fā)式增長。

AI服務(wù)器通常搭載GPUFPGAASIC等加速芯片,利用CPU與加速芯片的組合可以滿足高吞吐量互聯(lián)的需求,為自然語言處理、計(jì)算機(jī)視覺機(jī)器學(xué)習(xí)等AI應(yīng)用場(chǎng)景提供強(qiáng)大的算力支持,支撐AI算法訓(xùn)練和推理。

AI服務(wù)器與普通服務(wù)器的區(qū)別

服務(wù)器是一種高性能計(jì)算機(jī),作為網(wǎng)絡(luò)的節(jié)點(diǎn),存儲(chǔ)、處理網(wǎng)絡(luò)上80%的數(shù)據(jù)、信息,因此也被稱為網(wǎng)絡(luò)的靈魂。普通服務(wù)器是以CPU為計(jì)算能力的提供者,采用串行架構(gòu),擅長邏輯計(jì)算和浮點(diǎn)計(jì)算。由于邏輯判斷需要大量的分支跳轉(zhuǎn),使得CPU的結(jié)構(gòu)復(fù)雜,計(jì)算能力的提高主要靠堆積更多的核心數(shù)來實(shí)現(xiàn)。

在大數(shù)據(jù)、云計(jì)算人工智能、元宇宙、數(shù)據(jù)孿生和物聯(lián)網(wǎng)等網(wǎng)絡(luò)技術(shù)的應(yīng)用中,互聯(lián)網(wǎng)上的數(shù)據(jù)呈現(xiàn)出幾何倍數(shù)的增長,這對(duì)以CPU為主要計(jì)算能力來源的傳統(tǒng)服務(wù)是巨大的考驗(yàn)。目前,CPU的制程工藝和單個(gè)CPU的核心數(shù)接近極限,但數(shù)據(jù)的增加仍在繼續(xù),因此有必要提高服務(wù)器的數(shù)據(jù)處理能力。在這種環(huán)境下,AI服務(wù)器應(yīng)運(yùn)而生。

AI服務(wù)器與普通服務(wù)器的區(qū)別:在服務(wù)器的硬件架構(gòu)方面,AI服務(wù)器是異構(gòu)服務(wù)器,可以根據(jù)應(yīng)用范圍采用不同的組合方式,如CPU + GPU、CPU + TPU、CPU + 其他加速卡等。與普通服務(wù)器相比,內(nèi)存、存儲(chǔ)、網(wǎng)絡(luò)沒有區(qū)別,主要是大數(shù)據(jù)、云計(jì)算、人工智能等方面需要更多的內(nèi)存,滿足各種數(shù)據(jù)的收集整理。

普通GPU服務(wù)器一般是單卡或者雙卡,AI服務(wù)器需要承擔(dān)大量計(jì)算,一般配置四塊以上的GPU卡,甚至搭建一個(gè)AI服務(wù)器集群;AI服務(wù)器需要獨(dú)特的設(shè)計(jì),由于AI服務(wù)器有多個(gè)GPU卡,需要對(duì)系統(tǒng)結(jié)構(gòu)、散熱和拓?fù)溥M(jìn)行專門設(shè)計(jì),以滿足AI服務(wù)器長期穩(wěn)定運(yùn)行的要求。

目前市場(chǎng)上的AI服務(wù)器普遍采用CPU + GPU,由于GPU和CPU形式不同所以AI服務(wù)器采用并行計(jì)算模式,善于梳理圖形渲染、機(jī)器學(xué)習(xí)等密集數(shù)據(jù)操作。在GPU上,NVIDIA優(yōu)勢(shì)明顯,GPU單卡核心數(shù)可達(dá)近千個(gè),如配置16張NVIDIATesla V100 Tensor Core 32GB GPUs核心數(shù)可超過10240個(gè),計(jì)算性能高達(dá)每秒2千萬億次。而且經(jīng)過近幾年市場(chǎng)的發(fā)展,也證實(shí)了CPU +GPU異構(gòu)服務(wù)器在當(dāng)前環(huán)境下確實(shí)有很大的發(fā)展空間。

AI服務(wù)器市場(chǎng)現(xiàn)狀及主要玩家

近幾年,中國市場(chǎng)的AI服務(wù)器出貨量和滲透率都在提升。未來預(yù)計(jì)隨著AI模型訓(xùn)練和應(yīng)用的興起,需要支持AI功能的服務(wù)器將持續(xù)增加。IDC預(yù)計(jì),中國AI服務(wù)器2021年的市場(chǎng)規(guī)模為57億美元,同比增長61.6%,到2025年市場(chǎng)規(guī)模將增長到109億美元,CAGR為17.5%。

根據(jù)其此前發(fā)布的《中國加速計(jì)算市場(chǎng)(2021年下半年)跟蹤報(bào)告》,2021年全年中國AI服務(wù)器市場(chǎng)規(guī)模達(dá)350.3億元,同比增長68.6%。浪潮信息、寧暢、新華三、華為、安擎位居前五,占據(jù)了82.6%的市場(chǎng)份額。其中,浪潮AI服務(wù)器市場(chǎng)占有率達(dá)52.4%。

近日,浪潮信息在某平臺(tái)上表示,公司人工智能服務(wù)器領(lǐng)域的市占率位居全球AI服務(wù)器市場(chǎng)第一,在ChatGPT和AIGC相關(guān)方向上已有布局相關(guān)業(yè)務(wù)。日前消息,淮海智算中心攜手浪潮信息進(jìn)行了超大規(guī)模參數(shù)AI大模型訓(xùn)練性能測(cè)試,實(shí)測(cè)數(shù)據(jù)表明,千億參數(shù)規(guī)模的自然語言AI單體大模型在淮海智算中心計(jì)算平臺(tái)上的訓(xùn)練算力效率達(dá)53.5%,刷新了業(yè)內(nèi)AI大模型訓(xùn)練算力效率新高。

寧暢在AI服務(wù)器方面已經(jīng)發(fā)布多款產(chǎn)品,比如X620 G50,這是一款基于第四代英特爾至強(qiáng)可擴(kuò)展處理器的高端2U機(jī)架式服務(wù)器。可根據(jù)業(yè)務(wù)需求對(duì)資源進(jìn)行靈活配置,滿足各種各行業(yè)應(yīng)用需求。完美適用于機(jī)器學(xué)習(xí)、AI推理、云計(jì)算、高性能計(jì)算、云存儲(chǔ)、大數(shù)據(jù)、虛擬化、辦公系統(tǒng)等應(yīng)用場(chǎng)景。

還有上文提到的拓維信息,早在ChatGPT爆發(fā)之前,就已布局了一系列人工智能產(chǎn)品。該公司表示,旗下兆瀚智能計(jì)算產(chǎn)品包括AI推理、AI訓(xùn)練、AI集群等,具有超強(qiáng)AI算力、更優(yōu)AI能效、最佳AI拓展等產(chǎn)品特點(diǎn),在行業(yè)內(nèi)有領(lǐng)先優(yōu)勢(shì)。

未來,拓維信息將持續(xù)重點(diǎn)關(guān)注先進(jìn)計(jì)算、人工智能等前沿技術(shù)領(lǐng)域,加大在人工智能產(chǎn)業(yè)的規(guī)劃布局及基礎(chǔ)軟硬件產(chǎn)業(yè)投入,充分發(fā)揮自身在人工智能領(lǐng)域的影響力。通過與華為的全方位深入合作,推出基于昇騰處理器的兆瀚AI產(chǎn)品,努力構(gòu)筑業(yè)界超強(qiáng)AI算力平臺(tái)。

中科曙光在AI服務(wù)器上也有布局。據(jù)介紹,中科曙光已推出“全浸沒式液冷AI訓(xùn)練專用服務(wù)器”,與百度、復(fù)旦大學(xué)等企業(yè)及科研院所深度合作,形成了諸多基于AI模型的聯(lián)合解決方案,支持了國內(nèi)多個(gè)千億級(jí)以上參數(shù)規(guī)模的AI大模型訓(xùn)練,攻克類腦智能、基因技術(shù)自動(dòng)駕駛等多個(gè)前沿領(lǐng)域AI難題。

此外還有中國長城神州數(shù)碼廣電運(yùn)通等。中國長城芯片、整機(jī)、服務(wù)器、網(wǎng)絡(luò)交換機(jī)、路由器、工業(yè)控制系統(tǒng)、容災(zāi)備份產(chǎn)品等自主安全產(chǎn)品譜系逐步成為相關(guān)市場(chǎng)的主導(dǎo)產(chǎn)品,AI服務(wù)器已實(shí)現(xiàn)量產(chǎn)。神州數(shù)碼之前推出了神州鯤泰人工智能推理服務(wù)器,以“鯤鵬+昇騰”為核心,可提供128個(gè)處理核心的算力,同時(shí)最大可支持8張華為Atlas 300推理卡,提供256GB推理緩存,以及最大704 TOPS INT8的AI算力。

小結(jié)

過去幾年人工智能發(fā)展迅速,作為算力支撐的AI服務(wù)器市場(chǎng)在不斷增加。如今在ChatGPT爆火下,人工智能訓(xùn)練和推理尋求將持續(xù)擴(kuò)大,預(yù)計(jì)未來AI服務(wù)器市場(chǎng)規(guī)模將繼續(xù)保持高速增長趨勢(shì)。而在其中布局已久的浪潮、中科曙光、寧暢、拓維信息等無疑將更具優(yōu)勢(shì)。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    30106

    瀏覽量

    268401
  • ChatGPT
    +關(guān)注

    關(guān)注

    29

    文章

    1548

    瀏覽量

    7487
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    什么是AI服務(wù)器AI服務(wù)器的優(yōu)勢(shì)是什么?

    AI服務(wù)器是一種專門為人工智能應(yīng)用設(shè)計(jì)的服務(wù)器,它采用異構(gòu)形式的硬件架構(gòu),通常搭載GPU、FPGA、ASIC等加速芯片,利用CPU與加速芯片的組合來滿足高吞吐量互聯(lián)的需求,為自然語言處理、計(jì)算機(jī)視覺、機(jī)器學(xué)習(xí)等人工智能應(yīng)用場(chǎng)景提
    的頭像 發(fā)表于 09-21 11:43 ?621次閱讀

    AI服務(wù)器:開啟智能計(jì)算新時(shí)代

    一、AI服務(wù)器的定義與特點(diǎn) AI服務(wù)器的定義 AI服務(wù)器是一種基于云計(jì)算技術(shù),專為處理人工
    的頭像 發(fā)表于 08-09 16:08 ?723次閱讀

    AI服務(wù)器的特點(diǎn)和關(guān)鍵技術(shù)

    AI服務(wù)器,即人工智能服務(wù)器,是一種專門設(shè)計(jì)用于運(yùn)行和加速人工智能(AI)算法與模型的硬件設(shè)備。隨著人工智能技術(shù)的快速發(fā)展和普及,AI
    的頭像 發(fā)表于 07-17 16:34 ?1305次閱讀

    ai服務(wù)器是什么架構(gòu)類型

    AI服務(wù)器,即人工智能服務(wù)器,是專門為人工智能應(yīng)用設(shè)計(jì)的高性能計(jì)算服務(wù)器AI服務(wù)器的架構(gòu)類型有
    的頭像 發(fā)表于 07-02 09:51 ?933次閱讀

    ai服務(wù)器和通用服務(wù)器的區(qū)別在哪

    AI服務(wù)器和通用服務(wù)器的區(qū)別主要體現(xiàn)在以下幾個(gè)方面: 硬件配置 AI服務(wù)器和通用服務(wù)器在硬件配置
    的頭像 發(fā)表于 07-02 09:46 ?886次閱讀

    英偉達(dá)新業(yè)務(wù)動(dòng)向:AI服務(wù)器市場(chǎng)的新變局

    在全球AI技術(shù)迅猛發(fā)展的浪潮中,英偉達(dá)正積極布局,尋求新的業(yè)務(wù)增長點(diǎn)。據(jù)最新報(bào)道,英偉達(dá)計(jì)劃為其即將推出的GB200旗艦人工智能芯片設(shè)計(jì)服務(wù)器機(jī)架,此舉無疑將對(duì)該領(lǐng)域的傳統(tǒng)廠商如戴爾、HPE和AMD等構(gòu)成一定壓力,甚至可能引發(fā)
    的頭像 發(fā)表于 06-21 14:11 ?961次閱讀

    差分晶振在AI服務(wù)器中的應(yīng)用案例

    隨著ChatGPT技術(shù)不斷發(fā)展和應(yīng)用,我國AI服務(wù)器市場(chǎng)保持較快增速(預(yù)計(jì) 2023年我國服務(wù)器市場(chǎng)規(guī)模將增至308億美元),而AI
    發(fā)表于 06-17 15:15 ?1次下載

    英偉達(dá)首次向OpenAI供應(yīng)AI服務(wù)器,鴻海出貨預(yù)期將增長

    自2017年起,鴻海便開始與英偉達(dá)合作開發(fā)服務(wù)器,其中包括世界上首臺(tái)AI服務(wù)器HGX1。值得注意的是,OpenAI成立之初,有一張照片展示了黃仁勛贈(zèng)予馬斯克一臺(tái)AI
    的頭像 發(fā)表于 04-26 16:18 ?877次閱讀

    服務(wù)器遠(yuǎn)程不上服務(wù)器怎么辦?服務(wù)器無法遠(yuǎn)程的原因是什么?

    產(chǎn)生問題的原因,檢查硬盤和服務(wù)器系統(tǒng)。通過日志和檢查數(shù)據(jù)來確認(rèn)問題出 現(xiàn)的原因以及如何解決。 三、端口問題 1.端口錯(cuò)誤 找回正確的端口或更換遠(yuǎn)程端口 2.端口被掃 更改端口,并在防火墻禁止掃的IP
    發(fā)表于 02-27 16:21

    【國產(chǎn)FPGA+OMAPL138開發(fā)板體驗(yàn)】(原創(chuàng))6.FPGA連接ChatGPT 4

    訪問ChatGPT 4這樣的AI模型是非常復(fù)雜的,因?yàn)檫@涉及到大量的數(shù)據(jù)傳輸、協(xié)議實(shí)現(xiàn)、并行處理、優(yōu)化等等。更重要的是,ChatGPT 4這樣的模型通常是運(yùn)行在強(qiáng)大的服務(wù)器集群上。不過
    發(fā)表于 02-14 21:58

    AI服務(wù)器簡(jiǎn)介及晶振應(yīng)用

    AI服務(wù)器,是一種專門用于處理人工智能相關(guān)任務(wù)的高性能計(jì)算機(jī)。它具備強(qiáng)大的計(jì)算能力和存儲(chǔ)能力,能夠快速處理大量的數(shù)據(jù)和復(fù)雜的算法。與傳統(tǒng)的計(jì)算設(shè)備相比,AI服務(wù)器具有更高的計(jì)算效率和更
    的頭像 發(fā)表于 12-25 10:45 ?1092次閱讀
    <b class='flag-5'>AI</b><b class='flag-5'>服務(wù)器</b>簡(jiǎn)介及晶振應(yīng)用

    物理服務(wù)器對(duì)ai發(fā)展的應(yīng)用

    物理服務(wù)器AI發(fā)展中扮演著重要的角色。傳統(tǒng)的以CPU為計(jì)算部件的服務(wù)器架構(gòu)已難以滿足人工智能的新需求,因此,"CPU+ GPU/FPGA/ASIC"的異構(gòu)計(jì)算架構(gòu)成為人工智能服務(wù)器
    的頭像 發(fā)表于 12-22 09:19 ?428次閱讀

    YXC晶振解決方案AI服務(wù)器中的應(yīng)用

    AI服務(wù)器常用頻點(diǎn):50MHZ、125MHZ、156.25MHZ,適用于AI服務(wù)器的YXC差分晶振
    的頭像 發(fā)表于 12-18 18:06 ?486次閱讀
    YXC晶振解決方案<b class='flag-5'>AI</b><b class='flag-5'>服務(wù)器</b>中的應(yīng)用

    AI發(fā)展下服務(wù)器的選擇非常重要

    AI發(fā)展下,服務(wù)器的選擇非常重要。以下是一些選擇服務(wù)器時(shí)需要考慮的因素。
    的頭像 發(fā)表于 12-07 10:06 ?483次閱讀

    大模型算驅(qū)動(dòng)AI服務(wù)器行業(yè)報(bào)告

    AI服務(wù)器按芯片類型可分為CPU+GPU、CPU+FPGA、CPU+ASIC等組合形式,CPU+GPU是目前國內(nèi)的主要選擇(占比91.9%);AI服務(wù)器的成本主要來自CPU、GPU等芯
    發(fā)表于 11-28 09:18 ?230次閱讀
    大模型算驅(qū)動(dòng)<b class='flag-5'>AI</b><b class='flag-5'>服務(wù)器</b>行業(yè)報(bào)告