電子發燒友網報道(文/周凱揚)要說去年內存市場最大的動靜是DDR5內存的面世,那么今年的大新聞無疑是一眾CXL內存的新品出現了。CXL這種新的互聯技術標準給內存市場,尤其是數據中心內存市場帶來了更大的空間,從帶寬和容量上實現了數量級的增長。但說歸說,一個標準能不能普及起來,關鍵還是在于有沒有廠商跟進,CXL發布至今,我們就來看看IP、芯片和存儲廠商們的動作。
Arm
作為開始在服務器和數據中心上搶奪x86份額的架構,Arm自然是早早就開始了CXL的布局,從Neoverse的第二代的產品中,全部都加入了CXL 2.0的支持,比如Neoverse V2、N2和E2等等。而到了下一代產品中,這三大產品線在提升性能和效率的同時,也會增加對CXL 3.0的支持。
更重要的是,Arm自身也有AMBA CHI這種連接SoC不同功能塊之間的互聯規范,未來有了UCIe和CXL,三大開放標準將為Arm生態帶去全面的die to die和chip to chip連接解決方案。
為了鼓勵客戶在CXL上與Arm合作,他們也點出了自己的幾大優勢。首先,在早年對CCIX這一標準的推進中,Arm已經對這種一致性設備技術有了足夠的了解;其二,通過與合作伙伴之間的溝通,Arm最清楚需求上的變化,而且Arm在這個碎片化的生態系統中處于中立的地位;第三,Arm已經證實了自己在多個市場生態系統下的霸主地位,他們有信心在服務器和數據中心上展現自己的實力,推動整個CXL生態系統標準化。
瀾起科技
CXL并非一種新的內存制造技術,各大內存廠商造出的DDR4、DDR5服務器內存其實不會存在太大變化,但之所以能夠通過CXL實現內存擴展,主要靠的還是全新的控制器芯片。比如瀾起科技就在今年發布了首款CXL內存擴展控制器芯片(MXC),符合CXL 2.0中的Type 3內存擴展器規范,同時支持到PCIe 5.0的傳輸速率,兼容DDR4-3200和DDR5-6400的內存。
MXC芯片 / 瀾起科技
在三星的發布的首款512GB CXL DRAM內存中,就用到了瀾起科技的MXC芯片,今年8月SK海力士發布的DDR5 DRAM CXL內存,同樣用到了MXC芯片。從今年OCP全球峰會上的演示來看,除了三星和SK海力士以外,瀾起科技還會與美光合作,推出基于該芯片的CXL內存模組。
SK海力士
SK海力士也是積極推動CXL標準的先驅之一,甚至都已經為CXL內存的應用場景做好了規劃,比如CXL最大的應用場景,內存擴展。根據SK海力士的說法,每通道兩DIMM的時代已經迎來終結,未來數據中心的內存將擺脫大規模化的桎梏,至于內存帶寬擴展,也可以通過CXL做到每個CPU接12通道內存,實現更優秀的交叉存取和加載延遲。
此外,SK海力士還設想了服務型內存這種場景,比如打造一個大型內存池容器,根據用戶需求集成各種不同的內存介質,通過內存虛擬化來實現對xPU的靈活內存容量分配。另一個創新場景則是近內存計算,比如SK海力士最新推出的CXL計算內存方案(CMS)。
CXL計算內存解決方案 / SK海力士
從CMS的原理圖來看,在支持CXL內存擴展的同時,SK海力士加入了不同的加速器來完成filter和KNN這些負責篩選分類的工作,對于機器學習來說能有奇效,甚至可以比幾十個CPU內核的速度還要快上幾倍。可以看出,在數據中心的AI/ML計算逐漸占大頭后,這種針對特定運算的專用硬件已經開始出現在CPU、GPU等各個組件上,如今也在內存上現身了。
CXL內存延遲的問題
表面上云服務廠商還沒有正式開始CXL的部署,畢竟CXL的產品生態也是差不多從今年起步的,然而他們也已經在評估測試CXL了。大家最擔心的還是延遲問題,CXL雖然在帶寬和容量之間找到了很好的定位,但內存延遲問題對于消費市場來說可能影響微乎其微,在數據中心上就會被無限放大。目前微軟Azure以及Meta等等,都已經發表了一些公開數據,在兩家的測試下,20%的負載都沒有任何性能影響。由此看來,大部分負載還是得承受一些小小的犧牲,才能享受CXL帶來的優勢。
Arm
作為開始在服務器和數據中心上搶奪x86份額的架構,Arm自然是早早就開始了CXL的布局,從Neoverse的第二代的產品中,全部都加入了CXL 2.0的支持,比如Neoverse V2、N2和E2等等。而到了下一代產品中,這三大產品線在提升性能和效率的同時,也會增加對CXL 3.0的支持。
更重要的是,Arm自身也有AMBA CHI這種連接SoC不同功能塊之間的互聯規范,未來有了UCIe和CXL,三大開放標準將為Arm生態帶去全面的die to die和chip to chip連接解決方案。
為了鼓勵客戶在CXL上與Arm合作,他們也點出了自己的幾大優勢。首先,在早年對CCIX這一標準的推進中,Arm已經對這種一致性設備技術有了足夠的了解;其二,通過與合作伙伴之間的溝通,Arm最清楚需求上的變化,而且Arm在這個碎片化的生態系統中處于中立的地位;第三,Arm已經證實了自己在多個市場生態系統下的霸主地位,他們有信心在服務器和數據中心上展現自己的實力,推動整個CXL生態系統標準化。
瀾起科技
CXL并非一種新的內存制造技術,各大內存廠商造出的DDR4、DDR5服務器內存其實不會存在太大變化,但之所以能夠通過CXL實現內存擴展,主要靠的還是全新的控制器芯片。比如瀾起科技就在今年發布了首款CXL內存擴展控制器芯片(MXC),符合CXL 2.0中的Type 3內存擴展器規范,同時支持到PCIe 5.0的傳輸速率,兼容DDR4-3200和DDR5-6400的內存。
MXC芯片 / 瀾起科技
在三星的發布的首款512GB CXL DRAM內存中,就用到了瀾起科技的MXC芯片,今年8月SK海力士發布的DDR5 DRAM CXL內存,同樣用到了MXC芯片。從今年OCP全球峰會上的演示來看,除了三星和SK海力士以外,瀾起科技還會與美光合作,推出基于該芯片的CXL內存模組。
SK海力士
SK海力士也是積極推動CXL標準的先驅之一,甚至都已經為CXL內存的應用場景做好了規劃,比如CXL最大的應用場景,內存擴展。根據SK海力士的說法,每通道兩DIMM的時代已經迎來終結,未來數據中心的內存將擺脫大規模化的桎梏,至于內存帶寬擴展,也可以通過CXL做到每個CPU接12通道內存,實現更優秀的交叉存取和加載延遲。
此外,SK海力士還設想了服務型內存這種場景,比如打造一個大型內存池容器,根據用戶需求集成各種不同的內存介質,通過內存虛擬化來實現對xPU的靈活內存容量分配。另一個創新場景則是近內存計算,比如SK海力士最新推出的CXL計算內存方案(CMS)。
CXL計算內存解決方案 / SK海力士
從CMS的原理圖來看,在支持CXL內存擴展的同時,SK海力士加入了不同的加速器來完成filter和KNN這些負責篩選分類的工作,對于機器學習來說能有奇效,甚至可以比幾十個CPU內核的速度還要快上幾倍。可以看出,在數據中心的AI/ML計算逐漸占大頭后,這種針對特定運算的專用硬件已經開始出現在CPU、GPU等各個組件上,如今也在內存上現身了。
CXL內存延遲的問題
表面上云服務廠商還沒有正式開始CXL的部署,畢竟CXL的產品生態也是差不多從今年起步的,然而他們也已經在評估測試CXL了。大家最擔心的還是延遲問題,CXL雖然在帶寬和容量之間找到了很好的定位,但內存延遲問題對于消費市場來說可能影響微乎其微,在數據中心上就會被無限放大。目前微軟Azure以及Meta等等,都已經發表了一些公開數據,在兩家的測試下,20%的負載都沒有任何性能影響。由此看來,大部分負載還是得承受一些小小的犧牲,才能享受CXL帶來的優勢。
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。
舉報投訴
-
芯片
+關注
關注
453文章
50406瀏覽量
421841 -
IP
+關注
關注
5文章
1655瀏覽量
149333
發布評論請先 登錄
相關推薦
拓展AI數據中心內存,第二代AMD Versal Premium系列自適應SoC,首發支持CXL 3.1、 PCIe Gen6
電子發燒友網報道(文/黃晶晶)在數據中心市場,DDR5和CXL內存正在成為廣泛采用的主流趨勢。預計2024年到2029年CXL內存的采用將達到212%的年復合增長率。如今,現有出貨的半數服務器
從匿名瀏覽到數據安全:代理IP用戶心聲全記錄
從匿名瀏覽到數據安全,代理IP技術在現代網絡環境中扮演著重要角色。以下是代理IP用戶心聲的全記錄,涵蓋了其應用、優勢、挑戰及用戶心聲。
打造異構計算新標桿!國數集聯發布首款CXL混合資源池參考設計
今日,領先的高速互聯芯片及方案設計廠商國數集聯發布業界首創的CXL混合資源池(Compute Express Link Hybrid Resource Pool ,以下簡稱“CHRP”)參考設計。該
國數集聯發布業界首款CXL多級網絡交換機,IB時代的顛覆者
今日,領先的高速互聯芯片及方案設計廠商國數集聯基于自主研發的CXL ( Compute Express Link )協議 IP,成功研發了業界第一款CXL多級網絡交換機(
國數集聯研發出首款CXL多級網絡交換機
今日,全球頂級高速互聯芯片及解決方案設計專家——國數集聯公司,憑借自主研發的CXL(Compute Express Link)協議IP,引領行業前沿,成功研發出全球首款CXL多級網絡交
芯片行業說的IP,是什么?
將半導體知識產權(IP)模塊集成到復雜的集成電路(IC)設計中帶來了許多嚴峻的挑戰。現代IC設計團隊通常分布在不同的國家,他們必須合作以應對多工具設計流程,并且經常缺乏本地開發的半導體IP
車路云協同,這次它真的來了嗎?
隨著科技的快速發展,“車路云協同”正在悄然發生變化。我們離科幻電影《機械公敵》中威爾?史密斯駕駛的汽車能準確甄別交通狀況并調整行駛狀態的時代就要來了嗎?背景說明“車路協同”已經不是什么新鮮名詞
什么是CXL技術?CXL的三種模式、類型、應用
CXL的目標:解決CPU和設備、設備和設備之間的內存鴻溝。服務器有巨大的內存池和數量龐大的基于PCIe運算加速器,每個上面都有很大的內存。內存的分割已經造成巨大的浪費、不便和性能下降。CXL就是為解決這個問題而誕生。
三星與紅帽攜手推動CXL存儲生態系統擴展并取得重要進展
通社/ -- 三星宣布,與開源軟件提供商紅帽(Red Hat)攜手,首次成功在真實用戶環境中驗證了Compute Express Link?(CXL?)內存技術的運行,這將進一步擴大三星的 CXL生態系統。 三星存儲器研究中心(
三星電子與紅帽成功驗證CXL內存操作
三星電子與開源軟件巨頭紅帽(RedHat)聯手,完成了在實際用戶環境中的CXL(ComputeExpressLink)內存操作;此舉系業內首次,將進一步擴大其 CXL 生態系統。
三星與紅帽聯合驗證CXL內存與最新操作系統的兼容性
三星透露,近期與開源軟件巨頭紅帽達成深度合作,在現實的用戶環境中首次證明了 Compute Express Link ?(CXL)內存技術的可行性,此舉預計會極大拓展三星的 CXL技術生態圈。受益于生成式人工智能、自動駕駛以及內
三星攜手紅帽進一步擴大CXL存儲生態系統
2023年12月27日——三星宣布,與開源軟件提供商紅帽(Red Hat)攜手,首次成功在真實用戶環境中驗證了Compute Express Link(CXL)內存技術的運行,這將進一步擴大三星的 CXL生態系統。
評論