AI聊天機器人回答復雜問題十分迅速、智能手機能播放高清視頻不卡頓的核心,毋庸置疑是帶寬的不斷提高和數(shù)據(jù)中心的迅速崛起。市場對帶寬的需求仍在不斷增長,數(shù)據(jù)中心正在轉向分散式架構,并在加速器上運行工作負載。Compute Express Link(簡稱CXL)是這些創(chuàng)新背后的核心技術。CXL是一種具有緩存一致性的從CPU到設備的互聯(lián)技術,為處理器、內存擴展和AI加速器提供了強大的連接能力。
XConn創(chuàng)立于2020年,在實現(xiàn)下一代人工智能和高性能計算(HPC)應用方面表現(xiàn)突出,該公司的使命是通過高性能、高能效、可擴展且經(jīng)濟高效的互連解決方案,加快數(shù)據(jù)中心和HPC的人工智能計算速度。
最近,XConn公司宣布其XC50256 CXL 2.0數(shù)據(jù)交換芯片在FinFET工藝上實現(xiàn)了首次流片成功。這款CXL數(shù)據(jù)交換芯片專為數(shù)據(jù)中心和內存池應用而設計,旨在實現(xiàn)最高吞吐量、最低延遲和最低功耗。這款創(chuàng)新型產(chǎn)品采用了新思科技的CXL 2.0控制器和PCIe 5.0 PHY IP。通過在復雜的數(shù)據(jù)交換芯片中內置對PCIe的支持并實施CXL,XConn致力于為客戶提供一條更加順暢的CXL采用之路。那么,XConn這款業(yè)界首個CXL數(shù)據(jù)交換芯片是如何開發(fā)的?下文一起來探討一下。
數(shù)據(jù)中心架構設計為何發(fā)生改變
PC和筆記本電腦過去經(jīng)常用于處理繁重的計算工作負載,但在如今這個AI驅動的數(shù)字世界中,數(shù)據(jù)中心成為了處理這些工作的主力設備。據(jù)statista預測,到2025年,全球數(shù)據(jù)生成量預計將達到180 ZB。對于管理者海量信息的數(shù)據(jù)中心而言,高帶寬和低延遲成了保持數(shù)字世界正常運轉的重要基石。
隨著數(shù)據(jù)需求的不斷增長,數(shù)據(jù)中心架構正在發(fā)生變革。超大規(guī)模世界正朝著解耦的方向發(fā)展:將計算、存儲和網(wǎng)絡等同質資源分別置于不同模塊中,并以光互連的方式進行連接,然后由中央智能單元負責確定并從每個模塊中提取所需的數(shù)據(jù)。這種架構有利于充分釋放剩余資源,使其能夠用于處理其他工作負載。
得益于分散化趨勢,內存池化成為可能,并且在數(shù)據(jù)中心內發(fā)揮越來越重要的作用。傳統(tǒng)的數(shù)據(jù)中心架構中,每個服務器都有自己獨立的內存集合,運行在上面的任何應用程序只能訪問這些特定內存,這限制了單個應用程序能使用的內存量。
然而,如今的數(shù)據(jù)驅動型應用,如ChatGPT等大型語言模型(LLMs),對內存的需求極為旺盛。不論為特定服務器分配內存資源,這些大型應用總會不夠用并需要更多。因此,解決這一困境的最佳方式就是打破內存壁壘,允許多臺服務器之間共享和集中內存資源。
當運行在特定服務器上的任何程序都能根據(jù)應用需求訪問內存池時,整體的內存使用效率會大大提高。即使請求的內存量很大,內存池也有TB級容量,可以支持大型內存應用。這樣,無論是大型語言模型還是其他數(shù)據(jù)密集型應用,都能獲得所需的內存,從而充分發(fā)揮性能,實現(xiàn)高效的數(shù)據(jù)處理和分析。
在數(shù)據(jù)中心架構中,加速器扮演著舉足輕重的角色。CXL技術提供了直達內存的通道,讓加速器和處理器能夠訪問相同數(shù)據(jù)。這種方式不僅避免了數(shù)據(jù)在系統(tǒng)內的冗余復制,還通過CXL的智能內存管理,實現(xiàn)了內存的動態(tài)分配和釋放。這意味著,當應用程序需要內存時,CXL會及時提供所需資源;而當應用程序完成任務后,CXL會迅速回收這些內存,以供其他應用使用。這種高效的內存管理策略不僅降低了延遲,還減少了軟件開銷,使系統(tǒng)能夠更好地處理Multi-Die系統(tǒng)中的die-to-die通信。隨著Multi-Die系統(tǒng)在數(shù)據(jù)中心的應用日益廣泛,CXL技術的這一優(yōu)勢將變得更加重要和突出。
CXL標準憑借其緩存一致性和超低延遲,備受數(shù)據(jù)中心SoC開發(fā)者的青睞。該標準擁有卓越的計算卸載能力,與PCI Express兼容,釋放了無限的設計可能。此外,CXL標準還兼?zhèn)涞凸奶匦裕瑢τ跐M足現(xiàn)代數(shù)據(jù)中心的高能耗需求至關重要,據(jù)統(tǒng)計,數(shù)據(jù)中心的能源消耗量約占全球能源的1%。可以說,CXL標準不僅是技術的革新,更是未來數(shù)據(jù)中心節(jié)能減碳的重要推手。
超高帶寬CXL 2.0數(shù)據(jù)交換芯片
XConn的CXL 2.0數(shù)據(jù)交換芯片提供了比競爭對手高出兩倍的帶寬,并且能夠實時或近實時做出響應。在設計數(shù)據(jù)交換芯片時,XConn深知讓來自不同廠商的不同設備能夠相互通信的關鍵在于其可靠性。對于數(shù)據(jù)中心的每個組件而言,可靠性、可用性和可服務性(RAS)都是不容忽視的關鍵屬性。
要想盡可能地減少互操作性問題,就離不開成熟可靠的IP。在IP方面,XConn選擇向新思科技尋求幫助,因為我們的CXL控制器和PHY應用非常廣泛,并獲得了眾多企業(yè)的高度認可。除了具有RAS功能的CXL 2.0控制器和PCIe 5.0 PHY IP,XConn還使用了用于CXL的新思科技驗證IP。XConn團隊與新思科技的多個工程團隊密切合作,在爭取將CXL數(shù)據(jù)交換芯片快速推向市場的過程中,得到了強有力的支持。
為了最小化互操作性問題,業(yè)界普遍采用經(jīng)驗證的IP。XConn選擇新思科技作為其IP供應商,因為我們的CXL控制器和PHY在行業(yè)中已經(jīng)得到了非常廣泛的應用,并得到了許多公司的驗證。除了具備RAS功能的CXL 2.0控制器和PCIe 5.0 PHY IP外,XConn還使用了用于CXL的新思科技驗證IP。
XConn團隊與新思科技的各個開發(fā)團隊緊密合作,在將CXL數(shù)據(jù)交換芯片推向市場的過程中得到了充分支持。他們憑借出色的技術實力和專業(yè)知識,成功打造了一款具備卓越性能和可靠性的CXL數(shù)據(jù)交換芯片,為數(shù)據(jù)中心的高效運行提供了有力保障。
開發(fā)基于CXL 3.0的下一代數(shù)據(jù)交換芯片
XConn正在研發(fā)基于CXL 3.0和PCIe 6.0的下一代數(shù)據(jù)交換芯片設計,這兩項技術將提供雙倍帶寬并降低延遲。XConn未來還將繼續(xù)與新思科技合作,并將新思科技的CXL 3.0和PCIe 6.0 IP用于其新設計。
隨著數(shù)據(jù)量和數(shù)據(jù)中心需求的迅速增長,CXL標準將在數(shù)據(jù)中心的發(fā)展中發(fā)揮越來越重要的作用。XConn的CXL數(shù)據(jù)交換芯片是CXL生態(tài)系統(tǒng)中的關鍵元素,助力打造HPC和AI應用的美好未來。
-
處理器
+關注
關注
68文章
19165瀏覽量
229130 -
智能手機
+關注
關注
66文章
18431瀏覽量
179859 -
新思科技
+關注
關注
5文章
787瀏覽量
50307 -
HPC
+關注
關注
0文章
311瀏覽量
23684 -
AI加速器
+關注
關注
1文章
68瀏覽量
8629
原文標題:新思科技助力業(yè)界首個CXL 2.0數(shù)據(jù)交換芯片首次流片即成功
文章出處:【微信號:Synopsys_CN,微信公眾號:新思科技】歡迎添加關注!文章轉載請注明出處。
發(fā)布評論請先 登錄
相關推薦
評論