隨著個人與企業所產生及使用的資料量急劇增長,為了支持使用人工智能 (AI)、機器學習 (ML) 等復雜模型的應用,云服務供應商需要一套全新的架構來存儲、分析及傳送資料。但由于內存容量需求不斷上升,使得處理器數量及內存頻寬達到瓶頸,舉例來說,盡管 DRAM 占服務器成本的比例高達 50%,卻受限于內存無法連接到多個 CPU 或 GPU 的架構,導致在各個時間段中約有 25% 的內存處于閑置的窘境。
Compute Express Link (CXL) 是一種用于處理器、內存擴展和加速器的開放標準。CXL 內存控制器允許內存通過擴張、池化、共享等方式,增加內存利用率,并減少總擁有成本 (TCO),同時改善系統能效及效率,以支持通用運算、AI 訓練和推理、機器學習、內存資料庫、內存分層及其他應用專屬的工作負載。CXL 內存控制器也提供了高度的彈性,保留未來升級的空間,與主流 CPU、GPU 與內存廠商的相容性讓這個產品能夠更容易被管理、偵錯及規模化。
Astera Labs - Leo CXL Memory Connectivity Platform
Astera Labs Leo CXL Memory Connectivity 平臺是業界首個通過內存擴展、池化和共享來消除內存瓶頸、提高性能和降低 TCO 的解決方案。Leo 控制器具有云規模部署所需的廣泛功能,包括服務器級 RAS 功能、端到端安全性、低延遲 DDRx 等。與領先業界的處理器廠商、存儲器廠商、策略云端客戶、系統 OEM 和 CXL 聯盟密切合作開發,以確保其滿足眾廠商的特定要求,并在整個生態系統中流暢互通。
相關產品
A100 80GB PCIe GPU NVIDIA 適用于 PCIe 的 NVIDIA A100,為所有工作負載提供最高程度的多樣性。在 80 GB 版本上首度推出全球最快速的內存頻寬,每秒超過 2 TB (TB/秒),可解決最大的模型和資料集。 |
2-Mbit I2C EEPROM STMicroelectronics M24M02 是一個 2-Mbit I2C 兼容的 EEPROM,可以在1.8V 至 5.5V 的電壓及-40 °C / +85 °C 的溫度范圍內作業。 |
-
內存
+關注
關注
8文章
3002瀏覽量
73884 -
ML
+關注
關注
0文章
146瀏覽量
34605 -
益登科技
+關注
關注
0文章
26瀏覽量
12612 -
云服務器
+關注
關注
0文章
544瀏覽量
13348
原文標題:云服務器中的 CXL 內存擴充與池化
文章出處:【微信號:gh_35b6c826f6e2,微信公眾號:益登科技】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論