AI時代的燃料—數據,正在呈井噴式爆發。
據統計,人類每天都會產生2.5 quintillion bytes(10的18次方)的數據,全世界數據總量的90%都是在過去兩年內產生的。IDC預測,2025年全球產生的數據量將達到163ZB。可以說,數據存儲和處理的效率決定了企業的AI競爭力和未來。雖然有研究者利用和內存作用相當類似的憶阻器來打造類神經網絡處理機制,用以處理深度學習方面的工作,但相關技術畢竟還不成熟,多數還是處于實驗室發展階段。
創業公司InnoGrit推出了一組固態硬盤(ssd)控制器Tacoma,其中一個用于數據中心,該中心嵌入了一個神經網絡加速器。InnoGrit表示已經擁有相對競爭對手的實力和性能優勢。
隨著NAND閃存價格出現觸底跡象,這些芯片應運而生。OEM和數據中心預計將利用價格較低的優勢,繼續從筆記本電腦和服務器的硬盤存儲轉向需要性能、功率或尺寸優勢的硬盤存儲。
在數據中心,SSD的應用“正在快速發展,尤其是在去年價格下跌的情況下,” InnoGrit的董事長兼創始人吳子寧說。“當我們與數據中心的客戶交談時,他們所有的新設計都是基于Flash的。”
吳子寧是個華人,他在Marvell工作了17年之后,于2016年時創立InnoGrit,過去也曾在中國媒體中露面。當初他提過一個概念,就是過去存儲負責的工作就是存儲,而沒有參與到計算工作,如果存儲端本身就可以進行計算,那么就可以省去很多數據搬運的工作,大幅降低系統的帶寬需求。
具體的概念,其實就是在把一批數據放進硬盤中時,若計算機需要在這堆數據中找出特定的內容,計算機自己就必須逐筆數據進行比對,找到符合需求的才撈出來顯示或執行。而數據在這個過程中來來回回,就會產生很多的帶寬消耗,如果,存儲媒體本身就可以進行計算,那么計算機只要告訴存儲媒體找出符合特定特征的數據,而其他的工作就交給具備計算功能的存儲媒體來進行,由于搜索和比對都在本地端,不需要經過總線進行搬移比對,效率更高,對能耗也更節省。
在高端應用上,InnoGrit的Tacoma使用4個PCI Gen4接口來支持16個NAND通道,在低于5W峰值功率的情況下,提供高達150萬個I/O/秒(IOPS)。它包括一個未命名的中層ARM核心,以及Nvidia的開源推理加速器NDLA來實現。
“有了這個組合,我們可以使用Nvidia提供的工具鏈進行智能處理,比如數據標簽,或者客戶可以安裝他們自己的固件,”吳子寧說。由于數據中心的客戶基本上目前開的新案子幾乎都是基于閃存的設計,這也讓他意識到,在存儲設備中嵌入AI計算的思路將會具有龐大市場價值。
不過InnoGrit的概念其實已經被三星搶先一步,2018年秋天,三星發布了一款SSD,內置Xilinx Zynq FPGA,可以處理各種人工智能、數據庫和視頻應用程序。號稱可以處理各種AI,數據庫和視頻應用的存內計算加速。另一方面,Phison電子和Marvell也都推出功能和InnoGrit類似的控制芯片組,不過與InnoGrit不同的是,這些公司的方案并沒有強調內嵌AI計算能力。
Tacoma使用64+8位數據總線,以及DDR3/4和LPDDR3/4 DRAM,并提供AES-256、SHA3和ECC安全性。中間層Rainier控制器是該設計的一個迷你版本,支持8個NAND通道和32位和16位數據總線,用于低端服務器或高端筆記本電腦。
為了達成這個技術概念,吳子寧利用臺積電的28nm,以及16/12nm FinFET制程打造了四組不同的控制器方案,支持的容量分別從2TB到最大32TB。此外,Rainier在峰值功率不足3W的情況下可提供多達100萬個IOPS。Rainier和Tacoma都支持高達7GB/s的順序讀取和6.1GB/s的順序寫入。
吳表示,這款產品在幾個指標上都領先于競爭對手。然而,在7月初,競爭對手***日升電子(Phison Electronics)宣布推出一款8通道SSD控制器,使用4條PCIe Gen 4鏈路。
而Marvell則宣布了三個SSD控制器,它們與InnoGrit的控制器大致相似。然而,它們都只支持4個NAND通道,而且它們沒有指定任何硬件AI加速或峰值功率額定值。
在低端場景,InnoGrit的Shasta控制器是一個無DRAM的SoC,用于客戶端系統的28-nm節點。它使用兩個PCIe Gen3鏈路,在0.9 W峰值功率下提供高達250,000 IOPS。計劃的升級將使用四個PCIe鏈路,在峰值功率高達1.35 W時將性能提高一倍。
所有芯片都支持現在的2D和3D NAND,達到QLC級別。這是一款低延遲芯片,他們還支持東芝的新型XL-Flash,但不支持競爭對手三星的Z-NAND。Tacoma控制器使用XL-Flash,讀取延遲為10-μs。
這家風投支持的初創公司在中國大陸、***和美國都設有辦事處,但他們聲稱與***SSD制造商InnoDisk沒有關系。該公司已經完成了B輪融資,并包括將所有產品投入生產,但吳拒絕透露投資者的姓名,也拒絕透露已獲得的融資金額。
“有很多企業都在這個領域追逐,”Forward Insights的首席分析師Gregory Wong說道,他調查了大約40家控制器制造商,其中許多企業都是在中國。“它們應用于去年出貨的2.15億客戶端和3000萬服務器的SSD市場。” Wong估計,客戶端控制器的售價僅為2美元,而服務器芯片價格可以擴展到15美元左右。“這是一個艱難的市場,”他指出,商家的目標是效仿Sandforce,是前LSI于2011年收購的一家初創企業。
Objective Analysis的首席分析師Jim Handy表示:“開發控制器的成本約為5000萬美元,規模較小的固態硬盤公司負擔不起這樣的費用,但對于一家獨立公司來說,生產可以向許多小企業銷售的控制器非常有幫助。如果他們運氣好的話,像英特爾,美光、西部數據/ SanDisk這樣的大型SSD制造商會喜歡他們的控制器,并停止生產自己的控制器。” Wong表示NAND閃存的渠道價格已經上漲,預計OEM價格將在今年年底觸底。
其實原本固態硬盤就具備相當龐大的算力,目的是為了要保護硬盤中的數據完整性,這些計算原本就是通過CPU和DSP來進行處理,如今額外增加神經網絡計算能力其實也是相當合理的事情。而隨著這類設計的逐漸普及,固態硬盤具備計算能力后可以創造出更多元的AI應用,雖然這類應用會先在服務器中進行嘗試,但未來也有可能普及到一般計算環境的存儲設備中,借以加速各種AI應用中的數據處理,并降低系統因子據傳輸所付出的額外功耗。
-
控制器
+關注
關注
112文章
16213瀏覽量
177461 -
神經網絡
+關注
關注
42文章
4765瀏覽量
100559 -
AI
+關注
關注
87文章
30223瀏覽量
268463
發布評論請先 登錄
相關推薦
評論