“你無法在內(nèi)存中存放數(shù)十億個(gè)節(jié)點(diǎn)，存儲(chǔ)變得更加重要。”Matchett 說。

一般而言，無論是怎樣的用例，在模型訓(xùn)練的過程中都有四個(gè)共同點(diǎn)：?

訓(xùn)練模型?

推理應(yīng)用?

數(shù)據(jù)存儲(chǔ)??

加速計(jì)算?

而在這些要素中，數(shù)據(jù)存儲(chǔ)在規(guī)劃過程中往往容易被忽視。

因?yàn)樵趧?chuàng)建和部署模型時(shí)，大多數(shù)的要求是迅速通過POC或測試環(huán)境，從而盡快開展模型訓(xùn)練，數(shù)據(jù)存儲(chǔ)需求并不是優(yōu)先考慮的。

然而，挑戰(zhàn)在于訓(xùn)練或推理部署可能持續(xù)數(shù)月或數(shù)年時(shí)間。許多公司在這段時(shí)間里迅速擴(kuò)大了模型規(guī)模，而基礎(chǔ)設(shè)施也必須擴(kuò)展以適應(yīng)不斷增長的模型和數(shù)據(jù)集。

谷歌此前公布的數(shù)百萬ML訓(xùn)練工作負(fù)載的研究報(bào)告表明，工作負(fù)載平均花費(fèi)30%的訓(xùn)練時(shí)間在輸入數(shù)據(jù)的管道上。雖然過去的一些研究工作側(cè)重于通過優(yōu)化GPU來加速訓(xùn)練，但在優(yōu)化數(shù)據(jù)管道的各個(gè)部分方面仍然面臨許多挑戰(zhàn)。

確定合適的存儲(chǔ)系統(tǒng)

當(dāng)你有了非常強(qiáng)大的算力后，真正的瓶頸變成了你能以多快的速度將數(shù)據(jù)輸入計(jì)算，從而得到結(jié)果。

特別是數(shù)據(jù)存儲(chǔ)和管理方面的挑戰(zhàn)，需要對(duì)數(shù)據(jù)增長進(jìn)行規(guī)劃，這樣你就可以在前進(jìn)的過程中不斷獲取數(shù)據(jù)的價(jià)值，特別是當(dāng)你開始更高級(jí)的用例，如深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)，這對(duì)存儲(chǔ)的能力、性能和規(guī)模提出了更高的要求。具體而言：?

可擴(kuò)展性

機(jī)器學(xué)習(xí)需要組織處理大量數(shù)據(jù)，而且數(shù)據(jù)量越大，模型的準(zhǔn)確性相對(duì)也越高，這意味著企業(yè)每天必須收集和存儲(chǔ)越來越多的數(shù)據(jù)。而當(dāng)存儲(chǔ)無法擴(kuò)展時(shí)，數(shù)據(jù)密集型工作負(fù)載會(huì)產(chǎn)生瓶頸，這會(huì)限制性能并導(dǎo)致昂貴的GPU閑置。

靈活性

靈活利用多種協(xié)議支持（包括NFS、SMB、HTTP、FTP、HDFS和S3），以確保滿足不同系統(tǒng)的需求，而不僅僅是單一類型的環(huán)境。

延遲

I/O的延遲對(duì)于構(gòu)建和使用模型很重要，因?yàn)閿?shù)據(jù)會(huì)被多次讀取和重讀。減少I/O延遲可以將模型的訓(xùn)練時(shí)間縮短數(shù)天或數(shù)月。更快的模型開發(fā)直接轉(zhuǎn)化為更大的業(yè)務(wù)優(yōu)勢。

吞吐量

當(dāng)然，存儲(chǔ)系統(tǒng)的吞吐量對(duì)于高效的模型訓(xùn)練也至關(guān)重要。訓(xùn)練過程使用大量數(shù)據(jù)，通常以每小時(shí)TB為單位。

并行訪問

為了實(shí)現(xiàn)高吞吐量，訓(xùn)練模型會(huì)將活動(dòng)拆分為多個(gè)并行任務(wù)。這通常意味著機(jī)器學(xué)習(xí)算法會(huì)同時(shí)從多個(gè)進(jìn)程（可能在多個(gè)物理服務(wù)器上）訪問相同的文件。存儲(chǔ)系統(tǒng)必須能夠在不影響性能的情況下應(yīng)對(duì)并發(fā)需求。

首屈一指橫向擴(kuò)展NAS存儲(chǔ)為模型訓(xùn)練提供動(dòng)力

憑借低延遲、高吞吐量和大規(guī)模并行I/O的卓越能力，戴爾PowerScale是GPU加速計(jì)算的理想存儲(chǔ)補(bǔ)充。

?

PowerScale能夠有效地壓縮訓(xùn)練和測試多字節(jié)數(shù)據(jù)集的分析模型所需的時(shí)間。在PowerScale全閃存存儲(chǔ)中，帶寬增加了18倍，從而消除了I/O瓶頸，并且可以添加到現(xiàn)有的Isilon集群中，以加速和釋放大量非結(jié)構(gòu)化數(shù)據(jù)的價(jià)值。

此外，PowerScale的多協(xié)議訪問能力，為企業(yè)運(yùn)行工作負(fù)載提供了無限靈活性，這些工作負(fù)載既可以使用一種協(xié)議存儲(chǔ)數(shù)據(jù)，也能夠使用另一種協(xié)議訪問數(shù)據(jù)。

具體而言，PowerScale平臺(tái)的強(qiáng)大功能、靈活性、可擴(kuò)展性和企業(yè)級(jí)功能可幫助您應(yīng)對(duì)挑戰(zhàn)：??

●以高達(dá)2.7倍的性能加速創(chuàng)新，加快模型訓(xùn)練周期。

●利用企業(yè)級(jí)功能、高性能、并發(fā)性和可擴(kuò)展性消除I/O瓶頸，提供更快的模型訓(xùn)練和驗(yàn)證，提高模型精度，改善數(shù)據(jù)科學(xué)生產(chǎn)力，并使計(jì)算投資回報(bào)率（ROI）最大化。?

●通過在單個(gè)集群中高達(dá)119PB的有效存儲(chǔ)容量，以更深的高分辨率數(shù)據(jù)集提高模型的準(zhǔn)確性。

●利用靈活的部署和網(wǎng)絡(luò)彈性，使您能夠從小規(guī)模開始，獨(dú)立擴(kuò)展計(jì)算和存儲(chǔ)，以實(shí)現(xiàn)大規(guī)模部署，并提供強(qiáng)大的數(shù)據(jù)保護(hù)和安全選項(xiàng)。

●通過靈活的就地分析和預(yù)先驗(yàn)證的解決方案，提高數(shù)據(jù)科學(xué)的生產(chǎn)力，以實(shí)現(xiàn)更快的、低風(fēng)險(xiǎn)的部署。

●經(jīng)驗(yàn)證的設(shè)計(jì)基于同類最佳技術(shù)，包括 NVIDIA GPU加速和帶有NVIDIA DGX系統(tǒng)的參考架構(gòu)。??

PowerScale的高性能、高并發(fā)性能可滿足機(jī)器學(xué)習(xí)從數(shù)據(jù)采集、數(shù)據(jù)準(zhǔn)備、模型訓(xùn)練和模型推理各階段對(duì)存儲(chǔ)性能的要求；加上其搭載的OneFS操作系統(tǒng)，使所有節(jié)點(diǎn)能夠在同一OneFS驅(qū)動(dòng)的集群中無縫運(yùn)行，并具有性能管理、數(shù)據(jù)管理、安全和數(shù)據(jù)保護(hù)等企業(yè)級(jí)功能，能更快幫助企業(yè)完成模型的訓(xùn)練和驗(yàn)證。

編輯：黃飛

?