隨著最新一代超級計算機日益與人工智能和云計算相結(jié)合,衡量這些機器的方式也在發(fā)生變化。
從科學模擬、可視化、數(shù)據(jù)分析再到機器學習,各種現(xiàn)代計算的工作負載正在推動超級計算中心、云服務(wù)提供商和企業(yè)重新思考他們的計算架構(gòu)。
僅靠處理器、網(wǎng)絡(luò)或軟件優(yōu)化已經(jīng)無法滿足研究人員、工程師和數(shù)據(jù)科學家的最新需求。
數(shù)據(jù)中心取而代之,成為新的計算單元,因此企業(yè)必須關(guān)注整個技術(shù)堆棧。
全球最強系統(tǒng)的最新排名顯示,在新一代超級計算機中,這種使用全棧方法的趨勢還在持續(xù)。
在本周SC21高性能計算大會上最新發(fā)布的TOP500榜單上,NVIDIA技術(shù)為355套超級計算機系統(tǒng)提供加速,占榜單的70%以上,而新增系統(tǒng)中90% 以上都采用了NVIDIA 的技術(shù)。對比6月份發(fā)布的TOP500榜單上342個系統(tǒng)(占榜單68%)使用NVIDIA技術(shù),增長趨勢明顯。
NVIDIA在全球最節(jié)能系統(tǒng)Green500榜單上也繼續(xù)保持領(lǐng)先優(yōu)勢,占據(jù)了榜單排名前25名系統(tǒng)中的23套,與6月份持平。平均來看,采用NVIDIA GPU的系統(tǒng)能耗效率比非GPU系統(tǒng)高3.5倍。
來自微軟的GPU加速Azure超級計算機在榜單上排名第十。這是基于云的系統(tǒng)首次躋身前10名,新一代云原生系統(tǒng)就此嶄露頭角。
人工智能正帶來一場科學計算的革命。近年來,研究高性能計算和機器學習的論文數(shù)量激增,從2018年的約600篇增長到2020年的近5000篇。
包括HPL-AI和MLPerf HPC在內(nèi)的新基準也強調(diào)了高性能計算和AI工作負載的持續(xù)融合。
作為一個融合了高性能計算和人工智能工作負載的新基準,HPL-AI使用了深度學習和許多科學與商業(yè)工作的基礎(chǔ)——混合精度計算,同時還提供高性能計算基準傳統(tǒng)的標準標尺——雙精度計算的高度準確性。
MLPerf HPC基準適用于通過人工智能實現(xiàn)超級計算機模擬加速和增強的計算方式,主要被用來測試高性能計算中心天體物理學(Cosmoflow)、天氣(Deepcam)和分子動力學(Opencatalyst)三大關(guān)鍵工作負載的性能表現(xiàn)。
NVIDIA通過GPU加速處理、智能網(wǎng)絡(luò)、GPU優(yōu)化應(yīng)用程序和支持AI和高性能計算融合的庫來解決整個堆棧的問題。這一方法提升了工作負載的性能表現(xiàn),并推動了科學突破。
讓我們來具體看一看NVIDIA是如何助力超級計算機實現(xiàn)性能提升的。
加速計算
GPU的并行處理能力再加上超過2500個GPU優(yōu)化應(yīng)用程序,在多數(shù)情況下可以讓用戶把高性能計算任務(wù)的時間從幾周減少到幾個小時。
NVIDIA一直在優(yōu)化CUDA-X庫和GPU加速應(yīng)用程序,所以用戶如果發(fā)現(xiàn)自己的GPU架構(gòu)性能突然有了提升也很正常。
因此,應(yīng)用范圍最廣的科學應(yīng)用程序(我們稱之為“黃金套件”)的性能在過去6年里提高了16倍,而且還在不斷提升。
圖注:全棧創(chuàng)新帶來頂級高性能計算、人工智能和機器學習應(yīng)用程序的16倍性能提升。
為幫助用戶快速提升性能,NVIDIA通過NGC目錄中的容器提供最新版本的人工智能和高性能計算軟件。用戶只需在數(shù)據(jù)中心或云端的超級計算機上拖拽并運行應(yīng)用程序即可。
高性能計算與人工智能融合
人工智能在高性能計算中的應(yīng)用能幫助研究人員加快模擬速度,同時保持傳統(tǒng)模擬方法的準確性。
為此,越來越多的研究人員開始利用人工智能來加快研究的速度,比如今年超算領(lǐng)域最有聲望的戈登·貝爾獎(Gordon Bell prize)決賽的四組晉級團隊。各大企業(yè)正在競相建造E級人工智能計算機,以支持這種融合高性能計算和人工智能的新模式。
一些相對較新的基準(如HPL-AI和MLPerf HPC)也印證了這一趨勢,強調(diào)了高性能計算和AI工作負載的持續(xù)融合。
為推動這一趨勢,上周NVIDIA推出了一系列用于高性能計算的先進的新的庫和軟件開發(fā)工具套件。
圖是現(xiàn)代數(shù)據(jù)科學中的一個關(guān)鍵數(shù)據(jù)結(jié)構(gòu)。通過一個名為深度圖庫(DGL)的新型Python包,用戶現(xiàn)在可以把圖投影到深度神經(jīng)網(wǎng)絡(luò)框架中。
NVIDIA Modulus構(gòu)建并訓練了一個內(nèi)嵌物理信息的機器學習模型,可以用來學習并遵循物理定律。
NVIDIA推出了三個新庫:
·ReOpt – 可提高規(guī)模高達10萬億美元的物流行業(yè)的運營效率。
·cuQuantum – 可加速量子計算研究。
·cuNumeric – 為Python社區(qū)的科學家、數(shù)據(jù)科學家、機器學習和人工智能研究人員加速NumPy。
NVIDIA的虛擬世界模擬和3D工作流協(xié)作平臺NVIDIA Omniverse負責把一切整合到一起。
Omniverse可用來模擬倉庫、工廠、物理和生物系統(tǒng)、5G邊緣、機器人、自動駕駛汽車甚至是虛擬形象的數(shù)字孿生。
NVIDIA上周宣布,將利用Omniverse構(gòu)建一臺名為Earth-2的超級計算機,通過創(chuàng)建一個數(shù)字孿生地球來預測氣候變化。
云原生超級計算
隨著超級計算機在數(shù)據(jù)分析、人工智能、模擬和可視化方面承擔越來越多的工作負載,CPU不得不在大型復雜的系統(tǒng)上支持更多的通信任務(wù)。
DPU(數(shù)據(jù)處理器)可以卸載多種操作,有效減輕這一壓力。
作為一個完全集成的片上數(shù)據(jù)中心平臺,NVIDIA BlueField DPU可以卸載和管理數(shù)據(jù)中心的基礎(chǔ)設(shè)施任務(wù),釋放主機的處理器資源,從而實現(xiàn)更強的安全性和更高效的超級計算編排工作。
與NVIDIA Quantum InfiniBand平臺相結(jié)合,該架構(gòu)可提供最佳裸機性能,同時原生支持多節(jié)點租戶隔離。
NVIDIA的Quantum InfiniBand平臺提供可預測的裸機性能隔離。并且采用零信任安全防護,因而這些新系統(tǒng)也更加安全。
BlueField DPU將用戶應(yīng)用與基礎(chǔ)設(shè)施任務(wù)隔離開來。最新的BlueField軟件平臺NVIDIA DOCA 1.2支持下一代分布式防火墻和更廣泛的線速數(shù)據(jù)加密。而NVIDIA Morpheus則會假設(shè)入侵者已經(jīng)進入數(shù)據(jù)中心,將利用基于深度學習的數(shù)據(jù)科學來實時檢測入侵者的活動。
新的網(wǎng)絡(luò)技術(shù)則會加速上述這些趨勢場景。
上周NVIDIA還發(fā)布了NVIDIA Quantum-2。這是一個400Gbps InfiniBand平臺,由Quantum-2交換機、ConnectX-7網(wǎng)卡、BlueField-3 DPU以及用于新網(wǎng)絡(luò)架構(gòu)的軟件組成。
NVIDIA Quantum-2提供了裸機高性能和安全多租戶優(yōu)勢,可以讓下一代超級計算機實現(xiàn)安全性、云原生以及更高的效率。
**基準應(yīng)用:Amber、Chroma、GROMACS、MILC、NAMD、PyTorch、Quantum Espresso;
Random Forest FP32、TensorFlow、VASP | GPU節(jié)點:雙插槽CPU和4顆P100、V100或A100 GPU。
評論
查看更多