本文屬于《解碼 AI》系列欄目,該系列的目的是讓技術(shù)更加簡單易懂,從而解密 AI,同時向 RTX 工作站和 PC 用戶展示全新硬件、軟件、工具和加速特性。
AI 正幫助各行各業(yè)推動創(chuàng)新和提高效率,但要充分發(fā)揮其潛力,必須基于海量的高質(zhì)量數(shù)據(jù)對各種模型進(jìn)行訓(xùn)練。數(shù)據(jù)科學(xué)家在準(zhǔn)備這類數(shù)據(jù)方面發(fā)揮著關(guān)鍵作用,在專業(yè)數(shù)據(jù)(通常為專有數(shù)據(jù))對于增強 AI 功能至關(guān)重要的特定領(lǐng)域尤其如此。
為了幫助數(shù)據(jù)科學(xué)家應(yīng)對日益增長的工作負(fù)載需求,NVIDIA 發(fā)布了 RAPIDS cuDF 庫,以便用戶更輕松地處理數(shù)據(jù),并且無需更改代碼即可加速 pandas 軟件庫。Pandas 是面向 Python 的一個靈活、功能強大的熱門數(shù)據(jù)分析和處理庫。借助 cuDF,數(shù)據(jù)科學(xué)家現(xiàn)在可以在他們首選的代碼庫上全速運行數(shù)據(jù)處理。
NVIDIA RTX AI 硬件和技術(shù)也可以加速數(shù)據(jù)處理。這包括強大的 GPU,可提供在各個層面快速高效地加速 AI 所需的計算性能 — 從數(shù)據(jù)科學(xué)工作流到 PC 和工作站上的模型訓(xùn)練和定制。
數(shù)據(jù)科學(xué)的瓶頸
最常用的數(shù)據(jù)格式是按行和列組織的表格數(shù)據(jù)。小型數(shù)據(jù)集可以使用 Excel 等電子表格工具進(jìn)行管理,但是,包含數(shù)千萬行的數(shù)據(jù)集和建模工作流通常依賴于采用了例如 Python 等編程語言的 DataFrame 程序庫。
Python 是進(jìn)行數(shù)據(jù)分析時的熱門選擇,主要是因為 pandas 庫采用易于使用的應(yīng)用編程接口(API)。然而,隨著數(shù)據(jù)集的規(guī)模不斷增長,pandas 在純 CPU 系統(tǒng)中難以實現(xiàn)理想的處理速度和效率。該庫在處理文本密集型數(shù)據(jù)集時的性能也為人所詬病,而對大語言模型來說,這是一種重要的數(shù)據(jù)類型。
當(dāng)數(shù)據(jù)需求超出 pandas 的能力時,數(shù)據(jù)科學(xué)家會面臨兩難境地:要么忍受緩慢的處理速度,要么采取復(fù)雜且成本高昂的措施,即轉(zhuǎn)而采用更高效但對用戶不夠友好的工具。
使用 RAPIDS cuDF加速預(yù)處理工作流
RAPIDS cuDF 配合 RTX AI PC 和工作站,可為熱門的 pandas 軟件庫提供最高達(dá) 100 倍加速
借助 RAPIDS cuDF,數(shù)據(jù)科學(xué)家現(xiàn)在可以在他們首選的代碼庫上全速運行數(shù)據(jù)處理。RAPIDS 是一套開源 GPU 加速的 Python 庫,旨在改進(jìn)數(shù)據(jù)科學(xué)和分析工作流。cuDF 是一個 GPU DataFrame 庫,可提供類似于 pandas 的 API 來加載、過濾和操作數(shù)據(jù)。
使用 cuDF 的“pandas 加速器模式”,數(shù)據(jù)科學(xué)家可以在 GPU 上運行現(xiàn)有的 pandas 代碼,充分利用強大的并行處理功能,并可放心的將代碼在必要時移植到 CPU 上。這種互通性提供了出色、可靠的性能。
最新版本的 cuDF 支持更大規(guī)模的數(shù)據(jù)集和數(shù)十億行的表格文本數(shù)據(jù)。這樣,數(shù)據(jù)科學(xué)家就能夠使用 pandas 代碼來預(yù)處理生成式 AI 的數(shù)據(jù)。
在 NVIDIA RTX 加持的 AI 工作站
和 PC 上加速數(shù)據(jù)科學(xué)
最近的一項研究表明,57% 的數(shù)據(jù)科學(xué)家使用 PC、臺式機或工作站等本地資源來執(zhí)行數(shù)據(jù)科學(xué)任務(wù)。
從 NVIDIA GeForce RTX 4090 GPU 開始,數(shù)據(jù)科學(xué)家可以實現(xiàn)顯著的速度提升。隨著數(shù)據(jù)集規(guī)模不斷增長,處理工作占用更多內(nèi)存,相比于基于傳統(tǒng) CPU 的解決方案,在工作站中配合使用 cuDF 和 NVIDIA RTX 5880 Ada 架構(gòu) GPU,可以將性能提升多達(dá) 100 倍。
y 軸表示兩種常見的數(shù)據(jù)科學(xué)操作—“join”和“groupby”,而 x 軸顯示運行每項操作所需的時間
數(shù)據(jù)科學(xué)家可以在 NVIDIA AI Workbench 上輕松開始使用 RAPIDS cuDF。利用這個基于容器的免費開發(fā)者環(huán)境管理器,數(shù)據(jù)科學(xué)家和開發(fā)者可以跨 GPU 系統(tǒng)創(chuàng)建、遷移 AI 和數(shù)據(jù)科學(xué)工作負(fù)載并進(jìn)行協(xié)作。用戶可以從 NVIDIA GitHub 倉庫中提供的幾個示例項目開始,例如 cuDF AI Workbench 項目。
HP AI Studio 也默認(rèn)支持 cuDF,這是一個集中式數(shù)據(jù)科學(xué)平臺,旨在幫助 AI 開發(fā)者將其開發(fā)環(huán)境從工作站無縫復(fù)制到云端。這便于他們創(chuàng)建、開發(fā)項目并進(jìn)行協(xié)作,而無需管理多個環(huán)境。
在 RTX 加持的 AI PC 和工作站上,cuDF 的優(yōu)勢并不僅限于提升原始性能。還包括:
在強大的 GPU 上進(jìn)行固定成本的本地開發(fā),并可以無縫復(fù)制到本地部署的服務(wù)器或云實例,從而節(jié)省時間和支出。
加快數(shù)據(jù)處理以實現(xiàn)更快迭代,以便數(shù)據(jù)科學(xué)家以交互式的速度進(jìn)行實驗、優(yōu)化并從數(shù)據(jù)集中產(chǎn)生洞察。
實現(xiàn)更有效的數(shù)據(jù)處理,以在后續(xù)工作流獲得更好的模型結(jié)果。
數(shù)據(jù)科學(xué)的新時代
隨著 AI 和數(shù)據(jù)科學(xué)的不斷發(fā)展,快速處理和分析大量數(shù)據(jù)集的能力將成為各行業(yè)實現(xiàn)突破的關(guān)鍵差異化因素。無論是開發(fā)復(fù)雜的機器學(xué)習(xí)模型、執(zhí)行復(fù)雜的統(tǒng)計分析還是探索生成式 AI,RAPIDS cuDF 都可為新一代數(shù)據(jù)處理奠定基礎(chǔ)。
NVIDIA 正通過增加對最熱門的 DataFrame 工具的支持來鞏固這一基礎(chǔ),其中包括 Polars,它是增長最快的 Python 庫之一,與其他開箱即用的純 CPU 工具相比,可幫助顯著加速數(shù)據(jù)處理。
Polars 本月宣布推出由 RAPIDS cuDF 提供支持的 Polars GPU 引擎公開測試版。Polars 用戶現(xiàn)在可以將本已極快的 DataFrame 庫性能提升多達(dá) 13 倍。
RTX AI 為未來的工程師創(chuàng)造無限可能
無論在大學(xué)數(shù)據(jù)中心、GeForce RTX 筆記本電腦還是 NVIDIA RTX 工作站上運行,NVIDIA GPU 都可加速學(xué)習(xí)過程。數(shù)據(jù)科學(xué)領(lǐng)域及其他領(lǐng)域的學(xué)生將增強其學(xué)習(xí)體驗,并通過廣泛應(yīng)用于現(xiàn)實世界應(yīng)用的硬件獲得實戰(zhàn)經(jīng)驗。
生成式 AI 正在深入改變游戲、視頻會議和各種交互體驗。
-
NVIDIA
+關(guān)注
關(guān)注
14文章
4940瀏覽量
102818 -
AI
+關(guān)注
關(guān)注
87文章
30167瀏覽量
268428 -
工作流
+關(guān)注
關(guān)注
0文章
44瀏覽量
12415
原文標(biāo)題:解密 AI 如何加速數(shù)據(jù)科學(xué)工作流
文章出處:【微信號:NVIDIA_China,微信公眾號:NVIDIA英偉達(dá)】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
相關(guān)推薦
評論