數(shù)據(jù)分析加速

近來 FPGA 一直在超大規(guī)模數(shù)據(jù)中心中方興未艾，越來越多地被用來加速大數(shù)據(jù)分析。這是一個非常重要的領(lǐng)域，因?yàn)?SQL 數(shù)據(jù)查詢在整個超大規(guī)模基礎(chǔ)設(shè)施上都有使用。賽靈思為這個市場也開發(fā)了一個堆棧，正取得理想的初期成效。賽靈思提供的 SQL 數(shù)據(jù)移動器庫可用于將數(shù)據(jù)卸載到 FPGA 加速器。該應(yīng)用運(yùn)用 FPGA 從 SQL 或 NoSQL數(shù)據(jù)庫的適當(dāng)行和列構(gòu)建數(shù)據(jù)模塊，然后加速客戶具體分析與查詢。此外，賽靈思已經(jīng)為 Postgres 開源數(shù)據(jù)庫創(chuàng)建了 TPC Query 6 內(nèi)核加速示例。據(jù)賽靈思稱，其加速幅度是用于這些內(nèi)核的 Xeon EP CPU 的 15 倍。在近期的熱門芯片大會 (Hot Chips) 上，百度演示了一個項(xiàng)目，介紹了他們?nèi)绾卧谫愳`思 FPGA 上實(shí)現(xiàn) 25 倍加速結(jié)果（圖 4）。百度提到該解決方案的性能受制于到 FPGA 的內(nèi)存帶寬，這是賽靈思準(zhǔn)備進(jìn)一步解決的問題。賽靈思已在 3D 器件中添加了他們近期推出的用于集成高帶寬內(nèi)存(HBM2) 和FPGA 的解決方案。

圖 4：用于 SQL 查詢的 FPGA 加速

硬件可重配置的價值

雖然關(guān)于 FPGA 的討論重點(diǎn)一般聚焦于它們的性能、低功耗以及其頗有難度的編程模式，但隨著時間的推移，F(xiàn)PGA 所特有的可重配置和可重編程特性，或許是快速發(fā)展的技術(shù)領(lǐng)域中 FPGA 所獨(dú)具的最大優(yōu)勢。GPU（尤其是 ASIC）加速器針對并行數(shù)據(jù)處理提供一組固定的功能單元。這種初始設(shè)計體現(xiàn)了開發(fā)團(tuán)隊(duì)在開始新型芯片開發(fā)工作時對底層計算和數(shù)據(jù)要求的理解。如果研發(fā)人員此后想要嘗試新技術(shù)或發(fā)現(xiàn)新算法，而且新技術(shù)或新算法要求不同的功能集或使用不同的數(shù)據(jù)類型，使用 FPGA 進(jìn)行開發(fā)的團(tuán)隊(duì)則能同時滿足硬件特性和軟件要求。如果是使用構(gòu)建 ASIC 的方法，不僅耗時長達(dá)數(shù)年之久，而且成本可能達(dá)數(shù)千萬美元。如果底層技術(shù)和算法迅速發(fā)展演進(jìn)，就如人工智能和機(jī)器學(xué)習(xí)這種情況，如此巨大的投入，最終結(jié)果可能是在供貨之前就已經(jīng)過時。FPGA 憑借其獨(dú)特的可重編程性和可重配置性，能避免這一窘境。

在數(shù)據(jù)中心應(yīng)用加速中利用硬件可重編程性可帶來兩重好處：高靈活性和加速產(chǎn)品上市進(jìn)程。通過可重編程、可重配置的硬件，F(xiàn)PGA 能讓全球領(lǐng)先的云服務(wù)供應(yīng)商迅速解決今天的難題，適應(yīng)技術(shù)和業(yè)務(wù)需求的變化。而且由于 FPGA 是通過標(biāo)準(zhǔn)接口連接到CPU，設(shè)計團(tuán)隊(duì)能夠自由地選擇與 FPGA 配對的合適 CPU 架構(gòu)，包括英特爾或 AMD提供的 x86、ARM SoC 和 IBM OpenPOWER。通過同時實(shí)現(xiàn)硬件和較高層軟件的重編程，這種實(shí)現(xiàn)方案隨著時間的推移能夠持續(xù)帶來明顯的性能和總擁有成本優(yōu)勢，保護(hù)原始投資。

與構(gòu)建 ASIC 相比，F(xiàn)PGA 在加速產(chǎn)品上市進(jìn)程方面具有顯著的優(yōu)勢。通過根據(jù)平臺及應(yīng)用需求而精調(diào)和優(yōu)化的軟件庫，開發(fā)人員能夠迅速開展創(chuàng)新。這種方法得到的平臺能迅速適應(yīng)未來的變化和特性增強(qiáng)，不必像創(chuàng)建 ASIC 那樣需要為期數(shù)月的開發(fā)流程。對為了推動更多云應(yīng)用和云服務(wù)創(chuàng)新而需要每周更新大量算法的云環(huán)境來說，這一功能尤為適用。

可重編程性在機(jī)器學(xué)習(xí)領(lǐng)域的優(yōu)勢的例子就是近期興起的較低精度整數(shù)（8 位用于推斷）和浮點(diǎn)（16 位用于培訓(xùn)）算術(shù)。只要且只有底層硬件能在經(jīng)優(yōu)化的算術(shù)單元或邏輯上原生地執(zhí)行這些計算，這種方法就能使深度學(xué)習(xí)算法的性能提升兩倍甚至四倍。通過結(jié)合使用 FPGA 與賽靈思最新可重配置加速堆棧，項(xiàng)目團(tuán)隊(duì)能在硬件中更快地實(shí)現(xiàn)自己的最新創(chuàng)新，從而潛在地加速產(chǎn)品上市進(jìn)程，同時重復(fù)使用他們現(xiàn)有的硬件并延長其使用壽命。

結(jié)論

根據(jù)近期百度和微軟等公司發(fā)布的訊息，由于綜合性能、功耗和可重編程性三方面優(yōu)勢，基于 FPGA 的加速應(yīng)用最終得到大量采用。憑借新的可重編程加速堆棧，賽靈思已在減少 FPGA 的編程障礙方面取得進(jìn)展，將進(jìn)一步推動超大規(guī)模數(shù)據(jù)中心三大最熱門市場：機(jī)器學(xué)習(xí)、高清視頻轉(zhuǎn)碼直播和 SQL 查詢加速對 FPGA 的采用。該加速堆棧包括一整套邏輯、庫、軟件框架、參考設(shè)計和工具，旨在幫助開發(fā)人員更快地抓住加速機(jī)遇和縮短產(chǎn)品上市時間。

在 GPU、ASIC 和 FPGA 這三種當(dāng)今市場上可供使用的加速技術(shù)中，唯有 FPGA 具有硬件可編程性優(yōu)勢。而且賽靈思即將推出的新平臺以正在經(jīng)歷快速創(chuàng)新與變革的領(lǐng)域?yàn)橹攸c(diǎn)，在這些領(lǐng)域中通過硬件重配置，使硬件能夠跟上軟件的發(fā)展步伐，從而提供更高的靈活性并加速產(chǎn)品上市進(jìn)程。這就是說，對浮點(diǎn)密集型編碼且有明顯的并行化處理可能的應(yīng)用來說，GPU 或許是最佳解決方案。對有數(shù)百萬加速單元用于特定代碼的超大規(guī)模環(huán)境來說，投資開發(fā) ASIC 可能更合算，因?yàn)檫@樣有望能實(shí)現(xiàn)更低的單位成本和更高的性能。但對日新月異的環(huán)境和種類繁多的目標(biāo)應(yīng)用來說，F(xiàn)PGA 能為數(shù)據(jù)中心加速提供有吸引力的解決方案。

通過為早期試用者和創(chuàng)新者提供可靠的可重配置加速技術(shù)以及以“超七大”數(shù)據(jù)中心為重點(diǎn)，賽靈思有力地證明 FPGA 能躋身為超大規(guī)模數(shù)據(jù)中心環(huán)境中的主要競爭者。