英特爾開發(fā)的 FPGA AI 套件旨在減少使用英特爾 CPU、英特爾 SoC FPGA 和英特爾 FPGA 創(chuàng)建功能強大的異構(gòu) AI 深度學習 (DL) 推理系統(tǒng)所需的工作量。
該套件支持 FPGA 設(shè)計人員、機器學習工程師和軟件開發(fā)人員高效創(chuàng)建和優(yōu)化 AI 推理平臺,以達到性能、功耗和成本俱佳的目標。
英特爾 FPGA AI 套件中集成的實用程序加快了基于 FPGA 的 AI 推理引擎的開發(fā)速度。數(shù)據(jù)科學家和工程師可以從任何熟悉的行業(yè)框架(如 TensorFlow 和 PyTorch)開始訓練和收斂推理模型,然后可以使用英特爾 分發(fā)版 OpenVINO 工具包通過簡化邏輯和降低內(nèi)存占用率來優(yōu)化推理模型的性能和功耗。
請注意,該優(yōu)化是在 CPU 和 FPGA 的異構(gòu)組合中執(zhí)行的。隨后,英特爾 FPGA AI 套件會進一步優(yōu)化最終設(shè)計的 FPGA 部分。經(jīng)優(yōu)化的設(shè)計會使用英特爾 Quartus Prime 軟件直接輸入到強大且經(jīng)過驗證的 FPGA 開發(fā)流程中。
Stryker公司的研發(fā)團隊在評估英特爾FPGA AI 套件后得出以下結(jié)論:
●英特爾 FPGA AI 套件和 OpenVINO 工具包非常易用。借助這些工具, Stryker 能夠開發(fā)出更為優(yōu)化的用于深度學習推理的 FPGA IP。該推理 IP 已使用英特爾QuartusPrime 軟件成功集成到了英特爾 FPGA 中。與套件一起提供的設(shè)計示例也使團隊能夠快速評估不同圖像源的不同算法。
●英特爾 FPGA AI 套件和 OpenVINO 工具包使數(shù)據(jù)科學家和 FPGA 工程師能夠無縫協(xié)作,為醫(yī)療應(yīng)用開發(fā)更好的深度學習推理模型。
您可以使用英特爾 分發(fā)版 OpenVINO 工具包和英特爾 FPGA AI 套件開發(fā)推理系統(tǒng),服務(wù)于從 DL 增強型嵌入式系統(tǒng)一直到在多個 FPGA 加速的服務(wù)器上運行的高級數(shù)據(jù)中心應(yīng)用工作負載。
如果您想開發(fā)用于檢測、分類、分割或相關(guān)任務(wù)的 FPGA 加速的 DL 推理模型,可以使用 OpenVINO 工具包和英特爾 FPGA AI 套件來實現(xiàn);如果您想在使用 FPGA 編碼或解碼視頻或者在處理計算機視覺圖像的同時有效傳輸視頻流,也可以使用英特爾 分發(fā)版 OpenVINO 工具包和英特爾 FPGA AI 套件。可以說,F(xiàn)PGA 特別適合這種預處理和后處理。
如果您沒有自己的推理模型供訓練使用,但又迫不及待地想涉足深度學習領(lǐng)域,可以利用英特爾 分發(fā)版 OpenVINO 工具包,因為工具包中有面向廣泛使用的神經(jīng)網(wǎng)絡(luò)的預訓練推理模型,您可以先從這些模型入手。
圖1 顯示的是基于這套工具的推理系統(tǒng)開發(fā)流程。
圖1 英特爾 FPGA AI 套件開發(fā)流程
英特爾 FPGA AI 套件目前可支持英特爾 Agilex FPGA、英特爾 Cyclone 10 GX FPGA 和英特爾 Arria 10 FPGA,并提供了未來支持更多英特爾 FPGA 的路線圖。當然,這些工具背后還有很多英特爾的在線支持。
審核編輯 :李倩
-
FPGA
+關(guān)注
關(guān)注
1626文章
21665瀏覽量
601805 -
英特爾
+關(guān)注
關(guān)注
60文章
9880瀏覽量
171485 -
機器學習
+關(guān)注
關(guān)注
66文章
8377瀏覽量
132406
原文標題:解析丨英特爾? FPGA AI 套件搭配?OpenVINO? 工具包,助力創(chuàng)建異構(gòu)推理系統(tǒng)
文章出處:【微信號:英特爾FPGA,微信公眾號:英特爾FPGA】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
相關(guān)推薦
評論