精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

英特爾? FPGA AI套件搭配OpenVINO?工具包

英特爾FPGA ? 來源:英特爾FPGA ? 作者:英特爾FPGA ? 2022-08-11 11:53 ? 次閱讀

英特爾開發(fā)的 FPGA AI 套件旨在減少使用英特爾 CPU、英特爾 SoC FPGA 和英特爾 FPGA 創(chuàng)建功能強大的異構(gòu) AI 深度學習 (DL) 推理系統(tǒng)所需的工作量。

該套件支持 FPGA 設(shè)計人員、機器學習工程師和軟件開發(fā)人員高效創(chuàng)建和優(yōu)化 AI 推理平臺,以達到性能、功耗和成本俱佳的目標。

英特爾 FPGA AI 套件中集成的實用程序加快了基于 FPGA 的 AI 推理引擎的開發(fā)速度。數(shù)據(jù)科學家和工程師可以從任何熟悉的行業(yè)框架(如 TensorFlow 和 PyTorch)開始訓練和收斂推理模型,然后可以使用英特爾 分發(fā)版 OpenVINO 工具包通過簡化邏輯和降低內(nèi)存占用率來優(yōu)化推理模型的性能和功耗。

請注意,該優(yōu)化是在 CPU 和 FPGA 的異構(gòu)組合中執(zhí)行的。隨后,英特爾 FPGA AI 套件會進一步優(yōu)化最終設(shè)計的 FPGA 部分。經(jīng)優(yōu)化的設(shè)計會使用英特爾 Quartus Prime 軟件直接輸入到強大且經(jīng)過驗證的 FPGA 開發(fā)流程中。

Stryker公司的研發(fā)團隊在評估英特爾FPGA AI 套件后得出以下結(jié)論:

●英特爾 FPGA AI 套件和 OpenVINO 工具包非常易用。借助這些工具, Stryker 能夠開發(fā)出更為優(yōu)化的用于深度學習推理的 FPGA IP。該推理 IP 已使用英特爾QuartusPrime 軟件成功集成到了英特爾 FPGA 中。與套件一起提供的設(shè)計示例也使團隊能夠快速評估不同圖像源的不同算法

●英特爾 FPGA AI 套件和 OpenVINO 工具包使數(shù)據(jù)科學家和 FPGA 工程師能夠無縫協(xié)作,為醫(yī)療應(yīng)用開發(fā)更好的深度學習推理模型。

您可以使用英特爾 分發(fā)版 OpenVINO 工具包和英特爾 FPGA AI 套件開發(fā)推理系統(tǒng),服務(wù)于從 DL 增強型嵌入式系統(tǒng)一直到在多個 FPGA 加速的服務(wù)器上運行的高級數(shù)據(jù)中心應(yīng)用工作負載。

如果您想開發(fā)用于檢測、分類、分割或相關(guān)任務(wù)的 FPGA 加速的 DL 推理模型,可以使用 OpenVINO 工具包和英特爾 FPGA AI 套件來實現(xiàn);如果您想在使用 FPGA 編碼或解碼視頻或者在處理計算機視覺圖像的同時有效傳輸視頻流,也可以使用英特爾 分發(fā)版 OpenVINO 工具包和英特爾 FPGA AI 套件。可以說,F(xiàn)PGA 特別適合這種預處理和后處理。

如果您沒有自己的推理模型供訓練使用,但又迫不及待地想涉足深度學習領(lǐng)域,可以利用英特爾 分發(fā)版 OpenVINO 工具包,因為工具包中有面向廣泛使用的神經(jīng)網(wǎng)絡(luò)的預訓練推理模型,您可以先從這些模型入手。

圖1 顯示的是基于這套工具的推理系統(tǒng)開發(fā)流程。

953d69ca-1928-11ed-ba43-dac502259ad0.png

圖1 英特爾 FPGA AI 套件開發(fā)流程

英特爾 FPGA AI 套件目前可支持英特爾 Agilex FPGA、英特爾 Cyclone 10 GX FPGA 和英特爾 Arria 10 FPGA,并提供了未來支持更多英特爾 FPGA 的路線圖。當然,這些工具背后還有很多英特爾的在線支持。

審核編輯 :李倩

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • FPGA
    +關(guān)注

    關(guān)注

    1626

    文章

    21665

    瀏覽量

    601805
  • 英特爾
    +關(guān)注

    關(guān)注

    60

    文章

    9880

    瀏覽量

    171485
  • 機器學習
    +關(guān)注

    關(guān)注

    66

    文章

    8377

    瀏覽量

    132406

原文標題:解析丨英特爾? FPGA AI 套件搭配?OpenVINO? 工具包,助力創(chuàng)建異構(gòu)推理系統(tǒng)

文章出處:【微信號:英特爾FPGA,微信公眾號:英特爾FPGA】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦

    英特爾CEO:AI時代英特爾動力不減

    英特爾CEO帕特·基辛格堅信,在AI技術(shù)的飛速發(fā)展之下,英特爾的處理器仍能保持其核心地位。基辛格公開表示,摩爾定律仍然有效,而英特爾在處理器和芯片技術(shù)上的創(chuàng)新能力將持續(xù)驅(qū)動公司前進。
    的頭像 發(fā)表于 06-06 10:04 ?380次閱讀

    華擎推出AI QuickSet軟件,支持英特爾銳炫Arc A系列顯卡

    今日,華擎宣布將AI QuickSet軟件工具擴展至英特爾銳炫Arc A系列顯卡,使其能夠便捷地安裝Stable Diffusion web UI OpenVINO,結(jié)合
    的頭像 發(fā)表于 05-11 10:58 ?604次閱讀

    簡單兩步使用OpenVINO?搞定Qwen2的量化與部署任務(wù)

    英特爾 OpenVINO? 工具套件是一款開源 AI 推理優(yōu)化部署的工具
    的頭像 發(fā)表于 04-26 09:39 ?1559次閱讀
    簡單兩步使用<b class='flag-5'>OpenVINO</b>?搞定Qwen2的量化與部署任務(wù)

    簡單三步使用OpenVINO?搞定ChatGLM3的本地部署

    英特爾 OpenVINO? 工具套件是一款開源 AI 推理優(yōu)化部署的工具
    的頭像 發(fā)表于 04-03 18:18 ?2005次閱讀
    簡單三步使用<b class='flag-5'>OpenVINO</b>?搞定ChatGLM3的本地部署

    英特爾澎湃動力驅(qū)動商用AI PC,打造AI+時代的新質(zhì)生產(chǎn)工具

    近日,英特爾舉辦了“2024全新英特爾商用客戶端AI PC產(chǎn)品發(fā)布會”,將基于英特爾酷睿Ultra處理器的AI特性延展到商用領(lǐng)域,帶來商用電
    的頭像 發(fā)表于 04-02 10:12 ?414次閱讀

    英特爾宣布AI PC加速計劃新增兩項AI舉措

    首先,“AI PC 開發(fā)者計劃”面向軟件研發(fā)人員和獨立軟件開發(fā)商,為他們提供便捷的開發(fā)環(huán)境,助力加速大規(guī)模運用新型 AI技術(shù)。此計劃包含一系列全面的工具、優(yōu)化工作流方案、AI 部署框架
    的頭像 發(fā)表于 03-27 16:03 ?344次閱讀

    為何高端FPGA都非常重視軟件

    和實際工作負載調(diào)配變得更加簡單和快捷。 英特爾通過OpenVINO工具包英特爾發(fā)行版向AI開發(fā)人員的One API采用了類似的方法(實
    發(fā)表于 03-23 16:48

    【轉(zhuǎn)載】英特爾開發(fā)套件“哪吒”快速部署YoloV8 on Java | 開發(fā)者實戰(zhàn)

    OpenVINO 工具套件基于OneAPI開發(fā),可以加快高性能計算機視覺和深度學習應(yīng)用開發(fā)速度的工具套件,適用于從邊緣到云的各種
    的頭像 發(fā)表于 03-23 08:05 ?481次閱讀
    【轉(zhuǎn)載】<b class='flag-5'>英特爾</b>開發(fā)<b class='flag-5'>套件</b>“哪吒”快速部署YoloV8 on Java | 開發(fā)者實戰(zhàn)

    基于英特爾哪吒開發(fā)者套件平臺來快速部署OpenVINO Java實戰(zhàn)

    OpenVINO 工具套件基于OneAPI開發(fā),可以加快高性能計算機視覺和深度學習應(yīng)用開發(fā)速度的工具套件,適用于從邊緣到云的各種
    的頭像 發(fā)表于 03-21 18:24 ?1418次閱讀
    基于<b class='flag-5'>英特爾</b>哪吒開發(fā)者<b class='flag-5'>套件</b>平臺來快速部署<b class='flag-5'>OpenVINO</b> Java實戰(zhàn)

    英特爾旗下FPGA公司Altera正式亮相

    日前,英特爾 FPGA Vision線上直播中發(fā)布,將英特爾編程解決方案事業(yè)部 (PSG) 作為獨立的FPGA公司——Altera。
    的頭像 發(fā)表于 03-18 14:11 ?510次閱讀

    英特爾首推面向AI時代的系統(tǒng)級代工—英特爾代工

    英特爾首推面向AI時代的系統(tǒng)級代工——英特爾代工(Intel Foundry),在技術(shù)、韌性和可持續(xù)性方面均處于領(lǐng)先地位。
    的頭像 發(fā)表于 02-25 10:38 ?503次閱讀
    <b class='flag-5'>英特爾</b>首推面向<b class='flag-5'>AI</b>時代的系統(tǒng)級代工—<b class='flag-5'>英特爾</b>代工

    AI PC助力創(chuàng)新無限想象,英特爾人工智能創(chuàng)新應(yīng)用大賽正式啟動

    睿??Ultra等設(shè)備及軟件工具套件,助力開發(fā)者利用基于英特爾AI PC出色的計算和圖形性能進行創(chuàng)意開發(fā),讓每一位用戶都能真切體驗到AI
    的頭像 發(fā)表于 12-19 11:23 ?651次閱讀

    AI 無處不在,英特爾酷睿Ultra 和第五代英特爾至強可擴展處理器正式發(fā)布

    今天,英特爾在北京舉辦以“AI無處不在,創(chuàng)芯無所不及”為主題的2023英特爾新品發(fā)布會暨AI 技術(shù)創(chuàng)新派對,攜手ISV、OEM、CSP產(chǎn)業(yè)伙伴在內(nèi)的
    的頭像 發(fā)表于 12-16 16:05 ?680次閱讀
    <b class='flag-5'>AI</b> 無處不在,<b class='flag-5'>英特爾</b>酷睿Ultra 和第五代<b class='flag-5'>英特爾</b>至強可擴展處理器正式發(fā)布

    深度解讀英特爾拆分FPGA業(yè)務(wù)的原因

    不了解FPGA的朋友可能沒聽說過PSG,它是英特爾旗下的一個業(yè)務(wù)部門,前身是全球第二大FPGA公司Altera,也是我的前司。結(jié)果,就在我加入后不久啊,Altera就在2015年被英特爾
    發(fā)表于 12-13 10:34 ?831次閱讀

    用上這個工具包,大模型推理性能加速達40倍

    作者: 英特爾公司 沈海豪、羅嶼、孟恒宇、董波、林俊 編者按: 只需不到9行代碼, 就能在CPU上實現(xiàn)出色的LLM推理性能。 英特爾 ?Extension for Transformer 創(chuàng)新工具包
    的頭像 發(fā)表于 12-01 20:40 ?1100次閱讀
    用上這個<b class='flag-5'>工具包</b>,大模型推理性能加速達40倍