精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

使用NVIDIA TAO工具包和Appen實現AI模型微調

星星科技指導員 ? 來源:NVIDIA ? 作者: Titus Capilnean ? 2022-04-13 15:29 ? 次閱讀

從頭開始構建人工智能模型需要大量的數據、時間、金錢和專業(yè)知識。這與在人工智能領域取得成功的條件不符:快速上市,以及快速發(fā)展和定制解決方案的能力。 NVIDIA TAO 是一個人工智能模型調整框架,與從頭開始的培訓相比,它可以讓您利用生產質量、預培訓的人工智能模型,并在很短的時間內對其進行微調。

要進一步微調這些模型,或確認模型的精度,需要額外的高質量訓練數據。 Appen 是 TAO 的數據注釋合作伙伴,如果您沒有合適的可用數據,它可以訪問高質量的數據集和服務,為您的數據添加標簽和注釋,以滿足您的獨特需求。

在帖子中,我將向你展示如何使用 NVIDIA TAO 工具包 一個基于 CLI 的NVIDIA TAO 框架的解決方案,以及 AppEN 的數據標記平臺,以簡化整個培訓過程,并為特定用例創(chuàng)建高度定制的模型。

在您的團隊確定了要使用 ML 解決的業(yè)務問題后,您可以從 NVIDIA 收集的計算機視覺和對話人工智能中的預訓練人工智能模型中進行選擇。計算機視覺模型可以包括人臉檢測模型、文本識別、分割等。然后,您可以應用 TAO 工具包來構建、培訓、測試和部署您的解決方案。

為了加快數據收集和擴充過程,您現在可以使用 Appen 數據注釋平臺為您的用例創(chuàng)建正確的培訓數據。該強大的平臺使您能夠訪問 Appen 全球超過 100 萬名熟練的注釋員,他們來自 170 多個國家,講 235 種語言。 Appen 的數據注釋平臺 和專業(yè)知識還為您提供了其他資源:

高質量數據集(用于需要數據時)

全球采購的人工標簽機,用于為未標記的數據添加注釋

一個易于使用的平臺,您可以在其中啟動注釋作業(yè)并監(jiān)控關鍵指標

質量保證檢查和數據安全控制

有了干凈、高質量的數據,您可以調整 經過訓練的 NVIDIA 模型以滿足您的需求,并進行修剪和再培訓,以達到所需的性能水平。

如何使用 Appen 的平臺準備數據

如果您還沒有用于訓練模型的數據,您可以自己收集這些數據,也可以求助于 Appen ,找到適合您的用例的源數據集。 Appen 數據注釋平臺( ADAP )可使用多種格式:

音頻(. wav ,. mp3 )

圖像(. jpeg ,. png )

文本(. txt )

視頻(網址)

完成數據收集階段后,除非您計劃與 Appen 合作以滿足數據收集需求,否則您可以使用 Appen 的平臺快速標記您收集的數據。每行數據批注都需要 Appen 平臺許可證和預算。

在此基礎上,完成以下步驟,部署一個特別適合您需求的模型。在本文中,假設您正在為對象檢測模型注釋圖像。

準備好你的數據

首先,將圖像數據加載到網絡可訪問的位置:云或 ADAP 可以訪問的位置,例如私有 Amazon S3 存儲桶。

接下來,用兩列結構輸入 CSV 文件。第一列包含文件名,第二列包含圖像的 URL 。您可以通過以下三種方式之一提供 URL :

對數據使用公開可用的 URL 。

使用預先簽名的 URL 。

使用 Appen 的安全數據訪問工具,您可以使用該工具將數據庫安全地連接到平臺; Appen 僅在需要時訪問您的數據。

第二列包含設備上的本地文件名。圖 1 顯示了 CSV 文件的外觀。

poYBAGJWfAaAbdYuAAHdcm4AAOo145.png

圖 1 。用于 ADAP 中數據上傳的 CSV 結構

創(chuàng)建作業(yè)并上載數據

如果尚未登錄,可以 創(chuàng)建 ADAP 帳戶 并登錄。在運行新作業(yè)之前,您必須擁有平臺的活動許可證。要了解更多有關計劃和定價的信息, 聯系 Appen 。

登錄后,在Jobs下選擇創(chuàng)造就業(yè)機會。

pYYBAGJWfA-ASf2PAACQvL2OgrU139.png

圖 2 。 ADAP 工作概述頁面

選擇最適合工作的模板(情緒分析、搜索相關性等)。對于本例,請選擇Image Annotation。

poYBAGJWfBqAApn5AAF4dwi-KDc050.png

圖 3 。 ADAP 作業(yè)模板頁面–圖像注釋

在Image Annotation下,選擇使用邊界框對圖像中的對象進行注釋和分類。將 CSV 文件拖放到Upload選項卡中,上傳 CSV 文件。

設計你的工作

為 Appen 的 100 多萬名數據標簽員提供指導,說明他們應該尋找什么,以及他們應該知道的任何要求。該模板提供了一個簡單的工作設計來幫助您開始。

接下來,選擇管理圖像注釋本體,在這里定義應該檢測的類。更新說明,以提供有關用例的更多上下文,并描述注釋者應如何識別和標記圖像中的對象。您可以預覽作業(yè),并查看注釋員將如何查看它。

最后,創(chuàng)建測試問題來測量和跟蹤貼標機的性能。

啟動作業(yè)

在平臺上正式啟動注釋作業(yè)之前,先進行測試運行。在你開始工作后, Appen 的全球數據標簽員會根據你的規(guī)格標注你的數據。

班長

實時監(jiān)控注釋的準確率。在工作設計、試題或注釋員等領域根據需要進行調整。

poYBAGJWfCeAfYZVAADzSgJf5hM807.png


pYYBAGJWfECAanZNAADsYgStpvw629.png

圖 8 。 ADAP 注釋進度監(jiān)控頁面

后果

選擇Download、Full下載標簽數據輸出的報告。

將輸出轉換為 KITTI 格式

從這里開始,您需要一個腳本來將標記的數據轉換為可供 TAO 工具包使用的格式,例如 KITTI 格式。

使用上一步的輸出,可以使用以下部分將標記的數據轉換為類似 Pascal Visual Object Class ( VOC )格式的格式。

訓練你的模特

用 Appen 注釋的數據現在可以用于訓練對象檢測模型。 TAO 工具包允許您根據數據調整流行的網絡架構和主干,從而訓練、微調、刪減和導出高度優(yōu)化和精確的人工智能模型,以供部署。對于本例,您可以選擇 YOLOV3 對象檢測模型,如下例所示:

$ wget --content-disposition https://api.ngc.nvidia.com/v2/resources/nvidia/tlt_cv_samples/versions/v1.0.2/zip -O tlt_cv_samples_v1.0.2.zip $ unzip -u tlt_cv_samples_v1.0.2.zip -d ./tlt_cv_samples_v1.0.2 && rm -rf tlt_cv_samples_v1.0.2.zip && cd ./tlt_cv_samples_v1.0.2

下載筆記本示例后,您可以使用以下命令啟動筆記本:

$ jupyter notebook --ip 0.0.0.0 --port 8888 --allow-root

在 localhost 上打開 internet 瀏覽器并打開以下 URL :

http://0.0.0.0:8888

因為您正在創(chuàng)建一個 YOLOv3 模型,所以打開 yolo _ v3 / yolo _ v3 。 ipynb 筆記本。按照筆記本上的說明訓練模型。

根據結果,微調模型,直到達到度量目標。如果需要,您可以在此階段創(chuàng)建自己的主動學習循環(huán)。根據置信度或其他選擇指標,使用 CSV 文件方法對數據進行優(yōu)先級排序,如前面步驟所述。您還可以提前加載數據(包括輸入和預測),這樣 Appen 的注釋員可以在模型經過培訓后驗證模型,并使用我們的領域專家和 open crowd 查看預測。

Pro tip:使用 Appen 解決方案 Workflows 輕松構建和自動化多步驟數據注釋項目。

迭代

隨著您不斷提高模型性能, Appen 可以在后續(xù)的模型培訓中進一步幫助您進行數據收集和注釋。為了避免模型漂移或適應不斷變化的業(yè)務需求,請定期對模型進行再培訓。

結論

NVIDIATAO 工具包與 Appen 的數據平臺相結合,使您能夠訓練、微調和優(yōu)化預訓練模型,以更快地啟動人工智能解決方案。在不犧牲質量的情況下,將開發(fā)時間縮短十倍。在NVIDIA 和 Appen 的綜合專業(yè)知識和工具的幫助下,您將滿懷信心地推出人工智能。

關于作者

Titus Capilnean 領導 Appen 的營銷傳播,推動負責任、包容的人工智能,并與全球公司進行培訓數據對話。他擁有 2016 年的機器學習證書、霍爾特國際商學院( Hult International Business School )的行政 MBA 學位,并在 Forbes 上發(fā)表了幾篇關于人工智能的評論文章。

審核編輯:郭婷

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯系本站處理。 舉報投訴
  • NVIDIA
    +關注

    關注

    14

    文章

    4949

    瀏覽量

    102826
  • 人工智能
    +關注

    關注

    1791

    文章

    46896

    瀏覽量

    237669
收藏 人收藏

    評論

    相關推薦

    基于EasyGo Vs工具包和Nl veristand軟件進行的永磁同步電機實時仿真

    EasyGo Vs Addon是一款領先的FPGA仿真工具包軟件,它強大地連接了VeriStand軟件與Matlab/Simulink,為實時測試和驗證領域帶來了前所未有的便利和效率,特別適用于汽車
    的頭像 發(fā)表于 11-27 11:28 ?109次閱讀
    基于EasyGo Vs<b class='flag-5'>工具包</b>和Nl veristand軟件進行的永磁同步電機實時仿真

    基于NVIDIA TAO工具包訓練汽車目標識別模型

    2023年以ChatGPT為代表的大語言模型橫空出世,它的出現標志著自然語言處理領域取得了重大突破。它在文本生成、對話系統(tǒng)和語言理解等方面展現出了強大的能力,為人工智能技術的發(fā)展開辟了新的可能性。同時,人工智能技術正在進入各種應用領域,在智慧城市、智能制造、智慧醫(yī)療、智慧農業(yè)等領域發(fā)揮著重要作用。
    的頭像 發(fā)表于 11-07 10:53 ?168次閱讀
    基于<b class='flag-5'>NVIDIA</b> <b class='flag-5'>TAO</b><b class='flag-5'>工具包</b>訓練汽車目標識別<b class='flag-5'>模型</b>

    FPGA仿真工具包軟件EasyGo Vs Addon介紹

    EasyGo Vs Addon是一款領先的FPGA仿真工具包軟件,它強大地連接了VeriStand軟件與Matlab/Simulink,為實時測試和驗證領域帶來了前所未有的便利和效率,特別適用于汽車、航空航天和能源電力等實時測試和驗證至關重要的行業(yè)。
    的頭像 發(fā)表于 10-24 15:55 ?252次閱讀
    FPGA仿真<b class='flag-5'>工具包</b>軟件EasyGo Vs Addon介紹

    采用德州儀器 (TI) 工具包進行模擬前端設計應用說明

    電子發(fā)燒友網站提供《采用德州儀器 (TI) 工具包進行模擬前端設計應用說明.pdf》資料免費下載
    發(fā)表于 09-09 11:21 ?0次下載
    采用德州儀器 (TI) <b class='flag-5'>工具包</b>進行模擬前端設計應用說明

    NVIDIA RTX AI套件簡化AI驅動的應用開發(fā)

    NVIDIA 于近日發(fā)布 NVIDIA RTX AI套件,這一工具和 SDK 集合能夠幫助 Windows 應用開發(fā)者定制、優(yōu)化和部署適用于 Windows 應用的
    的頭像 發(fā)表于 09-06 14:45 ?404次閱讀

    NVIDIA AI Foundry 為全球企業(yè)打造自定義 Llama 3.1 生成式 AI 模型

    Foundry 提供從數據策管、合成數據生成、微調、檢索、防護到評估的全方位生成式 AI 模型服務,以便部署自定義 Llama 3.1 NVIDIA NIM 微服務和新的
    發(fā)表于 07-24 09:39 ?685次閱讀
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>AI</b> Foundry 為全球企業(yè)打造自定義 Llama 3.1 生成式 <b class='flag-5'>AI</b> <b class='flag-5'>模型</b>

    AI模型AI框架的關系

    多個領域取得顯著成果。而AI框架則是為開發(fā)和訓練AI模型提供的一套標準接口、特性庫和工具包,它集成了算法的封裝、數據的調用以及計算資源的使用,是AI
    的頭像 發(fā)表于 07-15 11:42 ?947次閱讀

    模型為什么要微調?大模型微調的原理

    在人工智能(AI)領域,特別是自然語言處理(NLP)領域,大模型(如BERT、GPT系列等)的出現為許多復雜任務提供了強大的解決方案。然而,這些預訓練的大模型雖然具有廣泛的適用性,但在特定任務上往往
    的頭像 發(fā)表于 07-10 10:43 ?3617次閱讀

    MediaTek與NVIDIA TAO加速物聯網邊緣AI應用發(fā)展

    在即將到來的COMPUTEX 2024科技盛會上,全球知名的芯片制造商MediaTek宣布了一項重要合作——將NVIDIATAO(TensorRT Accelerated Optimizer)與其NeuroPilot SDK(軟件開發(fā)
    的頭像 發(fā)表于 06-12 14:49 ?450次閱讀

    Edge Impulse發(fā)布新工具,助 NVIDIA 模型大規(guī)模部署

    借助 Edge Impulse 和 NVIDIA TAO 工具包的協(xié)同效應,工程師得以快速構建并部署至邊緣優(yōu)化硬件(如上述型號)的計算機視覺模型。該平臺還支持用戶運用經由 GPU 優(yōu)化
    的頭像 發(fā)表于 03-25 16:00 ?690次閱讀

    QE for Motor V1.3.0:汽車開發(fā)輔助工具解決方案工具包

    電子發(fā)燒友網站提供《QE for Motor V1.3.0:汽車開發(fā)輔助工具解決方案工具包.pdf》資料免費下載
    發(fā)表于 02-19 10:44 ?0次下載
    QE for Motor V1.3.0:汽車開發(fā)輔助<b class='flag-5'>工具</b>解決方案<b class='flag-5'>工具包</b>

    NVIDIA TAO 5.2版本發(fā)布

    NVIDIA TAO 提供了一個低代碼開源 AI 框架,無論你是初學者還是專業(yè)的數據科學家,都可以使用該框架加速視覺 AI 模型開發(fā)。開發(fā)者
    的頭像 發(fā)表于 01-03 10:11 ?595次閱讀

    怎樣使用NVIDIA TAO為數萬億臺設備開發(fā)和優(yōu)化視覺AI模型呢?

    全球開發(fā)者正在使用 NVIDIA TAO 工具套件構建 AI 視覺感知和計算機視覺應用。如今,得益于顯著的平臺增強和生態(tài)對其的大力采用,這一過程比以往任何時候都更快、更容易。
    的頭像 發(fā)表于 12-14 15:55 ?475次閱讀

    用上這個工具包,大模型推理性能加速達40倍

    作者: 英特爾公司 沈海豪、羅嶼、孟恒宇、董波、林俊 編者按: 只需不到9行代碼, 就能在CPU上實現出色的LLM推理性能。 英特爾 ?Extension for Transformer 創(chuàng)新工具包
    的頭像 發(fā)表于 12-01 20:40 ?1102次閱讀
    用上這個<b class='flag-5'>工具包</b>,大<b class='flag-5'>模型</b>推理性能加速達40倍

    為IoT和IIoT應用選擇微控制器開發(fā)工具包的介紹性指南

    為IoT和IIoT應用選擇微控制器開發(fā)工具包的介紹性指南
    的頭像 發(fā)表于 11-30 15:51 ?525次閱讀
    為IoT和IIoT應用選擇微控制器開發(fā)<b class='flag-5'>工具包</b>的介紹性指南