精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

Nvidia打破實時對話AI的訓練和推理用時記錄

YCqV_FPGA_EETre ? 來源:YXQ ? 2019-08-15 14:26 ? 次閱讀

Nvidia用于開發和運行可理解和響應請求的對話式AIGPU強化平臺,已經達成了一些重要的里程碑,并打破了一些記錄。

這對任何基于其技術進行開發的人來說意義重大——當中包括大大小小的公司,因為英偉達將很多用于實現這些進步的代碼開源。那些代碼用PyTorch編寫,易于運行。

英偉達今天宣布的最大成果包括:BERT訓練用時打破記錄,進入1小時關口。BERT是世界上最先進的人工智能語言模型之一,也被廣泛認為是自然語言處理(NLP)標桿的先進模型。Nvidia的AI平臺僅僅需要53分鐘就能夠完成模型訓練,經過訓練的模型在短短2毫秒多一點的時間里(10毫秒在業內被認為是高水平線)就能夠成功地做出推理(即利用通過訓練學習到的能力得出結果)——又一個記錄。

英偉達的這些突破不僅僅是吹噓的資本——這些進步可為任何使用NLP對話式人工智能和GPU硬件的人提供切實的好處。Nvidia在它的其中一個SuperPOD系統上打破了訓練時間記錄,該SuperPOD系統由運行1472個V100 GPU的92個Nvidia DGX-2H系統組成;在運行Nvidia TensorRT的Nvidia T4 GPU上完成推理過程。Nvidia TensorRT在性能上超出高度優化的CPU許多個量級。不過,該公司將公開BERT訓練代碼和經過TensorRT優化的BERT樣本,讓所有人都可以通過GitHub利用。

除了這些里程碑以外,英偉達的研究部門還建立并訓練了有史以來最大的一個基于“Transformer”的語言模型。這也是BERT的技術基礎。該定制模型包含的參數多達83億個,規模是當前最大的核心BERT模型BERT-Large的24倍。英偉達將這個模型命名為“Megatron”,它也對外提供了用于訓練這個模型的PyTorch代碼,因而其他人能夠自行訓練出類似的基于“Transformer”的大型語言模型。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • AI
    AI
    +關注

    關注

    87

    文章

    30146

    瀏覽量

    268421
  • 英偉達
    +關注

    關注

    22

    文章

    3747

    瀏覽量

    90836

原文標題:【網上研討會】如何從海量的非結構化數據中提取和分析關鍵信息?

文章出處:【微信號:FPGA-EETrend,微信公眾號:FPGA開發圈】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    NVIDIA助力Figure發布新一代對話式人形機器人

    該初創公司展示了新型機器人,其使用 NVIDIA Isaac Sim 處理合成數據,并使用基于 NVIDIA 加速計算進行實時推理訓練的生成
    的頭像 發表于 11-04 10:10 ?210次閱讀

    NVIDIA助力麗蟾科技打造AI訓練推理加速解決方案

    麗蟾科技通過 Leaper 資源管理平臺集成 NVIDIA AI Enterprise,為企業和科研機構提供了一套高效、靈活的 AI 訓練推理
    的頭像 發表于 10-27 10:03 ?166次閱讀
    <b class='flag-5'>NVIDIA</b>助力麗蟾科技打造<b class='flag-5'>AI</b><b class='flag-5'>訓練</b>與<b class='flag-5'>推理</b>加速解決方案

    NVIDIA與思科合作打造企業級生成式AI基礎設施

    NVIDIA 加速計算平臺、NVIDIA AI Enterprise 軟件和 NVIDIA NIM 推理微服務加持的思科 Nexus H
    的頭像 發表于 10-10 09:35 ?289次閱讀

    NVIDIA攜手Meta推出AI服務,為企業提供生成式AI服務

    NVIDIA近日宣布了一項重大舉措,正式推出NVIDIA AI Foundry服務與NVIDIA NIM(NVIDIA Inference
    的頭像 發表于 07-25 16:57 ?493次閱讀

    英偉達推出全新NVIDIA AI Foundry服務和NVIDIA NIM推理微服務

    NVIDIA 宣布推出全新 NVIDIA AI Foundry 服務和 NVIDIA NIM 推理微服務,與同樣剛推出的 Llama 3.1
    的頭像 發表于 07-25 09:48 ?672次閱讀

    英偉達推出AI模型推理服務NVIDIA NIM

    英偉達近日宣布推出一項革命性的AI模型推理服務——NVIDIA NIM。這項服務將極大地簡化AI模型部署過程,為全球的2800萬英偉達開發者提供前所未有的便利。
    的頭像 發表于 06-04 09:15 ?647次閱讀

    NVIDIA 通過 Holoscan 為 NVIDIA IGX 提供企業軟件支持,實現邊緣實時醫療、工業和科學 AI 應用

    NVIDIA Holoscan 的 NVIDIA AI Enterprise-IGX 軟件現已在 NVIDIA IGX 平臺上正式可用,以滿足工業邊緣對
    發表于 06-03 09:48 ?284次閱讀
      <b class='flag-5'>NVIDIA</b> 通過 Holoscan 為 <b class='flag-5'>NVIDIA</b> IGX 提供企業軟件支持,實現邊緣<b class='flag-5'>實時</b>醫療、工業和科學 <b class='flag-5'>AI</b> 應用

    進一步解讀英偉達 Blackwell 架構、NVlink及GB200 超級芯片

    成為處理萬億參數生成式AI模型的理想選擇。 NVL72 機架級系統支持萬億參數 LLM 訓練實時推理 GB200 NVL72 的機架級設計,通過在單個
    發表于 05-13 17:16

    AI推理,和訓練有什么不同?

    如果要用一句話概括AI訓練推理的不同之處,我覺得用“臺上一分鐘,臺下十年功”最為貼切。話說小明已經和心目中的女神交往數年,在邀約女神出門這件事上積累了大量的經驗數據,但卻依然捉摸不透其中的玄機
    的頭像 發表于 04-29 08:06 ?210次閱讀
    <b class='flag-5'>AI</b><b class='flag-5'>推理</b>,和<b class='flag-5'>訓練</b>有什么不同?

    利用NVIDIA組件提升GPU推理的吞吐

    本實踐中,唯品會 AI 平臺與 NVIDIA 團隊合作,結合 NVIDIA TensorRT 和 NVIDIA Merlin HierarchicalKV(HKV)將
    的頭像 發表于 04-20 09:39 ?645次閱讀

    NVIDIA將數字孿生與實時AI結合實現工業自動化

    NVIDIA 軟件(Omniverse、Metropolis、Isaac 和 cuOpt)共同打造了一個 AI Gym,讓機器人和 AI 智能體能夠在復雜的工業領域中進行訓練并接受評估
    的頭像 發表于 04-02 11:00 ?371次閱讀
    <b class='flag-5'>NVIDIA</b>將數字孿生與<b class='flag-5'>實時</b><b class='flag-5'>AI</b>結合實現工業自動化

    NVIDIA融合數字孿生與實時AI,革新工業自動化

    NVIDIA引領工業自動化新潮流,通過結合數字孿生與實時AI技術,推動行業邁向新的發展階段。NVIDIA軟件套件——Omniverse、Metropolis、Isaac和cuOpt,共
    的頭像 發表于 03-27 10:44 ?448次閱讀

    NVIDIA將數字孿生與實時AI結合以用于工業自動化

    NVIDIA 軟件(Omniverse、Metropolis、Isaac 和 cuOpt)共同打造了一個 AI Gym,讓機器人和 AI 智能體能夠在復雜的工業領域中進行訓練并接受評估
    的頭像 發表于 03-25 10:59 ?497次閱讀
    <b class='flag-5'>NVIDIA</b>將數字孿生與<b class='flag-5'>實時</b><b class='flag-5'>AI</b>結合以用于工業自動化

    使用NVIDIA Triton推理服務器來加速AI預測

    這家云計算巨頭的計算機視覺和數據科學服務使用 NVIDIA Triton 推理服務器來加速 AI 預測。
    的頭像 發表于 02-29 14:04 ?547次閱讀

    在線研討會 | 大模型時代語音 AI 模型的訓練、優化與應用

    通過業界領先的技術,幫助企業能夠快速部署定制化 AI 智能語音端到端流程。 2023 年 12 月 19 日和 21 日 晚間 ,來自 NVIDIA 和 Kaldi 項目的技術專家將做客 Datafun 社區直播間 ,為您介紹如何有針對性的在語音模型的
    的頭像 發表于 12-15 15:50 ?565次閱讀
    在線研討會 | 大模型時代語音 <b class='flag-5'>AI</b> 模型的<b class='flag-5'>訓練</b>、優化與應用