從客戶支持到實(shí)時(shí)轉(zhuǎn)錄，全新應(yīng)用框架助力構(gòu)建實(shí)現(xiàn)各類(lèi)定制化語(yǔ)言型AI服務(wù)

加利福尼亞州圣克拉拉市 - GTC 2020大會(huì) - 2020年5月14日 – NVIDIA于今日發(fā)布推出GPU加速的應(yīng)用框架——NVIDIA Jarvis。該框架使企業(yè)能夠根據(jù)自身所處行業(yè)、產(chǎn)品和客戶的特點(diǎn)，使用視頻和語(yǔ)音數(shù)據(jù)構(gòu)建最為先進(jìn)的定制化對(duì)話式AI服務(wù)。

隨著居家辦公、遠(yuǎn)程醫(yī)療和遠(yuǎn)程學(xué)習(xí)的快速興起，對(duì)于能夠保持人們工作效率和聯(lián)系的客戶支持、實(shí)時(shí)轉(zhuǎn)錄、視頻通話摘要等定制化語(yǔ)言型AI服務(wù)的需求也隨之激增。

首批采用Jarvis為客戶提供對(duì)話式AI產(chǎn)品和服務(wù)的公司包括Voca、Kensho和Square。Voca是一家為呼叫中心提供AI代理的公司；Kensho致力于為金融和商務(wù)行業(yè)提供自動(dòng)語(yǔ)音轉(zhuǎn)錄服務(wù)；此外，還有Square，其開(kāi)發(fā)了虛擬預(yù)約助理。

NVIDIA創(chuàng)始人兼首席執(zhí)行官黃仁勛表示：“隨著應(yīng)用程序具備了通過(guò)感知細(xì)微差別和上下文來(lái)理解和交流的能力，對(duì)話式AI將成為未來(lái)許多行業(yè)的關(guān)鍵核心。NVIDIA Jarvis能夠幫助醫(yī)療、金融服務(wù)、教育和零售行業(yè)以快速和準(zhǔn)確的方式為他們的客戶提供自動(dòng)化的支持服務(wù)?！?/p>

基于Jarvis構(gòu)建的應(yīng)用程序可以應(yīng)用全新NVIDIA A100 Tensor Core GPU中的各項(xiàng)創(chuàng)新技術(shù)進(jìn)行AI計(jì)算，并使用NVIDIA TensorRT?的最新優(yōu)化進(jìn)行推理。現(xiàn)在，使用最強(qiáng)大的視覺(jué)和語(yǔ)音模型運(yùn)行整個(gè)多模態(tài)應(yīng)用已成為可能，而且其速度比實(shí)時(shí)交互所需的300毫秒閾值還要快。

Jarvis提供了一整套GPU加速軟件堆棧和工具，使開(kāi)發(fā)者能夠輕松地創(chuàng)建、部署和運(yùn)行端到端的實(shí)時(shí)AI應(yīng)用程序，并且能夠準(zhǔn)確理解各企業(yè)及其客戶溝通時(shí)所用的各種專(zhuān)業(yè)術(shù)語(yǔ)。

IDC AI軟件平臺(tái)研究總監(jiān)David Schubmehl表示：“ 根據(jù)IDC的統(tǒng)計(jì)，對(duì)話式AI市場(chǎng)持續(xù)保持著快速增長(zhǎng)的速度，這主要是因?yàn)楦鞔笮∫?guī)模的企業(yè)機(jī)構(gòu)都已開(kāi)始意識(shí)到，使用經(jīng)過(guò)訓(xùn)練的虛擬助手和聊天機(jī)器人能夠幫助他們?yōu)榭蛻籼峁┓?wù)，拓展業(yè)務(wù)價(jià)值。IDC預(yù)計(jì)，全球范圍內(nèi)，自動(dòng)客戶服務(wù)代理和數(shù)字助理等對(duì)話式AI用例的支出投入將從2019年的58億美元增長(zhǎng)至2023年的138億美元，復(fù)合年增長(zhǎng)率將達(dá)24%?！?/p>

為了能夠?yàn)榭蛻籼峁﹤€(gè)性化的交互式體驗(yàn)，企業(yè)需要使用針對(duì)自身產(chǎn)品和客戶需求的數(shù)據(jù)訓(xùn)練其語(yǔ)言型應(yīng)用。但從頭開(kāi)始構(gòu)建一項(xiàng)服務(wù)需要深厚的AI專(zhuān)業(yè)知識(shí)、大量數(shù)據(jù)和計(jì)算資源來(lái)訓(xùn)練模型，以及能夠使用新數(shù)據(jù)對(duì)模型進(jìn)行定期更新的軟件。

Jarvis通過(guò)為對(duì)話式AI提供端到端的深度學(xué)習(xí)方案來(lái)解決這些難題。該產(chǎn)品包括先進(jìn)的深度學(xué)習(xí)模型，例如用于自然語(yǔ)言理解的NVIDIA Megatron BERT等。企業(yè)可以使用NVIDIA NeMo，基于他們自己的數(shù)據(jù)對(duì)這些模型進(jìn)行進(jìn)一步的微調(diào)，使用TensorRT進(jìn)行推理優(yōu)化，并且使用NGC（NVIDIA GPU優(yōu)化的軟件目錄）上的Helm圖表在云和邊緣進(jìn)行部署。

早期采用者— Voca，Kensho和 Square

全球各地的公司都在使用NVIDIA的對(duì)話式AI平臺(tái)改進(jìn)自身的服務(wù)。

Voca是東芝、美國(guó)電話電報(bào)公司（AT&T）和其他多家全球領(lǐng)先的公司的AI虛擬代理公司，其依靠NVIDIA實(shí)現(xiàn)了速度更快、互動(dòng)性更強(qiáng)的類(lèi)人交互。Voca利用AI技術(shù)來(lái)理解客戶在口頭交流和講話時(shí)所要表達(dá)的全部意圖，這使得其AI虛擬代理可以自動(dòng)識(shí)別不同的語(yǔ)調(diào)和語(yǔ)音線索，從而辨別出客戶所說(shuō)的內(nèi)容，以及其想要表達(dá)的意思。此外，這些代理利用NVIDIA AI平臺(tái)內(nèi)置的可擴(kuò)展性功能，大大縮短了客戶的等待時(shí)間。

Voca公司聯(lián)合創(chuàng)始人兼首席技術(shù)官Alan Bekker表示：“低延遲對(duì)于呼叫中心至關(guān)重要。憑借NVIDIA GPU，我們的代理能夠在一秒內(nèi)完成收聽(tīng)、理解并作出最準(zhǔn)確的響應(yīng)?，F(xiàn)在，我們的虛擬代理能夠成功處理70-80%的呼叫，其中包括一般性的客戶服務(wù)請(qǐng)求、付款交易和技術(shù)支持等?！?/p>

位于馬薩諸塞州劍橋市的S&P Global創(chuàng)新中心Kensho部署了可擴(kuò)展的機(jī)器學(xué)習(xí)和分析系統(tǒng)，其已使用NVIDIA的對(duì)話式AI開(kāi)發(fā)了針對(duì)金融行業(yè)和商業(yè)的Scribe語(yǔ)音識(shí)別解決方案。借助于NVIDIA的解決方案，Scribe在處理財(cái)報(bào)會(huì)議和類(lèi)似財(cái)務(wù)音頻方面的準(zhǔn)確度，相較于其它的商業(yè)解決方案高出了20%。

Kensho AI研究主管Georg Kucsko表示：“我們正在與NVIDIA展開(kāi)密切的合作，使用深度學(xué)習(xí)技術(shù)進(jìn)一步推進(jìn)端到端自動(dòng)語(yǔ)音識(shí)別技術(shù)的發(fā)展。與不使用AI的傳統(tǒng)方法相比，使用NVIDIA的解決方案訓(xùn)練新模型時(shí)，其在轉(zhuǎn)錄金融行業(yè)專(zhuān)業(yè)術(shù)語(yǔ)時(shí)的準(zhǔn)確度得到了明顯提高，這讓我們無(wú)需幾天的時(shí)間，只需幾分鐘就能向我們的客戶提供及時(shí)信息?！?/p>

Square開(kāi)發(fā)了一個(gè)AI虛擬助手，利用 AI技術(shù)，它能夠幫助Square的銷(xiāo)售人員們自動(dòng)確認(rèn)、取消或更改與客戶的約會(huì)，并讓他們能夠自由地安排日程，與更具戰(zhàn)略性的客戶接洽。

Square公司的對(duì)話式AI主管Gabor Angeli表示：“Square助手可以理解75%的客戶提出的問(wèn)題，并為他們提供幫助。同時(shí)能確保將大家的參會(huì)率提升10%。通過(guò)GPU，我們能夠以10倍于CPU的速度訓(xùn)練模型，以提供更準(zhǔn)確、更人性化的交互，并最終幫助客戶發(fā)展業(yè)務(wù)?！?/p>

供應(yīng)情況

現(xiàn)在您可申請(qǐng)參加NVIDIA Jarvis搶先體驗(yàn)活動(dòng)。