昨晚,微軟Build2018大會開幕,發布Project Brainwave預覽版,并且稱延遲比TPU低5倍,正面與谷歌交鋒。現在,谷歌等公司都押注在專用定制芯片(ASIC)上,微軟堅持投注于用FPGA加速機器學習模型,到底誰更勝一籌?
昨晚午夜,微軟Build 2018大會開幕,微軟CEO薩提亞·納德拉(Satya Nadella)重點介紹幾個方面的進展:
Project Brainwave預覽版
Azure IoT Edge開源
Kinect回歸
AI語音工具和未來會議室
其中最令人關注的是Brainwave預覽版,在這個平臺上,能夠用FPGA在Azure云和邊緣設備上實時運行深度學習模型。
Project Brainwave使用英特爾的FPGA,納德拉說,大家不要只看到谷歌的TPU,還有我們微軟的Brainwave嘛。
Brainwave到底有多厲害?
Project Brainwave:實時硬件AI能力延遲比TPU低5倍
目前,微軟的一些競爭對手,包括谷歌,都押注在專用定制芯片(ASIC),但微軟堅持投注于用FPGA加速機器學習模型,Brainwave也不例外。
微軟認為FPGA比設計定制芯片更靈活,并且標準Intel Stratix FPGA的性能至少可以與定制芯片相媲美。在大會上,微軟認為Project Brainwave的實時AI能力延遲比TPU低5倍。
微軟稱,利用Project Brainwave的客戶可以使用標準的圖像識別模型處理100萬張圖片,而單個圖像只需要在1.8毫秒內就能處理,這比現在的任何競爭對手的云服務都要好。
Brainwave首次亮相是在去年8月的Hot Chips大會上,當時公開的信息顯示,Brainwave由三個不同的層組成:
一個高性能分布式架構;
已經整合在FPGA上一個硬件深度神經網絡引擎;
用于部署預訓練的模型的編譯器和運行時。
用于Project Brainwave的硬件示例
微軟正在將FPGA整合到其整個數據中心網絡,成為一種硬件微服務。這樣做的好處是高吞吐量和大幅減少延遲,因為該架構允許微軟繞過傳統服務器的CPU直接與FPGA進行通信。
BrainWave最初發布時,支持微軟CNTK和谷歌TensorFlow框架。
Project Brainwave為傳統AI帶來了兩個重要的區別。
首先,它使用的FPGA可以經常更新升級,以對最新算法提供加速,并且它可以快速處理AI任務,適合用于對響應時間要求很高的實時任務。
其次,客戶將能夠在他們自己的網站上運行使用微軟硬件的AI任務,而不用通過接入微軟的數據中心,這又加快了速度。
不過,FPGA在云計算中并沒有被廣泛使用,因此大多數公司都沒有必要的專業知識來編程,微軟做出了大膽的一步。微軟表示,其云服務可以將客戶的軟件應用于FPGA。
另一方面的谷歌TPU勢頭正猛。
上個月,谷歌的AI負責人Jeff Dean 表示,他們在 ImageNet 圖像分類上發布了新的 DAWNBench 結果,新型 AmoebaNet-D 網絡在 TPU 上實現了最低的訓練時間和最少的訓練成本。
明天,谷歌的I/O大會將開幕,預計也會在TPU上大做文章,好戲還在后面。
Azure IoT Edge開源和Kinect“回歸”
納德拉說,預計到2020年,智能設備總數將超過200億臺。接著他公布了微軟Build 2018的另一個進展:智能邊緣計算與智能云,并宣布Azure IoT Edge Runtime開源。
Azure IoT Edge Runtime開源能讓用戶修改、調試邊緣應用,透明度和控制能力也更高。不夠,現在認知服務目前只有視覺,將來會有更多的服務出來。
另外,微軟還發布了Project Kinect for Azure,Kinect以前是用于Xbox的體感設備,這次相當于是回歸。
Project Kinect for Azure能完成動作追蹤等任務,背后是Azure IoT Edge Runtime技術。
黃學東:微軟的麥克風陣列讓語音識別再上一個臺階
還有一個值得關注的領域是微軟Build大會上展示的未來會議室。
會議室使用的是360度相機和麥克風陣列,可以檢測會議室中的任何人說話。攝像頭能夠把各個畫面拼成一個全景畫面,還可以進行人臉識別,以確保參會者的身份,此外,還能把會議室預約系統做進去,真是強大。
更強大的是,這個未來會議室還有基于語義分析的會議紀要功能,能夠實時同傳+速記。
多年來,微軟一直致力于Skype的翻譯功能,未來的會議室也包括這項技術。會后,微軟全球技術院士黃學東表示,視頻中展示的未來會議室使用了他們剛剛宣布的Microsoft Speech Device SDK,“微軟公司極其優秀的麥克風陣列可以讓語音識別再上一個臺階。”
黃學東還提到,中國的AI公司ROOBO和微軟合作開發認知服務開發套件。
微軟提供Speech Service開發平臺,ROOBO完成Microsoft Speech Device SDK在音頻、聲學及硬件的設計與實現,由開發者使用的硬件也是由ROOBO提供。
此外,微軟還宣布“人工智能無障礙計劃(AI for Accessibility)”,未來五年內將投入2500萬美元,用于研發能夠增強人類能力的人工智能技術。
-
微軟
+關注
關注
4文章
6567瀏覽量
103958 -
語音識別
+關注
關注
38文章
1724瀏覽量
112547 -
機器學習
+關注
關注
66文章
8378瀏覽量
132415
原文標題:微軟押注FPGA與谷歌TPU對擂,AI會議室秒殺同傳+速記
文章出處:【微信號:AI_era,微信公眾號:新智元】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論