資料圖：中國首款云端智能芯片MLU100。中新社記者 孫自法 攝

　　AI芯片，你要的評測標準還在路上

　　近日，清華大學發布的《2018人工智能芯片研究報告》(以下簡稱《報告》)指出，人工智能芯片是人工智能時代的技術核心之一。目前人工智能還處于面向行業應用階段，生態上尚未形成壟斷，國產處理器廠商與國外競爭對手在人工智能這一全新賽場上處在同一起跑線上。

　　然而，“當前國內缺失人工智能芯片的相關評測標準。”在中國科協主辦的第二屆“風向標——中國創新創業先鋒論壇”上，人工智能芯片企業鯤云科技創始人牛昕宇指出，這造成大家不知道自己研發的芯片在國際上處于什么樣的水平。而獲知一款芯片性能如何，最直接的方法是進行評測。“這就需要一套公認的評測標準”。

　　人工智能芯片評測到底多重要、多緊迫？怎樣建立一套公認的評測標準？對此，記者采訪了相關業內專家。

　　全球范圍內尚無公認評測指標

　　牛昕宇向記者表示，國際上，缺乏統一的芯片評測標準也是一個比較大的問題，包括英偉達、英特爾等公司的芯片性能也主要依靠芯片廠商自家發布。“全球多個機構都在嘗試給出評測方案，然而現狀就是無公認基準測試方法和指標。”中國人工智能產業發展聯盟評估認證工作組組長曹峰說。

　　“從政府、用戶、系統集成廠商到算法開發者，全部無法準確評價所使用芯片的技術水平以及在國內外所處的地位，無法選取最適用于自己需求的底層芯片，芯片企業無法清晰確認自己的技術優勢及目標市場。”牛昕宇對此感慨頗深。

　　人工智能芯片與傳統計算芯片不同，它要求高效實現深度學習算法對海量數據高吞吐量等高并行化任務的處理。曹峰介紹，當前人工智能芯片主要分兩大體系，馮諾依曼體系和非馮諾依曼體系。

　　馮諾依曼體系以五大架構芯片為代表，分別是CPU、GPU、DSP、FPGA和ASIC，在深度學習訓練環節和終端推斷方面發揮重大作用。非馮諾依曼體系，以IBM TrueNorth芯片為代表，采用人腦神經元的結構來提升計算能力，但目前還處于實驗室階段。

　　中國信息通信研究院DNN Benchmark項目負責人張蔚敏指出，人工智能在不同算法、不同場景下，對芯片提出了不同的要求。硬件架構、延遲、帶寬、能耗、神經網絡模型、參數都是用戶方選擇人工智能芯片的重要參考。

　　人工智能芯片為何要評測？“當前，AI芯片的功能日益復雜化、多樣化，一方面，芯片廠商紛紛給出不同的衡量標準，聲稱其產品在計算性能、單位能耗算力等方面處于行業領先水平;另一方面，需求方卻關心如何能從廠商給出的信息中判斷出芯片是否能實際滿足其真實場景的計算需求。”曹峰強調，“針對這一現狀，一個與真實場景緊密相連的、同時跨產品可比的測試評估方案的出現，迫在眉睫。”

　　“統一的芯片標準會降低芯片廠商、人工智能算法廠商的溝通成本，建立一個有序的競爭環境。”牛昕宇表示，國外現在有一些人工智能算法競賽，在一定程度上起到了對于人工智能算法的評測作用。我國人工智能企業也在嘗試給出評測方案，比如阿里的AI matrix，寒武紀的Benchip，以及百度的Deepbench等。

　　公司自行摸索增加開發成本

　　事實上，我國龐大的人工智能應用市場對底層芯片需求巨大，但本土人工智能芯片產業尚處于起步階段。“有一套衡量人工智能芯片性能的公認指標，我們才能知道自己前方的目標線在哪里。”牛昕宇呼吁道。

　　當前，“應用領域的差異性和實現選擇的多樣性導致很多測評難題。”曹峰舉例，如何讓評測指標在不同級別的設備中橫向可比？面對云端和終端的應用差異化現狀，如何構建相應的基準測試？如何為不同測試項目分配權重，以獲得一個相對公正客觀、有代表性的評分？

　　這種現狀讓人工智能整個行業倍感焦慮。“對人工智能行業的從業者來說，缺乏標準意味著缺乏統一的行業交流接口。”牛昕宇在接觸大量人工智能應用研發領域一線情況后發現，在制定人工智能整體方案時，如果無法對于底層芯片所能夠提供的性能和算力有一個準確的了解，難以在項目規劃初期就確定整體方案，需要在項目開發過程中不斷試錯來測試方案。“相當于每家公司要承擔部分芯片評測任務，大大提高了開發門檻。”