自動(dòng)駕駛系統(tǒng)中的復(fù)雜計(jì)算依靠硬件算力還是計(jì)算效率？這是橫亙?cè)谠S多創(chuàng)業(yè)公司面前的實(shí)際問題。依靠前者需要投入大量資金，依靠后者則離不開底層技術(shù)的鉆研和開發(fā)。

在2021年CES上，L4級(jí)自動(dòng)駕駛解決方案提供商元戎啟行將在線上展示其針對(duì)L4級(jí)自動(dòng)駕駛深度學(xué)習(xí)模型研發(fā)的推理引擎DeepRoute-Engine。該推理引擎實(shí)現(xiàn)了比開源深度學(xué)習(xí)框架平均高6倍的推理速度。大幅提升了自動(dòng)駕駛的計(jì)算效率，令自動(dòng)駕駛擺脫了對(duì)高算力計(jì)算平臺(tái)的依賴。

自動(dòng)駕駛要做到像人類一樣感知周圍物體，需要通過深度學(xué)習(xí)來完成，即需要通過大規(guī)模的、復(fù)雜的深度學(xué)習(xí)網(wǎng)絡(luò)模型來對(duì)輸入的數(shù)據(jù)進(jìn)行推理。在推理過程中，需要實(shí)時(shí)完成大量的計(jì)算。因此，自動(dòng)駕駛企業(yè)對(duì)計(jì)算平臺(tái)的算力有著嚴(yán)格的要求。

這類計(jì)算平臺(tái)不僅成本高達(dá)數(shù)萬元，功耗也高達(dá)數(shù)百瓦。假設(shè)計(jì)算平臺(tái)的平均功率為500W，其24小時(shí)的耗電量約占一輛蓄電量為50kW·h的電動(dòng)車的24%。

為了擺脫自動(dòng)駕駛對(duì)這類計(jì)算平臺(tái)的依賴，降低自動(dòng)駕駛的硬件成本，以及減少自動(dòng)駕駛硬件耗能對(duì)汽車行駛里程的影響，元戎啟行選擇了另一種方式。通過自研的推理引擎——DeepRoute-Engine，讓L4級(jí)自動(dòng)駕駛的感知模塊，可以運(yùn)行在低成本、低功耗的計(jì)算平臺(tái)上。

根據(jù)元戎啟行與曹操出行合作的自動(dòng)駕駛車型——幾何A的實(shí)車測(cè)試，元戎啟行的自動(dòng)駕駛系統(tǒng)，每行駛100公里只消耗1度電。該耗電量還包括了車內(nèi)負(fù)載2人，空調(diào)開啟，以及傳感器風(fēng)阻對(duì)能量的耗費(fèi)。

在自動(dòng)駕駛系統(tǒng)中，感知模塊是其最核心、計(jì)算量最大的軟件模塊。想要提高感知模塊的運(yùn)行效率，就需要針對(duì)感知算法的特點(diǎn)、計(jì)算需求，以及計(jì)算平臺(tái)的架構(gòu)特點(diǎn)進(jìn)行適配，從而驅(qū)動(dòng)系統(tǒng)的高效運(yùn)行。一個(gè)定制的推理引擎就相當(dāng)于定制的驅(qū)動(dòng)器，不僅能夠提高感知模塊運(yùn)行效率，還能提高系統(tǒng)可擴(kuò)展性，兼容更多計(jì)算平臺(tái)。

L4級(jí)自動(dòng)駕駛感知算法所使用的深度學(xué)習(xí)框架非常復(fù)雜，需要實(shí)時(shí)進(jìn)行大量復(fù)雜計(jì)算。目前市場(chǎng)上開源的推理引擎，大多無法處理復(fù)雜的L4級(jí)自動(dòng)駕駛深度學(xué)習(xí)模型。而諸如Caffe、TensorFlow、PyTorch這類深度學(xué)習(xí)框架，尚未針對(duì)復(fù)雜的深度學(xué)習(xí)框架進(jìn)行計(jì)算優(yōu)化，因此，其計(jì)算效率也差強(qiáng)人意。元戎啟行的推理引擎通過智能的算子融合，將推理過程中可合并的運(yùn)算進(jìn)行合并，大幅提高計(jì)算效率。

DeepRoute-Engine還針對(duì)不同品牌的計(jì)算平臺(tái)設(shè)計(jì)了定制的內(nèi)核程序，用以執(zhí)行所需的大量并行計(jì)算。DeepRoute-Engine目前支持包括AMD、Nvidia、Intel等品牌的GPU，以及華為的車載計(jì)算平臺(tái)。

目前，市場(chǎng)上常見的用于自動(dòng)駕駛的計(jì)算平臺(tái)有CPU、以及采用GPU、FPGA、ASIC等架構(gòu)的AI芯片。由于自動(dòng)駕駛系統(tǒng)需要處理激光雷達(dá)、相機(jī)等傳感器采集的海量數(shù)據(jù)，傳統(tǒng)的CPU算力越來越無法滿足使用要求，以GPU架構(gòu)為主的AI芯片成為了實(shí)現(xiàn)自動(dòng)駕駛必不可少的硬件。

而我國(guó)在GPU的生產(chǎn)上，與國(guó)際廠商還有一定的差距，元戎啟行所研發(fā)的推理引擎，適用于不同品牌的CPU、AI芯片，解決了自動(dòng)駕駛被計(jì)算平臺(tái)“卡脖子”的問題。

元戎啟行副總裁劉念邱表示：“通過DeepRoute-Engine，元戎啟行已將復(fù)雜的深度學(xué)習(xí)模型運(yùn)用在國(guó)內(nèi)外主流的計(jì)算平臺(tái)上。我們希望能與各界廠商攜手，共同研發(fā)、推進(jìn)更適合自動(dòng)駕駛的低功耗、低成本計(jì)算平臺(tái)解決方案，促進(jìn)自動(dòng)駕駛車輛的前裝量產(chǎn)。”