離線NLP，這是探境科技給出的答案。離線NLP，或稱端側(cè)NLP技術(shù)，是不依賴云端算力，通過端側(cè)芯片來實(shí)現(xiàn)自然語言理解的方案。探境科技CEO魯勇堅(jiān)信：隨著AI語音模型的輕量化，以及端側(cè)芯片算力的逐步提高，AI語音最終將全部以分布式的部署到終端設(shè)備上。每一個時(shí)代都有一種占主導(dǎo)地位的交互方式，人類的生產(chǎn)及生活方式也因此被改變。

未來十年我們的生活將變成什么樣子？盡管眾多科技公司的技術(shù)演進(jìn)方式并不相同，但語音交互一定是繞不開的命題。

自1952年AT&T貝爾實(shí)驗(yàn)室研發(fā)的語音識別系統(tǒng)Audry算起，語音已在科技史上歷經(jīng)了70年的變革，語音方案也漸漸從云計(jì)算中心向邊緣端下沉。

當(dāng)時(shí)間的飛輪馳入2022年，語音又將給出什么樣的驚喜？

離線NLP，這是探境科技給出的答案。離線NLP（Natural Language Processing，自然語言處理），或稱端側(cè)NLP技術(shù)，是不依賴云端算力，通過端側(cè)芯片來實(shí)現(xiàn)自然語言理解的方案。探境科技CEO魯勇堅(jiān)信：隨著AI語音模型的輕量化，以及端側(cè)芯片算力的逐步提高，AI語音最終將全部以分布式部署到終端設(shè)備上。

01離線NLP即普世，又普適

盡管語音成為 IoT 設(shè)備的交互標(biāo)配是大勢所趨，但從現(xiàn)實(shí)來看，在各式各樣名目繁多智能音箱在不斷的“教育和打磨”市場后，AI語音的智能家居并未如設(shè)想一般進(jìn)入尋常百姓家。

這主要由于傳統(tǒng)實(shí)現(xiàn)語音支持主要通過云端來實(shí)現(xiàn)，配置維護(hù)難度極高，如Wi-Fi經(jīng)常斷網(wǎng)、下載各類APP、要進(jìn)行各種繁瑣操作等，復(fù)雜程度讓人望而卻步，用戶不愿意花精力去學(xué)習(xí)。

“所有的高科技一定是要化繁為簡，家電應(yīng)該以人為中心，越智能的家電，用起來就應(yīng)該越簡單、那些讓人望而生畏的家電，只適合被敬仰，不適合被使用?！濒斢陆庾x說。“想要翻越用戶體驗(yàn)這座大山，必須解決傳統(tǒng)配置方式帶來的市場端問題。”

與之相比，離線語音方案則無需依賴云端技術(shù)，可以直接在本地語音控制家電產(chǎn)品，并且不需要其它額外的操作，即插即用，擁有更快的響應(yīng)速度和更好的隱私保護(hù)，與云端相比，更符合原有家電使用習(xí)慣，屬于更為普世的“百姓智能”。

如果說AI語音從在線到離線是一大躍遷的話，那從離線到離線NLP則是另一個層面的飛躍。離線NLP讓自然語義從云端下移到了端側(cè)，用戶與家電之間的交互就像日常對話，既操作簡單，又交互自然。離線NLP在應(yīng)用層面給到用戶更普適體驗(yàn)的同時(shí)，也勢必會加速其在國內(nèi)家電市場落地的腳步。

此外，將語音處理放在端側(cè)，對于家電廠家而言，從搭建并運(yùn)營一套復(fù)雜的云端系統(tǒng)，變成了元器件級別的改造，直接從生產(chǎn)端切入，降低了產(chǎn)品間的轉(zhuǎn)換成本，這也是魯勇對于離線NLP落地前景看好的底氣之一。

02芯片和算法 咬合緊密的雙輪 NLP 引擎

越易用的產(chǎn)品，內(nèi)核往往越復(fù)雜。

離線NLP方案的挑戰(zhàn)在于要低功耗情況下保持高性能、低成本，減少由于環(huán)境復(fù)雜和模型壓縮帶來的精度損失。這對于技術(shù)層面的考驗(yàn)有兩個：一方面在芯片設(shè)計(jì)時(shí)要在低成本的前提下，考慮到算法的需求，包括算力、存儲容量等是否滿足需求，并且是否有盈余以應(yīng)對未來的再升級。

另一方面，在算法層面要考慮對深度學(xué)習(xí)的支持度上是否夠廣泛，同時(shí)根據(jù)芯片所能實(shí)現(xiàn)的能力進(jìn)一步優(yōu)化和整合，保持原信息處理能力的輕量化算法重新構(gòu)建能力。

這就需要在底層芯片與高精度算法間騰挪跌宕，進(jìn)行軟硬協(xié)同的全面整合，才能實(shí)現(xiàn)兩者間的高度耦合。

探境的離線NLP芯片Voitist721，作為探境性能強(qiáng)勁的三核AI芯片，集成NPU、DSP和CPU三核，并且實(shí)現(xiàn)了對算法模型的端到端支持。

此外，支撐端到端的 NLP意味著不用局限于人為設(shè)計(jì)的數(shù)量有限的關(guān)鍵詞，而是依靠知識圖譜和基于注意力機(jī)制的深度學(xué)習(xí)算法，挖掘出自然語言表達(dá)中所蘊(yùn)含的信息，以適應(yīng)更為靈活的表達(dá)方式和更為廣泛的落地場景。

要想在離線NLP領(lǐng)域構(gòu)筑全新價(jià)值，需要做到以下兩點(diǎn)，一是語義識別的廣泛度，二是更高的準(zhǔn)確度。

這就需要在算法模型下足功夫，“深挖洞，廣積糧”，探境的算法模型工業(yè)化生產(chǎn)平臺，是終端智能落地應(yīng)用的強(qiáng)有力支撐，能夠有效解決遠(yuǎn)場識別、誤喚醒率、噪聲干擾、地域口音、詞語泛化等核心用戶體驗(yàn)痛點(diǎn)，其基于統(tǒng)一數(shù)據(jù)管理系統(tǒng)的采集、訓(xùn)練、測試三大系統(tǒng)平臺整體聯(lián)動，快速響應(yīng)能滿足批量化發(fā)布的業(yè)務(wù)需求。

據(jù)魯勇透露，探境NLP算法今年上半年就已經(jīng)研發(fā)成功，并且憑借超強(qiáng)的人機(jī)交互能力，讓多個頭部客戶的眼前一亮，從而獲得了進(jìn)一步打開離線AI語音市場的新“鑰匙”。

03正在形成的正反饋

不止是技術(shù)要“探路”，市場也更是循序漸進(jìn)式的。

“智能家居市場的需求是碎片化的，每個公司每個品牌都有不同的利益訴求，我們的做法是先做出一些爆款，在市場打響，相當(dāng)于走到市場中教育了一部分用戶，然后用戶反饋來拉動更多廠家的加入，慢慢形成正反饋，從而達(dá)到反哺這一行業(yè)的目的。”魯勇對離線NLP應(yīng)用充滿信心。

“從目前來看，燈具、空調(diào)、窗簾、風(fēng)扇等應(yīng)用的接受度都在肉眼可見的擴(kuò)大，許多頭部的大客戶開始逐步進(jìn)入批量出貨階段，這也意味著市場在真正起勢?！濒斢碌脑捳Z透露出一股自豪。

探境科技合作伙伴包括美的、海爾、松下、歐普、奧克斯等知名廠商，從0到1的突破之后，從1到100也變得順理成章。探境不僅客戶層面形成了規(guī)模效應(yīng)，芯片層面的布局也一一展現(xiàn)，探境擁有更強(qiáng)算力的722芯片已成功點(diǎn)亮，明年年初實(shí)現(xiàn)量產(chǎn)，面向超低功耗可穿戴市場的芯片也將面世。

魯勇表示，今年探境的出貨量在幾百萬片，憑借離線NLP等技術(shù)的加持，及多個芯片系列的推出，預(yù)計(jì)明年銷量會實(shí)現(xiàn)指數(shù)型的上升。

魯勇認(rèn)為，家居場景下的智能化可分為三步。第一步是輕智能，賦予電子產(chǎn)品輕量級卻實(shí)用性很高的語音控制功能，快速將單品智能化推向用戶市場。

第二步是重智能，在終端AI芯片上升級更強(qiáng)大的算法，讓單品變得更加智能，例如自然語義理解、多模態(tài)識別等，同時(shí)疊加IOT聯(lián)網(wǎng)，無需連接云端，單品之間就可以構(gòu)建一個保護(hù)隱私且用戶體驗(yàn)更好的智能家居整體場景。

第三步是進(jìn)一步深化軟硬件協(xié)同，實(shí)現(xiàn)深度智能，構(gòu)建屬于未來的AI產(chǎn)品，包括情感分析、對話、類人機(jī)器人等科幻級產(chǎn)品，將AI技術(shù)提高并融入生活。

探境的愿景其實(shí)很簡單：讓用戶在家居場景下能夠?qū)崿F(xiàn)“想到-說到-做到”的自然交互過程，不必再看那些冗長繁瑣的說明書，學(xué)習(xí)那些復(fù)雜的家電操作步驟，實(shí)現(xiàn)“有電就有智能化”的體驗(yàn)。

就像科幻電影鋼鐵俠的賈維斯，用戶回到自己家里以后，不需要特意去尋找開關(guān)或者遙控器也好，他可以在屋子里的任意一個角落，邊走邊說，賈維斯把窗簾都打開，給我倒一杯檸檬水，這些設(shè)備就開始配合工作起來了。

柯林斯在《從優(yōu)秀到卓越》提到過飛輪效應(yīng)，有一個巨大的、無比沉重的輪子，想讓它轉(zhuǎn)起來，開始要費(fèi)很大的勁，但只要你用力的方向正確，一直推下去，輪子會越轉(zhuǎn)越快，到后面，你只要使很少的力，輪子依靠以往積聚的勢能就可以轉(zhuǎn)得飛快。

從離線NLP到更高級的深度智能，“飛輪效應(yīng)”正在向我們駛來。