智能的真正標(biāo)志不是知識(shí)，而是想象力。

什么知識(shí)讓我們變得聰明？我們用來(lái)理解世界、解釋新體驗(yàn)和做出深思熟慮的選擇的認(rèn)知結(jié)構(gòu)是什么？定義一個(gè)闡明給人類(lèi)或人工智能更深入理解和更高認(rèn)知的知識(shí)的框架，將有助于我們對(duì)此話題進(jìn)行結(jié)構(gòu)化的討論。

近日，英特爾實(shí)驗(yàn)室副總裁兼緊急人工智能研究主任Gadi Singer介紹了這種賦予人工智能更高認(rèn)知的知識(shí)構(gòu)建（knowledge constructs）的數(shù)個(gè)維度，并指出一條通往更高智能機(jī)器的道路。

更高層次的機(jī)器智能的核心，可能是讓知識(shí)構(gòu)建幫助人工智能系統(tǒng)組織自己的世界觀，賦予人工智能理解意義、事件和任務(wù)的能力。如此一來(lái)，機(jī)器認(rèn)知將從數(shù)據(jù)擴(kuò)展到知識(shí)結(jié)構(gòu)，包括描述性知識(shí)、世界動(dòng)態(tài)模型和起源等維度。

在學(xué)習(xí)語(yǔ)言時(shí)，我們要區(qū)分形式（form）和意義（meaning）：形式指的是用來(lái)表達(dá)意義的符號(hào)，也就是表面的表達(dá)。每種形式在特定的語(yǔ)境中都有特定的含義，而形式在不同的語(yǔ)境中可以有不同的含義。

正如Bengio和Sch?lkopf等人在“Towards Causal Representation Learning”一文中總結(jié)的那樣：“目前機(jī)器學(xué)習(xí)的大多數(shù)成功都是源于對(duì)適當(dāng)收集的獨(dú)立和相同分布（i.i.d）數(shù)據(jù)的大規(guī)模模式識(shí)別?！毕到y(tǒng)吸收可觀察到的元素，如文本字符、聲音信號(hào)和圖像像素，并建立模式和隨機(jī)相關(guān)性，同時(shí)在基于識(shí)別的任務(wù)中產(chǎn)生出色的結(jié)果。

論文地址：https://arxiv.org/pdf/2102.11107.pdf

越來(lái)越多的人認(rèn)為，算法必須超越表面相關(guān)性，達(dá)到真正理解的水平，從而實(shí)現(xiàn)更高水平的機(jī)器智能。這種徹底的轉(zhuǎn)變將使所謂的System 2、3rdWave或廣義/靈活的 AI 成為可能。正如Gadi Singer在核心博客“認(rèn)知人工智能的崛起”中所說(shuō)的那樣，更高水平的機(jī)器智能需要深層次的知識(shí)構(gòu)建，這種知識(shí)構(gòu)建可以將人工智能從表面相關(guān)性轉(zhuǎn)化為真正理解這個(gè)世界。

美國(guó)國(guó)防部高級(jí)研究計(jì)劃局（DARPA）的 John Launchbury 指出，在第三次人工智能浪潮中，抽象（比如創(chuàng)造新的意義）和推理（規(guī)劃和決策）將掀起一場(chǎng)新革命。第三次浪潮本身的特點(diǎn)是語(yǔ)境適應(yīng)，即系統(tǒng)為現(xiàn)實(shí)世界的各種現(xiàn)象構(gòu)建語(yǔ)境解釋模型。

知識(shí)維度中有兩個(gè)維度反映了對(duì)世界的看法，一個(gè)是描述性維度，描述性維度對(duì)世界上存在的事物進(jìn)行了概念性的抽象，另一個(gè)是現(xiàn)實(shí)世界及其現(xiàn)象的動(dòng)態(tài)模型。

此外，故事提升了人類(lèi)在共同信仰和神話基礎(chǔ)上的理解和交流復(fù)雜故事的能力。語(yǔ)境和來(lái)源歸因以及價(jià)值和優(yōu)先級(jí)是元知識(shí)維度，這些維度帶來(lái)了基于條件的有效性和知識(shí)的不斷疊加。最后，概念參考是結(jié)構(gòu)基礎(chǔ)，跨維度、模態(tài)和參考而存在。

這六個(gè)知識(shí)維度結(jié)合在一起，可以讓人工智能不僅僅停留在事件相關(guān)性上，而是獲得更深入的理解，因?yàn)檫@六個(gè)知識(shí)維度的潛在概念是持續(xù)的，可以解釋和預(yù)測(cè)過(guò)去和未來(lái)的事件，甚至允許計(jì)劃和干預(yù)，并考慮反事實(shí)的現(xiàn)實(shí)——因此文中使用了“深度知識(shí)（deep knowledge）”一詞。

闡明和描述機(jī)器智能所需的知識(shí)構(gòu)建類(lèi)型，有助于確定實(shí)現(xiàn)這種知識(shí)構(gòu)建的最佳方式，從而實(shí)現(xiàn)更高水平的機(jī)器智能。

1?支持更高水平智能的六大知識(shí)維度? 對(duì)于人工智能系統(tǒng)來(lái)說(shuō)，實(shí)施人類(lèi)理解和交流中觀察到的知識(shí)構(gòu)建可以為智能提供實(shí)質(zhì)性的價(jià)值。當(dāng)所有的知識(shí)類(lèi)型都得到支持和組合時(shí)，實(shí)際價(jià)值會(huì)大幅增長(zhǎng)。 ?

圖注：支持更高水平智能的知識(shí)維度。圖源：Gadi Singer/英特爾實(shí)驗(yàn)室 ?1. ?描述性知識(shí)：層次、分類(lèi)和屬性繼承 ?? 描述性知識(shí)（即概念性的、命題性的或陳述性的知識(shí)）描述事物、事件、事物/事件的屬性以及其之間的關(guān)系。假設(shè)使用（適當(dāng)?shù)模╊?lèi)或概念的分層，深度描述性知識(shí)就能擴(kuò)展其原本的定義。這類(lèi)知識(shí)可以包括事實(shí)和記錄系統(tǒng)。與特定用例和環(huán)境相關(guān)的事實(shí)和信息可以作為層次知識(shí)進(jìn)行組織、利用和更新。 ? 單個(gè)人工智能系統(tǒng)中使用的基礎(chǔ)本體（ontology）可以使用來(lái)自策劃系統(tǒng)的與任務(wù)相關(guān)的類(lèi)和實(shí)體（例如，OpenCyc本體或AMR命名的實(shí)體類(lèi)型）進(jìn)行播種。這種基礎(chǔ)本體應(yīng)該是可以通過(guò)神經(jīng)網(wǎng)絡(luò)/機(jī)器學(xué)習(xí)技術(shù)進(jìn)行擴(kuò)展——也就是說(shuō)，獲取新知識(shí)就會(huì)得到新的實(shí)體，關(guān)系和類(lèi)。 ?2.世界模型? 世界上的現(xiàn)象模型讓人工智能系統(tǒng)能夠理解情況、解釋輸入/事件以及預(yù)測(cè)潛在的未來(lái)結(jié)果并采取行動(dòng)?，F(xiàn)象模型是抽象/概括，可以分為正式模型和近似（非正式）真實(shí)世界模型；現(xiàn)象模型允許在特定情況下對(duì)實(shí)例使用變量和應(yīng)用程序，并允許對(duì)特定實(shí)例或更通用的類(lèi)進(jìn)行符號(hào)操作。 ? 正式模型的例子包括邏輯、數(shù)學(xué)/代數(shù)和物理。與正式模型相比，現(xiàn)實(shí)世界的模型通常是經(jīng)驗(yàn)的、實(shí)驗(yàn)性的、有時(shí)甚至顯得有些混亂?，F(xiàn)實(shí)世界的模型包括物理模型、心理模型和社會(huì)學(xué)模型。程序模型（“專(zhuān)有知識(shí)”）包括在這個(gè)類(lèi)中。 ? 因果模型可以幫助人工智能系統(tǒng)發(fā)展更上一層樓。在語(yǔ)境發(fā)生變化的情況下，如果與因果關(guān)系等知識(shí)模型相結(jié)合，并理解了控制原因的語(yǔ)境和考慮反事實(shí)的能力，那么過(guò)去的統(tǒng)計(jì)數(shù)據(jù)就可以有效地應(yīng)用于現(xiàn)在從而預(yù)測(cè)未來(lái)。這些模型有助于從條件和可能因素的角度理解情況或事件。因果推理是人類(lèi)思想不可或缺的組成部分，通過(guò)這種方式可以實(shí)現(xiàn)人類(lèi)智慧級(jí)別的機(jī)器智能。 ?3. 故事和腳本? 正如歷史學(xué)家尤瓦爾·哈拉瑞所說(shuō)，故事構(gòu)成了個(gè)人和社會(huì)的文化和世界觀的關(guān)鍵部分。故事的概念對(duì)于充分理解和解釋人類(lèi)的行為和交流是必要的。故事是復(fù)雜的，在一個(gè)連貫的敘述中可能包含多個(gè)事件和各種信息。故事不僅僅是事實(shí)和事件的集合，故事還包含了重要的信息，這些信息有助于發(fā)展對(duì)所呈現(xiàn)數(shù)據(jù)之外的理解和概括。與世界模型不同的是，故事可以被視為具有歷史意義、參考意義或精神意義。故事可以代表價(jià)值觀和經(jīng)歷，這些價(jià)值觀和經(jīng)歷會(huì)影響人們的信仰和行為。例子包括宗教或民族故事、神話，以及在任何層次的人群中分享的故事。 ?4. 語(yǔ)境和來(lái)源歸因? 語(yǔ)境的定義是圍繞著某個(gè)事件并為其自圓其說(shuō)提供資源的框架。語(yǔ)境可以看作是一種覆蓋的知識(shí)結(jié)構(gòu)，調(diào)節(jié)著它所包含的知識(shí)。語(yǔ)境可以是持久的，也可以是短暫的。 ?

持久的語(yǔ)境可以是長(zhǎng)期的（比如從西方哲學(xué)角度或東方哲學(xué)角度獲取的知識(shí)），也可以隨著時(shí)間的推移、根據(jù)新的學(xué)習(xí)材料而改變。持久語(yǔ)境不會(huì)對(duì)每個(gè)任務(wù)進(jìn)行更改。

當(dāng)特定的本地語(yǔ)境很重要時(shí)，瞬態(tài)語(yǔ)境是相關(guān)的。單詞是根據(jù)其周?chē)渥踊蚨温涞木植空Z(yǔ)境來(lái)解釋的。圖像中感興趣的區(qū)域通常在整個(gè)圖像或視頻的語(yǔ)境中得到解釋。

持久語(yǔ)境和瞬態(tài)語(yǔ)境的結(jié)合可以為解釋和操作知識(shí)提供完整的設(shè)置。 ? 知識(shí)的另一個(gè)相關(guān)方面是數(shù)據(jù)來(lái)源（又名數(shù)據(jù)追溯），其包括數(shù)據(jù)來(lái)源、在數(shù)據(jù)傳播的過(guò)程中發(fā)生了什么以及隨著時(shí)間的推移數(shù)據(jù)將去往何方。人工智能系統(tǒng)不能假設(shè)所接收的所有信息都是正確或可信的，尤其是在被稱(chēng)為“后真相時(shí)代”的情況下信息更不可輕易相信。將信息與其來(lái)源相關(guān)聯(lián)可能是建立可信性、可認(rèn)證性和可追溯性所必需的。 ?5. 價(jià)值和優(yōu)先級(jí)（包括善/威脅和倫理）? 知識(shí)的所有方面（例如，對(duì)象、概念或程序）在整個(gè)判斷范圍內(nèi)都有相對(duì)應(yīng)的價(jià)值——從最大的善到最大的惡都有對(duì)應(yīng)?？梢约僭O(shè)，人類(lèi)智力的進(jìn)化包括追求回報(bào)和避免風(fēng)險(xiǎn)（比如，追求吃午餐；避免被當(dāng)成午餐）。這種風(fēng)險(xiǎn)/回報(bào)的關(guān)聯(lián)與知識(shí)緊密相連。潛在的得失具有功利價(jià)值；對(duì)于實(shí)體或潛在的未來(lái)狀態(tài)，還有一種基于倫理的價(jià)值。這種基于倫理的價(jià)值反映了一種道德價(jià)值觀，即“善”不是基于潛在的有形回報(bào)或威脅，而是基于對(duì)什么是正確的潛在信念。 ? 價(jià)值和優(yōu)先級(jí)是元知識(shí)（meta-knowledge），其反映了人工智能系統(tǒng)對(duì)知識(shí)、行動(dòng)和結(jié)果相關(guān)方面的主觀斷定。這為問(wèn)責(zé)制奠定了基礎(chǔ)，應(yīng)該由負(fù)責(zé)特定人工智能系統(tǒng)的人認(rèn)真處理。當(dāng)人工智能系統(tǒng)與人類(lèi)互動(dòng)并做出影響人類(lèi)福祉的選擇時(shí)，潛在的價(jià)值和優(yōu)先級(jí)系統(tǒng)很重要。 ?6. 概念參考：消除歧義，統(tǒng)一和跨模態(tài)? 知識(shí)是以概念為基礎(chǔ)的。例如，“狗”是一個(gè)抽象概念——一個(gè)有多個(gè)名稱(chēng)（在各種語(yǔ)言中狗的說(shuō)法都不一樣）、一些視覺(jué)特征、聲音聯(lián)想等等的概念。然而不管其表現(xiàn)形式和用法如何，“狗”這個(gè)概念都是獨(dú)一無(wú)二的?！肮贰钡母拍畋挥成涞接⒄Z(yǔ)單詞“dog”，以及法語(yǔ)單詞“chien”?！肮贰钡囊曈X(jué)特征可能如下圖： ? ? ? 同時(shí)“狗”也和汪汪吠叫聲對(duì)應(yīng)了起來(lái)。 ? 概念引用（Concept Reference，簡(jiǎn)稱(chēng)ConceptRef）是與給定概念相關(guān)的所有事物的標(biāo)識(shí)符和引用集。概念引用本身實(shí)際上不包含任何知識(shí)——知識(shí)駐留在前面介紹的維度中。概念引用是多維知識(shí)庫(kù)（KB）的關(guān)鍵，因?yàn)楦拍钜萌诤狭烁拍畹乃斜硐蟆?? Wikidata就是集中存儲(chǔ)結(jié)構(gòu)化數(shù)據(jù)的多維知識(shí)庫(kù)的一個(gè)很好的例子。在Wikidata中，項(xiàng)（items）代表人類(lèi)知識(shí)中的所有事物，包括主題、概念和對(duì)象。Wikidata的條目與這個(gè)框架中ConceptRef的定義相似——只有一個(gè)關(guān)鍵的區(qū)別：在Wikidata中，術(shù)語(yǔ)“項(xiàng)”既指給定的標(biāo)識(shí)符，也指有關(guān)標(biāo)識(shí)符的信息；而ConceptRefs 只是帶有指向KB指針的標(biāo)識(shí)符。關(guān)于概念的信息則被填充在前面章節(jié)中描述的各種視圖中（例如與概念相關(guān)的描述性或程序性知識(shí)）。 ?常識(shí)? 常識(shí)知識(shí)由隱性信息組成，隱性信息是指廣泛（且為大眾共享）的不成文的假設(shè)，人類(lèi)自動(dòng)運(yùn)用這些假設(shè)來(lái)理解世界。人工智能想要更深入地理解這個(gè)世界，將常識(shí)應(yīng)用到情境中是必不可少的。在這個(gè)框架中，常識(shí)知識(shí)被認(rèn)為是上述六種知識(shí)類(lèi)型的子集。 ?

2?理解與知識(shí)類(lèi)型之間的關(guān)系理解是智能的基礎(chǔ)。向更高級(jí)機(jī)器智能的發(fā)展引發(fā)了一場(chǎng)關(guān)于“理解”的討論。約書(shū)亞·本吉奧將擁有人類(lèi)理解能力的人工智能描述為： ?

明白因果關(guān)系，理解世界如何運(yùn)轉(zhuǎn)； ?

理解抽象的行為； ?

知道如何使用以上知識(shí)去控制、推理和計(jì)劃，即使是在新穎的場(chǎng)景中也依然擁有這種能力； ?

解釋發(fā)生了什么; ?

out-of-distribution（即OOD，分布外）生成。 ?

而以知識(shí)為中心的對(duì)理解的定義是：用豐富的知識(shí)表示創(chuàng)建世界觀的能力；獲取和解釋新信息以增強(qiáng)這種世界觀的能力；以及對(duì)現(xiàn)有知識(shí)和新信息進(jìn)行有效推理、決定和解釋的能力。 ? 這種理解觀點(diǎn)的先決條件是以下四種功能： ?

具備豐富的知識(shí)； ?

獲取新的知識(shí)； ?

能夠跨實(shí)體和關(guān)系連接知識(shí)實(shí)例； ?

對(duì)知識(shí)進(jìn)行推理。 ?

理解不是二元屬性，而是因類(lèi)型和程度而異。這一觀點(diǎn)的核心是知識(shí)的本質(zhì)及其表征——知識(shí)結(jié)構(gòu)和模型的表達(dá)能力可以促進(jìn)理解和推理能力快速發(fā)展。 ?想象所有的人[和機(jī)器]? 正如阿爾伯特·愛(ài)因斯坦所觀察到的：“智能的真正標(biāo)志不是知識(shí)，而是想象力?！币嬲斫猓瑱C(jī)器智能必能超越數(shù)據(jù)、事實(shí)和故事。要重建，發(fā)現(xiàn)和創(chuàng)造一個(gè)可觀察屬性和事件背后的宇宙模型，想象力是必要的。從人工智能系統(tǒng)的角度來(lái)看，想象力是通過(guò)創(chuàng)造性推理實(shí)現(xiàn)的，也就是進(jìn)行歸納、演繹或溯因推理，并產(chǎn)生不受以往經(jīng)驗(yàn)和輸入輸出相關(guān)性嚴(yán)格規(guī)定的新穎結(jié)果。 ? 知識(shí)表示和推理是人工智能的一個(gè)成熟領(lǐng)域，這個(gè)領(lǐng)域處理關(guān)于世界的信息表示，使計(jì)算機(jī)系統(tǒng)能夠解決復(fù)雜的任務(wù)。知識(shí)和推理不一定是截然不同的，而是代表了一個(gè)從已知到推斷的光譜。機(jī)器理解將通過(guò)構(gòu)建知識(shí)的能力輔以先進(jìn)的相關(guān)推理（例如，概率推理和似是而非推理、溯及推理、類(lèi)比推理、默認(rèn)推理等）來(lái)得到實(shí)現(xiàn)。 ?建立在深度知識(shí)基礎(chǔ)上的神經(jīng)符號(hào)AI? 在使人工智能更有效、更負(fù)責(zé)任和更高效地為人們提供支持的過(guò)程中，我們的目標(biāo)是使人工智能系統(tǒng)更強(qiáng)大，同時(shí)推動(dòng)人工智能達(dá)到更高的認(rèn)知和理解水平?？茖W(xué)家已經(jīng)在處理數(shù)據(jù)、識(shí)別模式和尋找轉(zhuǎn)瞬即逝的相關(guān)性方面取得了巨大的進(jìn)展，但仍有必要思考哪些知識(shí)類(lèi)型能賦予人工智能系統(tǒng)對(duì)世界建模和理解世界的能力。 ?

當(dāng)我們對(duì)人工智能獲得更高層次的認(rèn)知所需要的知識(shí)結(jié)構(gòu)的類(lèi)型有了更深的理解時(shí)，我們就可以繼續(xù)在這個(gè)深度知識(shí)的基礎(chǔ)上進(jìn)行構(gòu)建，使機(jī)器能夠真正地理解世界。

審核編輯 ：李倩

?