精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

領域知識圖譜落地實踐中的問題與對策

電子工程師 ? 來源:未知 ? 作者:胡薇 ? 2018-08-07 08:21 ? 次閱讀

本報告結合復旦大學知識工場實驗室十多個領域知識圖譜落地項目實踐,嘗試對這些問題進行初步解答,梳理這些問題背后的關鍵科學問題,總結領域知識圖譜技術落地的最佳實踐,以期為各行業的知識圖譜落地實踐提供參考。

下文根據肖仰華教授近期所作報告《領域知識圖譜落地實踐中的問題與對策》整理而成,并經肖仰華教授親自審核。

隨著近幾年知識圖譜技術的進步,知識圖譜研究與落地發生了一些轉向。其中一個重要變化就是越來越多的研究與落地工作從通用知識圖譜轉向了領域或行業知識圖譜,轉向了企業知識圖譜。知識圖譜技術與各行業的深度融合已經成為一個重要趨勢。

在這一過程當中,涌現出一系列理論與技術問題。例如:知識圖譜技術到底能夠解決怎樣的行業痛點問題?知識圖譜技術與各行業融合的具體路徑是怎樣的?領域知識圖譜與通用知識圖譜的聯系與區別是什么?領域知識圖譜落地過程當中的關鍵科學技術問題是什么?

這一系列問題的剖析與回答是進一步推動知識圖譜技術落地實踐、生根開花的關鍵所在。本次報告主要結合復旦大學知識工場實驗室在十多個行業的領域知識圖譜實踐經歷,對領域知識圖譜落地實踐中的關鍵問題以及主要對策做個初步解答。

報告思路很簡單,是一問一答的形式。這里列出的問題是各個行業普遍關心的代表性的關鍵問題。

首先回答什么是領域知識圖譜?領域知識圖譜(Domain-specific Knowledge Graph: DKG)的概念是從通用知識圖譜(General-purpose Knowledge Graph: GKG)演化而來,所以我們首先闡述什么是知識圖譜(knowledge graph)。

在回答什么是知識圖譜這個問題上有個非常有意思的現象,一直以來,工業界和學術界都沒有對于知識圖譜給出一個嚴格的定義。如果大家去搜維基百科,會看到維基百科說知識圖譜是Google的一種知識表示。然而,一個相對嚴格的定義是必要的,我給出的定義是“大規模語義網絡”。

理解這個定義有兩個要點。第一個是語義網絡,語義網絡包含的是實體、概念以及實體和概念之間各種各樣的語義關系。比如C羅是一個足球運動員,是一個實體,金球獎也是一個實體。

何為實體?黑格爾在《小邏輯》里面曾經給實體下過一個定義:“能夠獨立存在的,作為一切屬性的基礎和萬物本原的東西”。也就是說實體是屬性賴以存在的基礎,必須是自在的,也就是獨立的、不依附于其他東西而存在的。比如身高,單單說身高是沒有意義的,說“運動員”這個類別的身高也是沒有意義的,必須說某個人的身高,才是有明確所指,有意義的。理解何為實體,對于進一步理解屬性、概念是十分必要的。

再來看概念(concept),概念又稱之為類別(type)、類(category)等。比如“運動員”,不是指某一個運動員,而是指一類人,這就是一個概念。語義網絡中的關聯都是語義關聯,這些語義關聯發生在實體之間、概念之間或者實體與概念之間。

實體與概念之間是instanceOf(實例)關系,比如“C羅”是“運動員”的一個實例。概念之間是subclassOf(子類)關系,比如“足球運動員”是“運動員”的一個子類。實體與實體之間的關系十分多樣,比如“C羅”效力于“皇家馬德里球隊”。

理解知識圖譜的第二個要點是大規模。除了語義網絡之外,上個世紀伴隨著專家系統的研制而發展出了類別多樣的知識表示形式,比如產生式規則、本體、框架,還有決策樹、貝葉斯網絡、馬爾可夫邏輯網絡等。

這些知識表示表達了現實世界各種復雜語義。知識表示多種多樣,語義網絡只是各種知識表示中的一種而已。既然上世紀七八十年代有如此多的知識表示,而且知識圖譜本質上是語義網絡,為什么今天還要提知識圖譜?那是因為知識圖譜與傳統七八十年代的知識表示有一個根本的差別,那就是在規模上的差別。知識圖譜是一個大規模語義網絡,而七八十年代的語義網絡是個典型的小知識(small knowledge)。

知識圖譜的規模巨大,像Google knowledge graph在2012年發布之初就有5億多的實體,10億多的關系,如今規模更大。知識圖譜的規模之所以如此巨大,是因為它強調對于實體的覆蓋。比如說運動員作為一個類別在知識圖譜里涵蓋了數以萬計諸如C羅這樣的實體。知識圖譜的規模效應帶來了效用方面的質變。知識圖譜是典型的大數據時代產物。關于這些觀點的詳細描述參考本人的《知識圖譜與認知智能》,在此不再贅述。

那什么是領域知識圖譜呢?比如“足球知識圖譜”,里面大多都是跟足球相關的實體和概念。如果知識圖譜聚焦在特定領域,就可以認為是領域知識圖譜。領域知識圖譜的范疇再大一些就是行業知識圖譜了,比如農業知識圖譜。

近幾年一些大型企業對于利用知識圖譜解決企業自身的問題十分感興趣,于是就有了橫貫企業各核心流程的企業知識圖譜。領域知識圖譜、行業知識圖譜與企業知識圖譜有時邊界也十分模糊。近幾年,這幾類知識圖譜得到越來越多的關注。

在理解領域知識圖譜時,我想指出一個非常重要的觀點,我稱之為“NoKG”,也就是Not only KG。這里是借鑒“NoSQL”的說法。首先,知識圖譜只是知識表示的一種,單單知識圖譜不足以表達現實世界的豐富語義,不足以解決所有問題。比如很多領域有著豐富的if-then規則(比如故障維修、計算機系統配置),這些規則利用知識圖譜表達就很牽強,特別是對于if A and B then C 這樣的規則。

條件部分的原子表達式之間的關系可以很復雜,利用知識圖譜難以表達。知識表示方面的缺陷限制了知識圖譜解決問題的范圍。其次,知識圖譜輔以其他知識表示則有可能解決很多復雜的實際問題。作為一種語義網絡,知識圖譜在大數據的賦能下就已經能夠解決很多實際問題。

可以設想一下,還有更多的知識表示沒有突破規模瓶頸。在大數據的賦能下,其他類型的知識表示也將能夠解決更多實際的問題。越來越多的領域應用需要的知識已經突破了知識圖譜的范圍,對其他知識(比如產生式規則、貝葉斯網絡、決策樹等)提出了訴求。比如,我們正在嘗試聯合使用知識圖譜與產生式規則實現面向故障診斷的精準語義檢索。

NoKG的另一層含義在于領域應用不僅需要靜態知識,更需要動態知識。知識圖譜側重于表達實體、概念之間的語義關聯,這些語義關聯大多是靜態的、顯性的、客觀的、明確的。而實際應用中對過程性、決策性知識是有著大量需求的,這些知識大部分是動態的、隱形的、帶有一定主觀性的,比如疾病診斷、投資決策、司法解釋等等。

這些應用需要把決策的因素、機制與過程加以表達。動態知識的沉淀對于很多行業來說是強需求。隨著我國人口紅利消失,人力成本持續提高,特別是富有經驗的領域專家成本越加高昂。這些人員一旦流失,會給企業造成巨大損失。為此,企業特別需要將領域專家大腦中的決策知識加以沉淀,賦予機器,從而一定程度上降低對專家的依賴。

但是,動態知識的表達與獲取仍然是個具有重大挑戰的技術問題。很多決策過程難以明確表達,很多決策因素是隱性的。比如老中醫看病,中醫智能化一直希望將有經驗的老中醫的看病經驗沉淀下來。但是老中醫自己也未必說得清楚是根據什么看病的。雖然中醫也有樸素的理論在支撐其診斷,但總體而言整個過程是模糊的。在傳統知識管理領域曾經設計出很多激勵制度以促進企業內的知識表達與沉淀,但是阻力重重,收效甚微。

關鍵問題在于工程師、分析師、醫生等等領域專家自己也不知道如何表達。傳統知識工程通過專業的知識工程師協助領域專家進行知識獲取,但總體上的代價太大,過程太重,不易成功。動態過程的知識表達已經困難重重,知識獲取就更加雪上加霜了。

曾有人設想獲取金牌投資經理投資決策的知識,嘗試為投資經理提供新聞閱讀工具,通過其點擊行為把握其所關注新聞,甚至通過眼球跟蹤捕捉其關注的文章片段,以期精準捕捉其決策要素。知識獲取之困難可見一斑。但是知識表示及獲取的重心將逐步過渡到動態知識是必然趨勢,也是擺在研究人員面前的攻關戰。

現在回答第二個問題,DKG(領域知識圖譜)和GKG(通用知識圖譜)的關系和區別。首先來看GKG和DKG的區別。兩者之間的區別是明顯的,體現在知識表示、知識獲取和知識應用三個層面。在知識表示層面的差別可以從廣度、深度和粒度這三個維度加以考察。從廣度來看,GKG涵蓋的范圍明顯大于DKG。

從深度來看,DKG通常更深,尤其體現在概念圖譜的層級體系上。比如,在娛樂領域,追星族們可能很關心“內地鼻子長得帥的男明星”,在電商領域單單“連衣裙”不足以滿足人們的購物需求,電商圖譜中往往要涵蓋“韓版夏裝連衣裙”這樣的細分品類。

如何表達與處理這些較深層次的概念對于很多領域知識圖譜應用而言是個巨大挑戰。需要指出的是層次較深的細粒度概念往往不是基本概念(basic concept)。這意味著不同人對這些深層次概念有著不同的認知體驗的,因而會有較大的主觀分歧。這就是很多人工構建的概念層級深到一定層次就很難繼續下去的重要原因。此時,數據驅動的自下而上的自動化方法往往比較適合。

第三個維度是知識表示的粒度,DKG通常涵蓋細粒度的知識。知識表示是有粒度的,知識的基本單元可以是一個文檔,也可以是文章中的段落、法律中的條款、教育資源中的知識點等等。傳統知識管理往往以文檔為單位組織企業知識資源。

在司法智能中的司法解釋往往需要將知識粒度控制在條款級別。在教育智能化領域,學科的知識點往往是個合適的粒度,以知識點為中心組織教學素材和資源是個可行的思路。知識表示的粒度也可以細化到知識圖譜中的實體與屬性級別,或者是邏輯規則中的條件與結果。比如法律條款可以進一步細化到由條件與結果構成的產生式規則,數學中的很多定理也可以進一步細化為相關的公理系統(一組產生式規則)。

既然知識表示的粒度是可控的,我們應該如何控制呢?很多場景下知識表示的粒度是個需要仔細斟酌的問題。一般而言,粒度越細表達能力越強,但是其表達與獲取代價也越大。細粒度知識表示一般是領域應用的強需求之一。比如在知識管理領域,粒度粗放已經成為阻礙企業知識管理發展的根本問題。傳統知識搜索只能搜索到文檔級別,如果不幸這個文檔含有1000頁內容,則會給用戶帶來巨大麻煩。

但是,凡事過猶不及,太細粒度的知識表示也往往會給知識獲取帶來巨大的復雜性。合理控制知識表示的粒度,不盲目求精求細,是知識庫技術落地成功的關鍵思路之一。很多落地實踐中過早地陷入細粒度知識獲取的泥潭當中,消耗巨大但收效甚微。但事實上細粒度的知識表示在很多場景下也是不必要的。因此,在實踐中建議緊扣應用需求,從應用出發反推需要怎樣粒度的知識表示。

在知識獲取層面,DKG對質量往往有著極為苛刻的要求。因為很多領域應用場景是極為嚴肅的(也就是mission critical 的AI應用)。比如醫療,某個藥物有哪些禁忌癥,這類知識是不能出錯的。

對質量的苛刻要求自然就意味著領域知識圖譜構建過程中專家參與的程度相對較高。需要指出的是,專家的積極干預并不意味著盲目的手動構建。如何應用好人力資源,包括哪些環節讓人參與以及專家參與的具體方式等問題一直以來就是領域知識圖譜落地的關鍵問題。在眾包計算中有不少方法值得借鑒。但是對于有著依賴專家經驗的歷史傳統而言,如何盡可能降低人力資源的成本是個值得深入研究的問題。

一般而言,我們期望構建過程盡可能自動化;但是由于對目標圖譜有著苛刻的質量要求,最終的知識驗證過程還是要訴諸人力。較多的人工干預自然決定了領域知識圖譜落地過程自動化程度相對較低。相比較而言,通用知識圖譜構建一定要高度自動化,因為通用知識圖譜規模太大(動輒數千萬的實體,數億的關系),如果沒有自動化的辦法,根本無法推進,除非存在有效的大規模眾包化手段,比如知識類互動游戲等。

在知識應用層面,首先,領域知識圖譜的推理鏈條往往相對較長。原因有兩個方面。一是領域知識圖譜相對密集。比如某個疾病在通用知識庫中相關實體可能寥寥無幾,但是在一個醫療知識圖譜中相關實體可能數以百計。知識庫建設有一個有意思的現象那就是永遠不要指望知識庫是完備的。完備是知識庫建設永遠在追求但卻無法企及的目標。

但是,DKG相對于GKG在單個實體的相關知識覆蓋面有著明顯優勢。也正是基于此,領域知識圖譜上的推理鏈條可以較長。在一個相對稠密的領域知識圖譜上長距離推理之后的結果仍然還可能是個有意義的結果。但是在通用知識圖譜上,由于其相對稀疏,多步推理之后語義漂移(semantic drift)嚴重,其推理結果很容易“面目全非”、“離題千里”,令人難以理解了。

所以在GKG之上的推理操作大都是基于上下文的一到兩步的推理。比如搜索“劉德華”,可以推薦他的歌曲,那是因為知識圖譜告知我們劉德華是一個歌星,主要作品是歌曲,這是兩步的推理鏈條。

其次,領域知識圖譜上的計算操作也相對復雜一些。像之前提到的深度推理就是一種復雜的應用。此外,領域應用往往會涉及復雜查詢。比如在公共安全領域,對于重點監控人群,通常需要在相關圖譜中查詢該人群形成的稠密子圖。諸如此類的復雜計算和操作,在領域知識圖譜中并不罕見。相反,通用知識圖譜的查詢多為一到兩步的鄰居查詢,相對簡單。

現在來看聯系,通用知識圖譜與領域知識圖譜關系是十分密切的,根本原因是人類的知識體系是有結構的。我個人認為人類的知識體系呈現出倒三角形的結構。三角結構越是接近底層的部分越是最為基本的、形式簡單的知識;越往上層知識越為抽象、越加多樣,也越加細分、專業性越強。

在個人成長的早期階段,人類通過自身身體與世界的交互習得了最為基本的常識,特別是關于時間、空間、因果的基本常識。我們知道時間是在流逝的、我們知道空間是有一定位置關系的、我們明白有因必有果。這些都是最為基本的常識。這些常識是構建認知體系的基礎。

在此基礎上,通過“隱喻”或者“類比”(美國的侯世達教授甚至認為類比是智能的本質,見其《哥德爾、艾舍爾、巴赫》一書),人類發展出更為高層的知識,包括對于世界的知識(比如我們知道太陽從東邊升起,人是要呼吸的等等)、簡單關聯事實(比如下雨了,地面會潮濕)。

基于這些簡單知識,再通過隱喻和類比,進一步形成特定領域的知識。很多領域知識本質上是通過隱喻從基本知識發展而來的。比如人們關于社會地位的認識,某個人社會地位較高實際上是從空間上的高低隱喻而來的。說某個人很積極、很激進,實際上是從時間的先后隱喻而來的。

最近還有一個例子,將各種芯片與人體的各器官相類比:做人工智能的芯片就好比在做大腦,做通用芯片就好比在做血管,做計算芯片就好比在做心臟,這都是典型的隱喻。所以很多領域知識都是從人類的基本常識和世界知識通過隱喻發展而來的。因此,領域知識和通用知識之間存在著千絲萬縷的聯系。理解自然語言中的隱喻現象也一直是自然語言處理領域的一個研究熱點。

DKG與GKG的另一個聯系在于行業應用對于領域知識的需求難以閉合。也就是說,很多行業應用看上去好像只需要領域知識,但是實際應用過程中往往會超出領域所預先設定的知識邊界。

比如在金融知識圖譜落地過程中,本以為涵蓋公司、法人、機構、產品等就足夠了。但是實際應用過程中我們發現這些類型的知識還遠遠不夠。比如基于金融知識圖譜的關聯分析往往會牽扯出幾乎萬事萬物。比如說諸如龍卷風的氣候災害,會使得農作物產量下降,農業機械的出貨量因而就會下降,農機的發動機產量也就相應要下降,從事農機發動機關鍵部件生產的公司業績就會下降,相關公司的股票可能就會下跌。這個例子形象地說明幾乎一切事物在某種意義下都是跟金融有關系。

事實上,一切實體都身處在一個復雜的因果網絡中,世界是普遍關聯的。這就導致沿著任何一個實體開展關聯分析都極為容易超出預先設定的知識邊界。因此,行業應用中的知識需求難以封閉于領域知識的邊界范圍內。換言之,越為封閉的應用場景,機器越容易取得成功。

所謂封閉是指一個有限的知識子集足以支撐應用需求。比如,AlphaGo的成功很大程度上得益于圍棋游戲規則有限,整個游戲過程不會用到下棋規則之外的知識。但對于星際爭霸之類的游戲,機器取得優異成績就顯得較為困難。因為這類策略性游戲所用到的知識類型多樣,不僅需要有關排兵布陣、武器應用、戰場環境等相關知識,還可能涉及很多與社會及文化相關的知識。智能客服等領域的成功也一定程度上歸功于客服知識的相對封閉。

所以,領域應用所涉及的知識體系越是封閉,越容易成功。這是在很多領域知識圖譜落地過程中選擇應用試點時,應該遵循的一個基本原則。

延續上面的分析,進一步可以回答業界十分關心的一個問題:知識圖譜在什么樣的應用中易于成功?知識圖譜落地應用往往遵循一個循序漸進的推進過程。因此,很多行業都希望選取特定場景先行試點,那么選擇什么樣的場景進行優先驗證呢?知識圖譜只是整個智能化技術的手段之一。

知識圖譜不能解決行業的所有問題,那么,某個特定的行業應用到底能否受益于知識圖譜技術?這些都是知識圖譜的行業應用亟需回答的問題。

我根據前兩頁內容中觀點,給出幾個選擇依據。第一、領域知識相對封閉。已經闡明,越是封閉的領域越容易成功。第二、簡單知識與簡單應用。何為簡單知識?關于知識復雜性的評估實際上是個非常復雜的問題。知識復雜性的內在機理和評測機制是個十分有趣的科學問題。從操作層面來看,可以從特定人群學習某類知識所需要時間來評估。假設我們只考慮完成了基礎教育(比如中國的九年制基礎教育)的人群。對于不同知識,這一人群學習周期不一。

比如,很顯然對于某個企業的客服知識,幾乎一周簡單培訓就可以上崗。但是對于治病的知識,即便一個醫學院學生可能也要十多年才能掌握。所以,大部分對于人而言簡單崗位培訓就能勝任的工作,也往往適用于機器,是有可能優先被機器所代替的。還有些應用場景屬于知識的簡單應用,比如同樣是在醫療領域,醫院的導診崗位,就屬于醫學知識的簡單應用。只需要根據癥狀進行簡單的分類,即便不夠精準,在具體科室醫生治療時還有進一步糾正的機會。

第三、較少涉及常識。如果領域應用所涉及的知識集中在人類知識結構的上層(也就是專業性較強的知識),較少涉及底層的常識,則相對容易成功。其根本原因在于常識的獲取是異常困難的。人類很容易理解常識,但是對于機器而言常識理解卻十分困難。我們知道太陽從東邊升起,人是兩條腿走路的,魚是在水里游的,而機器很難知道這些常識。因為常識是人類在學齡前通過身體與世界的交互與體驗積累而得。我們每個人都理解常識,因而不用掛在嘴邊說明,就能彼此理解。

因此,文本或者語料中對于常識鮮有提及,常識因而也就無從抽取。常識缺失也就成了知識庫、知識工程,乃至整個人工智能的痛點問題。目前機器智能在常識理解方面仍然舉步維艱。因此,我認為大量用到常識的應用面臨巨大挑戰。比如說有公司想做財務報銷方面的智能化,此類場景就有可能涉及很多常識。比如半夜12點打出租車,或者說打出租車打了四五個小時,又或者從美國飛到上海只飛了一個小時,這都是有問題的。這些問題我們人類很容易識別,因為都是常識問題,但對機器而言就很困難。

還有一個非常典型的大量用到常識的場景就是刑偵智能化。公安人員在破案過程中用到大量常識,嫌疑人往往是基于證據根據常識進行推理而鎖定的,因此讓機器代替刑偵人員破案仍十分困難。

很多領域知識圖譜應用的方案是建立在通用知識圖譜基礎之上的。GKG對于DKG有著重要的支撐作用。一方面,GKG可以給很多DKG提供高質量的種子事實。這些種子事實可以用做樣本指導抽取模型的訓練。

另一方面,GKG可以提供領域模式(Schema)。領域知識圖譜構建時需要花費巨大精力設計領域模式,比如為了構建娛樂領域知識圖譜,必須首先明確描述歌手的屬性列表(有時又稱作template)中應該包括專輯、代表作、簽約公司等屬性。

雖然GKG對于特定領域的實體覆蓋率不高,但是通過聚合GKG中所有歌手信息,有關歌手的描述模板基本上已經能夠滿足初步需要。后續只需要在初始模板基礎上逐步完善即可。能否充分利用通用知識圖譜對很多領域知識圖譜的構建具有重要意義。這就是為什么很多團隊不遺余力地做好通用知識圖譜(比如我們實驗室的通用百科知識圖譜CN-DBpedia和通用概念圖譜CN-Probase)的重要原因。

領域圖譜建好之后又可以反哺通用知識圖譜。復旦知識工場實驗室就是按照這個思路持續運營多年。我們先通過通用知識圖譜為各領域知識圖譜構建提供大量的種子事實,使得快速構建很多領域知識圖譜成為可能。各領域知識圖譜做的很深很細之后,可以反過來補充通用知識圖譜。GKG與DKG這種互補形式的架構在很多領域的知識圖譜落地中是個非常重要的架構。

知識表示其實一直以來都有兩種基本的方式:符號化表示與數值型表示。兩者孰優孰劣?各自的適用場景是怎樣的?一直是知識圖譜落地過程中常被問及的問題。第一種是符號化(Symbol)的表示,比如說PPT左上角的小規模語義網絡,表達了約翰給瑪麗一本書這樣的事實。這個例子中大量的使用了字符、箭頭等符號。顯然,符號表示形象直觀,易于我們理解。人是可以理解符號的,但是沒辦法理解向量。知識表示還有一種表示是數值化的分布式表示,它是面向機器的。機器是無法“理解”符號的,只能處理數值和向量。分布式表示是將符號知識集成到深度學習框架中的一種基本方式。符號化表示是一種顯性的表示,而分布式表示是一種隱性的表示。符號化表示易理解、可解釋,而分布式表示是難解釋、難理解的。符號化表示的另一優點在于推理能力。比如數學定理證明都是基于符號推理進行的。雖然基于知識圖譜的分布式表示,也可以開展一定程度上的推理,但是需要指出的是分布式推理已經很大程度上丟失了知識圖譜原有的語義,分布式推理只能推理語義相關性,而無法明確是何種意義下的語義相關。我個人傾向于認為分布式推理離實用還很遙遠。如果非要為知識圖譜上的分布式推理找到應用場景,那只能作為很多復雜任務的預處理步驟,將明顯語義不相關的元素加以剪枝,后續仍需要能夠充分利用符號語義的方法進行精準的語義推理。

不管是大數據時代還是人工智能時代,都需要領域知識圖譜。我曾在《知識圖譜與認知智能》這一報告中詳細闡述過相關觀點。這里補充幾個觀點。首先,需要知識圖譜去構建知識引擎,去釋放大數據的價值。很多行業和企業都有數據,都有大數據。但是這些大數據非但沒有創造價值,反而成為了很多行業的負擔。阻礙大數據價值變現的根本原因在于缺少智能化的手段,更具體而言就是缺少一個能像人一樣能夠理解行業數據的知識引擎。

行業從業人員為什么能理解行業數據進而開展行業工作呢,那是因為行業從業人員具有相應的行業知識。如果把同樣的行業知識賦予機器,構建一個行業知識引擎,那么機器也就可能代替人去理解、挖掘、分析、使用數據,可以代替行業從業人員挖掘數據中的價值。

簡言之,將行業知識賦予機器,讓機器代替行業從業人員從事簡單知識工作,是當下以及未來一段時間內基于機器認知智能的行業智能化的本質。在行業智能化的實現進程中,通過領域知識圖譜對數據進行提煉、萃取、關聯、整合,形成行業知識或領域知識,讓機器形成對于行業工作的認知能力,從而實現一個行業知識引擎,實現知識工作自動化,已經成為了行業智能化日漸清晰的一條路徑。

伴隨著人工智能時代的到來,“智能”機器無處不在,手表、手環、手機、音響、電視、機器人等等都已是隨處可見的“智能”實體,這些機器逐步走入人們的生活。但是現在機器普遍不具備人們所期望的智能,與人類智能相比只能算是機器“智障”。機器“智障”的根本原因是這些機器沒有一個像人一樣聰慧的大腦。

事實上,機器最缺的是一個機器智腦。沒有這樣的智腦,機器只能是一具沒有“靈魂”的僵尸。人腦之所以能給人類帶來智慧的根本原因在于人腦能夠存儲知識與利用知識。類似地,機器智腦也需要有知識的充實,才能夠形成真正意義上的機器智能。富含各類知識的機器智腦,可以理解人類的語言與行為,能夠理解我們所從事的行業工作,從而使得自然人機交互成為可能,使得人機協同混合智能成為可能。最終為機器融入人類社會掃清障礙,促進人機和諧共存。

從社會發展的角度來看,可以說將領域知識賦予機器,將是進一步提高機器生產力、釋放勞動力資源、降低人力成本的重要技術。伴隨著我國人口紅利的逐步消失,各行業的人力成本普遍提高,各行業對于機器生產力的提升提出了普遍訴求。伴隨著工業4.0的推進以及自動化技術普及,傳統實體行業人的體力勞動已經逐步被解放。人力資源成本釋放的空間已經逐步從體力勞動轉向腦力勞動。

當下,人工智能技術給人力成本降低帶來的新機遇主要體現在用機器代替人的腦力勞動,特別是各行業的簡單知識工作將逐步為機器所代替。機器的記憶幾乎是無窮無盡的,機器決策時可以同時考慮數百萬變量,機器運算的速度遠超人類,所以一旦把行業知識賦予機器,就能實現高度自動化的機器工作。在這一背景下,各行業都走上了智能化升級轉型的道路,而實現機器的認知能力是智能化升級轉型的基本路徑。

以政府數據治理為例,在政府領域,由于歷史原因,政府各部門的信息系統的建設多是各自為陣,形成了大量的信息孤島,這就給政府數據價值發揮帶來了巨大障礙。這些障礙尤為集中地體現在政府數據治理與應用方面,碎片化數據難以融合、數據共享開放缺乏必要依據、政府決策仍然缺乏來自數據的有效支撐、政府數據的應用模式相對單一。

但如果有了領域知識圖譜,就可以為數據融合提供元數據,將政府數據融合從繁重的手工整合中解放出來。比如ID與身份證通常指代相同的字段,這樣的元數據可以自動建立A數據庫中名為“ID”的字段與B數據庫中名為“身份證”字段的映射。政府在大力推進政府數據共享和開放過程中,必須確保數據安全。

比如個人隱私數據很敏感是不可以開放的,當前擬開放的數據都要經過人工的審慎判斷,耗時耗力。但事實上知識圖譜可以為政府數據開放提供必要的背景知識。比如如果設定了個人信息是不能開放的,那么個人的住址、出生日期等等都是不能開放的,這可以通過背景知識庫自動推斷得到。政府數據的決策和分析缺乏可解釋依據,這些依據都可以從領域知識圖譜里去尋找。

當前政府數據的應用多是簡單的檢索與分析,缺乏基于深度推理的智能應用。而推理需要一個基本的載體,推理載體的天然選擇是知識圖譜。基于符號化的知識圖譜,可以開展有效的深度推理。

領域知識圖譜系統的生命周期包含四個重要環節:知識表示、知識獲取、知識管理與知識應用。這四個環節循環迭代。知識應用環節明確應用場景,明確知識的應用方式。

知識表示定義了領域的基本認知框架,明確領域有哪些基本的概念,概念之間有哪些基本的語義關聯。比如企業家與企業之間的關系可以是創始人關系,這是認知企業領域的基本知識。知識表示只提供機器認知的基本骨架,還要通過知識獲取環節來充實大量知識實例。比如喬布斯是個企業家,蘋果公司是家企業,喬布斯與蘋果公司就是“企業家-創始人-企業”這個關系的一個具體實例。知識實例獲取完成之后,就是知識管理。這個環節將知識加以存儲與索引,并為上層應用提供高效的檢索與查詢方式,實現高效的知識訪問。

四個環節環環相扣,彼此構成相鄰環節的輸入與輸出。在知識的具體應用過程中,會不斷得到用戶的反饋,這些反饋會對知識表示、獲取與管理提出新的要求,因此整個生命周期會不斷迭代持續演進下去。

在整個生命周期中,我認為最重要的是明確知識的應用場景,也就是回答清楚一個問題:利用領域知識解決怎樣的應用問題。再根據應用來反推到底需要怎樣的知識表示,明確知識邊界。在當下的很多知識圖譜應用實踐中,有一個不好的苗頭就是“為了圖譜而圖譜”。雖然知識圖譜是當下的熱點技術,盡管每年各行業大量的信息化預算苦苦尋求好的落地項目,盡管資本界熱錢涌動尋求好的投資標的,但是不應以知識圖譜為名,不應盲目炒作知識圖譜技術。

知識圖譜技術是當下熱點不假,但絕不是萬能技術。它能解決的問題是有限的,它的成功應用有著苛刻的條件。需要謹慎選擇落地場景;需要客觀評估技術成熟度以及技術與應用的適配程度;需要充分考慮資源與收益的平衡等一系列問題。

為圖譜而圖譜,或者僅以圖譜為名而行悖圖譜之實,對知識圖譜產業有百害而無一利。歷史上前車之鑒太多了。很多做AI的研究人員與公司,最終落得個“騙子”下場。歷史上的AI技術的演進道路呈現出大起大落之勢。

這一系列現象歸根結底是因為人們對于AI預期過高,盲目大規模上線很多知識工程項目,無視應用場景而對知識庫盲目求大求全。殊不知人之所以偉大其實就在于任何一個普通人所掌握的知識都可以說是無邊無界的。我們現在構建的知識庫離機器達到普通人認知世界所需要的水平還十分遙遠。知識資源建設可以說是永遠在路上,沒有最好,只有更好。

所以,比較務實的作法是:謹慎選擇合適的應用場景,構建滿足場景需要的知識資源。這背后體現的也是典型的自下而上的建設思路。大而全、自上而下、運動式知識資源建設(這個經常是國內的典型方式),容易遇到難以逾越的技術瓶頸。一言以蔽之,知識資源建設的基本原則是適度。“適”是指對于特定應用場景的適配,“度”是指合理把控知識的邊界與體量。

我們常用三元組表示領域知識圖譜。我想強調一點,知識圖譜只能表達一些簡單的關聯事實,但很多領域應用的需求已經遠遠超出了三元組所能表達的簡單關聯事實,實際應用日益對于利用更加多元的知識表示豐富和增強知識圖譜的語義表達能力提出了需求。

這一趨勢首先體現在對于時間和空間語義的拓展與表達方面。有很多知識和事實是有時間和空間條件的,比如說“美國總統是特朗普”這個事實的成立是有時間條件的,十年前美國的總統不是特朗普,十年之后應該也不大可能是特朗普。還有很多事實是有空間條件的,比如“早餐是燒餅與油條”這件事,在中國是這樣,但是在西方并非如此,西方的早餐可能是咖啡、面包。

從時空維度拓展知識表示對很多特定領域具有較強的現實意義。比如在位置相關的應用中,如何將POI(Point of Interest)與該POI相關實體加以關聯,成為當下拓展POI語義表示的重要任務之一。比如將“邯鄲路220號”(復旦大學地址)關聯到“復旦大學”是十分有意義的。在互聯網娛樂領域,粉絲們往往不僅僅關心某個明星的妻子是誰,可能更關心明星的前任妻子、前任女友等信息,這些應用都對事實成立的時間提出了需求。

第二、增強知識圖譜的跨媒體語義表示。當前的知識圖譜主要以文本為主,但是實際應用需要有關某個實體的各種媒體表示方式,包括聲音、圖片、視頻等等。比如對于實體“Tesla Model S”,我們需要將其關聯到相應圖片和視頻。知識圖譜時空維度拓展在物理實現上可以通過定義四元組或者五元組加以實現。跨媒體表示可以通過定義相關的屬性加以實現。

知識圖譜的語義增強總體上而言將是未來一段時間知識表示的重要任務。知識圖譜作為語義網絡,側重于表達實體、概念之間的語義關聯,還難以表達復雜因果關聯與復雜決策過程。

如何利用傳統知識表示增強知識圖譜,或者說如何融合知識圖譜與傳統知識表示,更充分地滿足實際應用需求,是知識圖譜領域值得研究的問題之一。在一些實際應用中,研究人員已經開始嘗試各種定制的知識表示,在知識圖譜基礎上適當擴展其他知識表示是一個值得嘗試的思路。

領域知識圖譜的構建是個領域知識的獲取過程。這一過程系統性強,涉及眾多技術手段。但是其基本流程具有一定共性,如PPT所示。

第一步是模式(Schema)設計。這一步是傳統本體設計所要解決的問題。基本目標是把認知領域的基本框架賦予機器。在所謂認知基本框架中需要指定領域的基本概念,以及概念之間subclassof關系(比如足球領域需要建立“足球運動員”是“運動員”的子類);需要明確領域的基本屬性;明確屬性的適用概念;明確屬性值的類別或者范圍。比如“效力球隊”這個屬性一般是定義在足球運動員這個概念上,其合理取值是一個球隊。

此外,領域還有大量的約束或規則,比如對于屬性是否可以取得多值的約束(比如“獎項”作為屬性是可以取得多值的),再比如球隊的“隸屬球員”屬性與球員的“效力球隊”是一對互逆屬性。這些元數據對于消除知識庫不一致、提升知識庫質量具有重要意義。

第二步是明確數據來源。在這一步要明確建立領域知識圖譜的數據來源。可能來自互聯網上的領域百科爬取,可能來自通用百科圖譜的導出、可能來自內部業務數據的轉換,可能來自外部業務系統的導入。應該盡量選擇結構化程度相對較高、質量較好的數據源,以盡可能降低知識獲取代價。

第三步是詞匯挖掘。人們從事某個行業的知識的學習,都是從該行業的基本詞匯開始的。在傳統圖書情報學領域,領域知識的積累往往是從敘詞表的構建開始的。敘詞表里涵蓋的大都是領域的主題詞,及這些詞匯之間的基本語義關聯。在這一步我們是要識別領域的高質量詞匯、同義詞、縮寫詞,以及領域的常見情感詞。比如在政治領域,我們需要知道特朗普又被稱為川普,其英文簡稱為Trump。

第四步是領域實體發現(或挖掘)。需要指出的是領域詞匯只是識別出領域中的重要短語和詞匯。但是這些短語未必是一個領域實體。從領域文本識別某個領域常見實體是理解領域文本和數據的關鍵一步。

在實體識別后,還需對實體進行實體歸類。能否把實體歸到相應的類別(或者說將某個實體與領域類別或概念進行關聯),是實體概念化的基本目標,是理解實體的關鍵步驟。比如將特朗普歸類到政治人物、美國總統等類別,對于理解特朗普的含義具有重要意義。

實體挖掘的另一個重要任務是實體鏈接,也就是將文本里的實體提及(Mention)鏈接到知識庫中的相應實體。實體鏈接是拓展實體理解,豐富實體語義表示的關鍵步驟。

第五步是關系發現。關系發現,或者知識庫中的關系實例填充,是整個領域知識圖譜構建的重要步驟。關系發現根據不同的問題模型又可以分為關系分類、關系抽取和開放關系抽取等不同變種。

關系分類旨在將給定的實體對分類到某個已知關系;關系抽取旨在從文本中抽取某個實體對的具體關系;開放關系抽取(OpenIE)從文本中抽取出實體對之間的關系描述。也可以綜合使用這幾種模型與方法,比如根據開放關系抽取得到的關系描述將實體對分類到知識庫中的已知關系。

第六步是知識融合。因為知識抽取來源多樣,不同的來源得到的知識不盡相同,這就對知識融合提出了需求。知識融合需要完成實體對齊、屬性融合、值規范化。實體對齊是識別不同來源的同一實體。屬性融合是識別同一屬性的不同描述。不同來源的數據值通常有不同的格式、不同的單位或者不同的描述形式。比如日期有數十種表達方式,這些需要規范化到統一格式。

最后一步是質量控制。知識圖譜的質量是構建的核心問題。知識圖譜的質量可能存在幾個基本問題:缺漏、錯誤、陳舊。先談知識庫的缺漏問題。某種意義上,知識完備對于知識資源建設而言似乎是個偽命題,我們總能枚舉出知識庫中缺漏的知識。

知識缺漏對于自動化方法構建的知識庫而言尤為嚴重。但是即便如此,構建一個盡可能全的知識庫仍是任何一個知識工程的首要目標。既然自動化構建無法做到完整,補全也就成為了提升知識庫質量的重要手段。補全可以是基于預定義規則(比如一個人出生地是中國,我們可以推斷其國籍也可能是中國),也可以從外部互聯網文本數據進行補充(比如很多百科圖譜沒有魯迅身高的信息,需要從互聯網文本尋找答案進行補充)。

其次是糾錯。自動化知識獲取不可避免地會引入錯誤,這就需要糾錯。根據規則進行糾錯是基本手段,比如A的妻子是B,但B的老公是C,那么根據妻子和老公是互逆屬性,我們知道這對事實可能有錯。知識圖譜的結構也可以提供一定的信息幫助推斷錯誤關聯。比如在由概念和實例構成的Taxonomy中,理想情況下應該是個有向無環圖,如果其中存在環,那么有可能存在錯誤關聯。最后一個質量控制的重要問題是知識更新。

更新是一個具有重大研究價值,卻未得到充分研究的問題。很多領域都有一定的知識積累。但問題的關鍵在于這些知識無法實時更新。比如電商的商品知識圖譜,往往內容陳舊,無法滿足用戶的實時消費需求(比如“戰狼同款飾品”這類與熱點電影相關的消費需求很難在現有知識庫中涵蓋)。

因此,電商領域的圖譜構建要從被動的供給側構建過渡到主動的消費側構建,要從管理者視角轉變成消費者視角。消費側的需求充分體現在搜索日志和購物籃中。面向日志、購物籃的自動知識獲取將成為研究熱點。

經歷了上述步驟之后得到一個初步的領域知識圖譜。在實際應用中會得到不少反饋,這些反饋作為輸入進一步指導上述流程的完善,從而形成閉環。此外,除了上述自動化構建的閉環流程,還應充分考慮人工的干預。人工補充很多時候是行之有效的方法。

比如一旦發現部分知識缺漏或陳舊,可以通過特定的知識編輯工具實現知識的添加、編輯和修改。也可以利用眾包手段將很多知識獲取任務分發下去。如何利用眾包手段進行大規模知識獲取,是個十分有意思的問題,涉及到知識貢獻的激勵機制,我前幾年有個題為《未來人機區分》的報告,專門討論如何利用知識問答形式的驗證碼來做知識獲取,可以百度此文獲取更多信息。

可以看出,整個領域知識圖譜的構建是個系統工程,流程復雜,內涵豐富,涉及到知識表示、自然語言處理、數據庫、數據挖掘、眾包等一系列技術。也正是這個原因使得知識圖譜落地對很多行業或者企業來講都是一個十分重要的舉措,甚至是戰略性舉措。

領域圖譜的評價標準是落地過程中常常被問及的問題。總體而言有三個方面的指標應該予以充分考慮。第一個是規模。前面已經指出,絕對完備的知識庫是不存在的,完備只能相對于一些封閉領域而言。因此,規模一般而言是個相對指標。

關于規模問題,在落地過程有兩個有意思的問題。一是,當前知識庫是否足以支撐實際應用,或者多大規模就夠了?這個問題沒有絕對答案。我給出的是看實際應用的反饋,也就是知識圖譜上線后的用戶滿意率。比如在利用知識圖譜支撐語義搜索方面,多少查詢能被準確理解,這個比率是個重要的指標。

當然查詢理解率不僅涉及知識圖譜的覆蓋率也關系到理解模型的準確率。因此,在實際評估中需要客觀對待查詢理解率,不能簡單地將查詢理解率直接等同于圖譜覆蓋率。

第二個指標是質量。當前AI系統努力避免的一個事實就是“Garbage-In-Garbage-Out”。喂給機器的是錯誤知識,就只會導致錯誤的應用結果。提升知識圖譜質量是知識圖譜構建的核心命題。那么知識圖譜質量又應該從哪些維度進行衡量呢?

我想至少有幾個維度。一是、準確率。比如是否存在錯誤事實,錯誤事實所占比例都是質量的直接反映。二是、知識的深度。比如很多知識庫只涵蓋人物這樣的大類,無法細化到作家、音樂家、運動員這些細分類目(fine-grained concepts)。三是、知識的粒度。粒度越細應用越靈活,應用時精讀越高。細化知識表示的粒度是領域知識圖譜的構建過程中的重要任務之一。

第三個方面是實時。絕對實時是不現實的,因而實時大都從知識的延時(latency)角度進行刻畫。短延時顯然是我們期望的。知識圖譜的更新是個復雜問題,不同的更新策略導致不同的延時。

一般而言,知識圖譜更新包括被動更新和主動更新兩種方式。實際應用中往往是兩種策略的結合。被動更新往往采取周期性更新策略,這種策略延時長,適用于大規模知識更新。主動更新,往往從需求側、消費側、應用側出發,主動觸發相關知識更新,適用于頭部或者高頻實體及知識的更新。

領域知識圖譜如何存儲也是大家很關注的問題。由于知識圖譜本質上在表達關聯,天然地可以用圖加以建模,因而很多人想到用圖數據庫對領域知識圖譜加以存儲。圖數據庫的確是知識圖譜存儲選型的重要選擇,但是不是唯一選擇。傳統關系數據庫,近幾年充分發展的其他類型的NoSQL數據庫在很多場景下也是合理選擇。那么數據庫的選擇考慮的要素是什么呢?

有兩類重要的選型要素:圖譜的規模以及操作復雜度。從圖譜的規模角度來看,百萬、千萬的節點和關系規模(以及以下規模)的圖譜對于圖數據庫的需求并不強烈,圖數據庫的必要性在中等或者小規模知識圖譜上體現并不充分。但是如果圖譜規模在數億節點規模以上,圖數據庫就十分必要了。

從操作復雜性來看,圖譜上的操作越是復雜,圖數據庫的必要性越是明顯。圖譜上的全局計算(比如平均最短路徑的計算),圖譜上的復雜遍歷,圖譜上的復雜子圖查詢等等都涉及圖上的多步遍歷。圖上的多步遍歷操作如果是在關系數據庫上實現需要多個聯結(Join)操作。多個聯結操作的優化一直以來是關系數據庫的難題。圖數據庫系統實現時針對多步遍歷做了大量優化,能夠實現高效圖遍歷操作。

除了上述因素之外,還應該充分考慮系統的易用性、普及性與成熟度。總體而言圖數據庫還是發展中的技術,對于復雜圖數據管理系統的優化也是只有少部分專業人員才能從事的工作。在數據庫選型時需要充分考慮這些因素。我們實驗室在實現CN-DBpedia(2000萬實體、2.2億關系)在線服務系統時先后采用了Relational DB、Graph DB、MongoDB,最后出于綜合考慮選用的是MongoDB,已經穩定運行了三年,累計提供10億多次API服務。

領域知識圖譜如何查詢?通常對于表達為RDF形式的知識圖譜,可以使用SPARQL查詢語言。SPARQL語言針對RDF數據定義了大量的算子,對于推理操作有著很好支撐,因而能夠適應領域中的復雜查詢與復雜推理。

從應用角度來看,也可以將知識圖譜僅僅表達為無類型的三元組。對于這種輕量級的表示,關系數據庫與傳統NoSQL數據庫也是較好選擇。那么此時,SQL語句就是比較好的選擇。SQL十分成熟,語法簡單,用戶眾多且有著幾十年的成功應用基礎。很多領域圖譜上的查詢是相對簡單的,以單步或者兩到三步遍歷居多。

此時,SQL完全能夠勝任。但是不排除有一些特定場景,特別是公共安全、風控管理等領域,通常需要進行復雜關聯分析,需要較長路徑的遍歷,需要開展復雜子圖挖掘,此時SQL的表達能力就顯得相對較弱了。

未來的趨勢是直接利用自然語言進行知識圖譜數據訪問。但是總體而言這還只是個比較熱門的研究主題,離成熟還有一定距離。其根本困難在于自然語言的復雜性,在于自然語言自動化轉成形式語言的巨大復雜性。

但這顯然是有著巨大商業價值的問題。數據(知識)訪問方法的呆板是制約數據(知識)價值發揮的重大瓶頸。一旦突破這一瓶頸,數據與知識的使用將從傳統的被動式定制獲取變成主動式按需獲取,傳統管理信息系統以及知識管理將面臨全新機遇。

領域知識圖譜的應用落腳點無外乎搜索、推薦、問答、解釋與決策。對于這幾個應用我在《知識圖譜與認知智能》一文中有詳細論述,在此不再贅述。這里補充回答幾個問題。第一、知識圖譜支撐下的應用與沒有知識圖譜特別是與基于機器學習的方案相比有何優勢?這是很多應用單位會提出的問題。

首先,從宏觀層面來講,通過領域知識圖譜對于領域知識進行表達與沉淀,使得機器能夠具備領域數據認知能力。這種能力使得推理和解釋成為可能。推理和解釋是當前的機器學習(特別是深度學習)還難以有效解決的問題。

其次,從具體任務來看,知識圖譜能顯著提升一些具體任務的效果。知識圖譜支撐下的搜索相對于傳統搜索,能夠顯著提高召回率,也就是能夠解決“搜的到”的問題;知識圖譜支撐下的推薦相對于傳統推薦,能夠顯著提高推薦的個性化,也就是能夠解決“推得準”的問題;知識圖譜支撐下的推薦相對于其他問答方式,能夠顯著提高問答的召回率,特別是需要推理才能回答的問題。

知識圖譜支撐下的決策分析相對于傳統決策,能夠提供決策的可解釋依據,能夠為決策提供背景知識支持。解釋是知識圖譜的天然使命,因為人只能理解符號知識,人是解釋的對象。

另一個更為深刻的問題是相對于機器學習,特別是深度學習,符號化知識對于機器智能是否必要?一些機器學習專家認為,機器智能只需要數值表示就可以了,所謂知識也無外乎就是深度神經網絡中足夠抽象層次上的分布式表示,體現為相應層次上的網絡結構與參數。符號知識對于機器智能是個偽命題,知識表達與沉淀對于機器智能也就無從談起。

深度學習頂級專家Hinton也有類似觀點。一定程度上,我贊同這個觀念。但問題在于,雖然我們身處在大數據時代,但是當前的數據還不足以讓機器習得人類所具有的高度抽象知識。

我們現在的大數據大部分還只是應用場景下產生的直接數據,缺乏產生這些數據的需求與動機的背景數據,缺乏能夠解釋數據之所以如此的因果鏈條數據。比如我們都知道數據挖掘領域的啤酒尿布的例子,意思是說大部分買尿布的人也會同時買啤酒。可是我們從來都不知道為什么。事實上很可能是產婦行動不便,讓爸爸來買尿布,一個家庭有了新生兒之后,初為人父的爸爸們或多或少比較緊張興奮,因而順帶購買啤酒以緩解壓力。我們現在的數據采集還無法延伸到能夠理解統計規律背后的因果鏈條的地步。

還有很多數據背后是由常識支撐的。比如今年夏天冷飲銷售量增長,是由于天氣炎熱,而天氣炎熱,人們自然會飲用冷飲。這些知識是我們人人都知道的,但是機器無法知道。常識缺失使得機器無法重建完整的數據關聯分析鏈條。

所以,大數據時代的“數據饑荒”是機器學習無法習得人類水準的高層抽象知識的重要原因之一。那么有人也許會爭論說,既然“數據饑荒”是根本原因,那么有可能通過增強數據采集廣度與力度來消弭這一問題。我個人認為很難。誠然隨著大數據日積月累,這一問題或許會得到一定程度上的緩解。 但是常識獲取的困難仍然會對這一問題的解決帶來巨大挑戰。

因此,至少在當下一段時期內,充分利用符號知識,補齊數據驅動方法的短板應該是比較務實的思路。但是即便意識到這一點,在方法層面我們也仍然捉襟見肘。如何利用符號知識增強統計學習模型仍然是個具有挑戰性的問題。對于這一問題的具體論述可以參考《當知識圖譜“遇見”深度學習》一文。

領域知識圖譜落地有哪些最佳實踐呢?作為一個工程性學科,不斷總結其最佳實踐是非常有必要的。這里根據我們落地的幾個項目分享幾個最佳實踐。

第一、應用引領。這個問題在知識圖譜項目周期時,已經強調了。明確應用出口對于圖譜的規劃是非常重要的。第二、避難就簡。在當前階段,文本處理仍然面臨不少困難,落地困難重重。即便是一個簡單的中文分詞任務仍然需要大量的研究工作,比如“南京市長江大橋”分詞,可以是“南京市+長江大橋”,也可以是“南京市長+江大橋”。

因此,在實際落地過程中,應該綜合考慮各條技術路徑的難度,優先考慮從結構化的數據中加以轉換,其次是半結構化數據(比如帶格式標記的各類文本,如XML、百科文本等等),最后才是無結構的自然語言文本。

事實上,如果能夠綜合考慮各類技術路徑,融合各類數據源,采取一些巧妙的策略可以顯著提升非結構化文本抽取的有效性。比如利用結構化數據與非結構文本進行比對,獲取很多高質量的關系描述就是一個非常有效的策略。

第三、避免從零開始。很多行業或者企業在建設知識圖譜項目時,或多或少已經存在很多知識資源,比如領域本體、敘詞表等等,互聯網上的公開來源也存在不少相關的百科資源,通用百科圖譜已經涵蓋了某個領域大量的實體。充分利用這些資源,提高領域知識圖譜構建的起點,是知識圖譜項目成功落地的一個關鍵因素之一。

已經存在的這些知識資源很多是消耗了巨大人工成本經過多年持續積累而得到的,充分利用這些知識資源對于領域知識圖譜的構建與完善具有重要意義。知識資源建設有個很有意思的現象,那就是讓人從無到有的貢獻一條知識的代價要顯著高于讓人在一個不那么完善的知識庫上進行完善的代價。因此,盡可能復用是知識資源建設的重要策略之一。

最后一條是跨領域遷移。其思路很簡單,如果我們為中國移動做了個領域知識圖譜,那么為中國電信建設圖譜,是不需要從零開始的。相近領域的知識是可以復用的。這個原則也意味著知識圖譜落地過程中,將來會涌現出一大批面向特定行業知識圖譜解決方案的企業。

領域知識圖譜還存在哪些挑戰?總體上在知識表示、獲取和應用等各層面均存在很多挑戰。在知識表示層面,越來越多的領域應用不僅僅需要關聯事實這種簡單知識表示,還要表達包括邏輯規則、決策過程在內的復雜知識;需要同時表達靜態知識和動態知識。

單單知識圖譜已經不足以解決領域的很多實際問題。如何去增強知識圖譜的語義表達能力,如何綜合使用多種知識表示來解決實際應用中的復雜問題是非常重要的研究課題。第二,在知識獲取方面,領域知識圖譜一般樣本很小,如果需要構建抽取模型,那就需要基于小樣本構建有效的模型。

目前基于小樣本的機器學習仍然面臨巨大挑戰。解決這一問題的思路之一就是利用知識引導機器學習模型的學習過程。具體實現手段已經有不少團隊在開展相關的探索工作,比如利用知識增強樣本、利用知識構建目標函數的正則項以及利用知識構建優化目標的約束等等。

總體而言,這仍然是個開放問題需要巨大的研究投入。第三,知識的深度應用。如何將領域知識圖譜有效應用于各類應用場景,特別是推薦、搜索、問答之外的應用,包括解釋、推理、決策等方面的應用仍然面臨巨大挑戰,仍然存在很多開放性問題。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 知識圖譜
    +關注

    關注

    2

    文章

    132

    瀏覽量

    7696

原文標題:復旦肖仰華:領域知識圖譜落地實踐中的問題與對策

文章出處:【微信號:rgznai100,微信公眾號:rgznai100】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    58大新質生產力產業鏈圖譜

    大躍升 的先進生產力。 58大新質生產力產業鏈圖譜 01 元宇宙產業圖譜 02 算力產業圖譜 03 數商產業圖譜 04 人形機器人產業圖譜
    的頭像 發表于 11-09 10:16 ?254次閱讀
    58大新質生產力產業鏈<b class='flag-5'>圖譜</b>

    三星自主研發知識圖譜技術,強化Galaxy AI用戶體驗與數據安全

    據外媒11月7日報道,三星電子全球AI中心總監Kim Dae-hyun近日透露,公司正致力于自主研發知識圖譜技術,旨在進一步優化Galaxy AI的功能,提升其易用性,并加強用戶數據的隱私保護。
    的頭像 發表于 11-07 15:19 ?446次閱讀

    匯川技術聯合啟動“產教融合實踐中心”項目

    匯川技術與中國職業技術教育學會將攜手并進,緊密圍繞國家重大戰略和區域經濟發展需求,聚焦工業智能控制領域的關鍵產業鏈和崗位鏈,計劃在五年內建設100個開放型產教融合實踐中心,并逐步輻射全國,形成具有廣泛影響力的產教融合標桿,真正推動工業智能控制產業的持續健康發展提供堅實的人
    的頭像 發表于 10-14 13:55 ?333次閱讀

    萬里紅入選《嘶吼2024網絡安全產業圖譜》8個細分領域

    近日,國內信息安全領域權威媒體嘶吼正式發布了《嘶吼2024網絡安全產業圖譜》(以下簡稱“網絡安全產業圖譜”)。本次網絡安全產業圖譜通過市場調研、數據精析、文獻研究及政策參考等多方面的綜
    的頭像 發表于 07-23 14:42 ?752次閱讀
    萬里紅入選《嘶吼2024網絡安全產業<b class='flag-5'>圖譜</b>》8個細分<b class='flag-5'>領域</b>

    三星電子成功收購英國初創公司,致力開發AI核心技術

    7月18日,三星電子正式對外宣布了一項重要戰略舉措——成功收購英國新興科技企業Oxford Semantic Technologies。這家初創公司成立于2017年,專注于前沿的知識圖譜技術領域,致力于開發能夠賦能更復雜AI應用的核心技術。
    的頭像 發表于 07-18 15:40 ?505次閱讀

    三星電子將收購英國知識圖譜技術初創企業

    在人工智能技術日新月異的今天,三星電子公司再次展現了其前瞻性的戰略布局與技術創新實力。近日,三星正式宣布完成了對英國領先的人工智能(AI)與知識圖譜技術初創企業Oxford Semantic Technologies的收購,此舉標志著三星在提升設備端AI能力、深化個性化用戶體驗方面邁出了重要一步。
    的頭像 發表于 07-18 14:46 ?502次閱讀

    Autobots應用探索:實踐中的思考與發現

    背景 背景1:作為一名測試,日常工作必不可少的幾個環節是查看需求文檔、編寫測試用例、處理線上問題、能力提升等,基于集團的https://xxx.jd.com/工具能一次性幫我們把這些事情都做
    的頭像 發表于 07-16 15:00 ?245次閱讀
    Autobots應用探索:<b class='flag-5'>實踐中</b>的思考與發現

    知識圖譜與大模型之間的關系

    在人工智能的廣闊領域中,知識圖譜與大模型是兩個至關重要的概念,它們各自擁有獨特的優勢和應用場景,同時又相互補充,共同推動著人工智能技術的發展。本文將從定義、特點、應用及相互關系等方面深入探討知識圖譜與大模型之間的關系。
    的頭像 發表于 07-10 11:39 ?923次閱讀

    維智科技入選《2024國數據智能產業圖譜1.0》

    近日,數據猿與上海大數據聯盟聯合發布了《2024國數據智能產業圖譜1.0》,旨在以大數據與AI為代表的智能技術為主要視角,聚焦全產業鏈為業內提供更為專業直觀的行業指導。維智科技憑借在政務數字化
    的頭像 發表于 06-14 19:27 ?960次閱讀
    維智科技入選《2024<b class='flag-5'>中</b>國數據智能產業<b class='flag-5'>圖譜</b>1.0》

    分布式綜合管理平臺在公共安全領域的成功實踐

    的成功實踐。 訊維分布式綜合管理平臺通過集成各類公共安全相關的視頻監控、報警系統、應急通信等資源,實現了對公共安全事件的全面監控和快速響應。在多個城市的公共安全實踐中,該平臺成功助力當地公安、消防、應急管理等部
    的頭像 發表于 03-18 16:13 ?317次閱讀

    利用知識圖譜與Llama-Index技術構建大模型驅動的RAG系統(下)

    對于語言模型(LLM)幻覺,知識圖譜被證明優于向量數據庫。知識圖譜提供更準確、多樣化、有趣、邏輯和一致的信息,減少了LLM中出現幻覺的可能性。
    的頭像 發表于 02-22 14:13 ?1145次閱讀
    利用<b class='flag-5'>知識圖譜</b>與Llama-Index技術構建大模型驅動的RAG系統(下)

    靜電ESD整改實踐:從基礎到高級的應對策略?

    靜電ESD整改實踐:從基礎到高級的應對策略?|深圳比創達電子EMC
    的頭像 發表于 02-19 14:41 ?754次閱讀
    靜電ESD整改<b class='flag-5'>實踐</b>:從基礎到高級的應<b class='flag-5'>對策</b>略?

    知識圖譜基礎知識應用和學術前沿趨勢

    知識圖譜(Knowledge Graph)以結構化的形式描述客觀世界概念、實體及其關系。是融合了認知計算、知識表示與推理、信息檢索與抽取、自然語言處理、Web技術、機器學習與大數據挖掘等等方向的交叉學科。人工智能是以傳統符號派
    的頭像 發表于 01-08 10:57 ?880次閱讀
    <b class='flag-5'>知識圖譜</b>基礎<b class='flag-5'>知識</b>應用和學術前沿趨勢

    智慧燈桿產業鏈企業圖譜

    智慧燈桿產業鏈企業圖譜智慧燈桿產業鏈企業圖譜智慧燈桿產業鏈企業圖譜智慧燈桿產業鏈企業圖譜智慧燈桿產業鏈企業圖譜智慧燈桿產業鏈企業
    發表于 12-11 17:36 ?1次下載

    誠邀報名|在開發者大會,洞悉云原生技術落地最佳實踐

    共識,被越來越多的行業用戶落地并深度使用。2023開放原子開發者大會·云原生技術前沿落地實踐分論壇,將于12月16日下午正式開啟。 論壇將聚焦云原生的泛在化、Serverless化以及智能化等前沿發展趨勢,與一線技術專家及最終用
    的頭像 發表于 12-09 18:45 ?609次閱讀