人工智能不僅學習人類的語言、下棋方式和圖像識別模式，也學會了人類的歧視和偏見。人工智能“女王”李飛飛指出，AI 的決策已經開始影響人類社會，我們必須盡快對人工智能進行修正。這也將成為李飛飛離開谷歌之后的工作重點。

人工智能的“偏見”危機

今年 6 月 26 日，李飛飛走進美國眾議院科學、空間與技術委員會（the US House Committee on Science, Space, and Technology）的會議室，出席一場聽證會，主題為“人工智能——力量與責任并存（Artificial Intelligence—With Great Power Comes Great Responsibility）”。她演講的內容是人工智能帶來的危機。

李飛飛是桌邊唯一的女性。她參與構建的ImageNet數據庫能夠幫助計算機識別圖像。有了這樣的人工智能軟件，計算機可以學會做某個特定的任務，用時要比人工短得多。而且，隨著人工智能的復雜化，它可以代表人類對數據進行過濾、分類和分析，最后做出影響社會乃至全球的決策。現如今，人工智能可以判斷該對病人處以何種治療、誰能獲得人壽保險、犯人的監禁時間要判處多長、哪些求職者能進入面試等等。

當然，如果操作不當，這些力量也可能是危險的。亞馬遜的人工智能招聘軟件學會了剔除那些含有“女性”字眼的簡歷，因此強制被停用；2015 年谷歌的照片識別軟件錯把黑人當成大猩猩，這一事件成為廣為人知的事故；微軟的社交聊天機器人發出的推文帶有種族歧視，為大家所唾棄。如今我們還能找出問題出在哪，從而進行修正，但李飛飛認為，隨著人工智能技術被廣泛、快速納入應用，我們在不久的將來就會到達一個時間點，無法進行自我修正。

這個領域當中絕大多數有權威的杰出男性領導者不止一次發出警告，認為人工智能驅動的技術有朝一日會對人來產生威脅。但李飛飛認為大家還不必對這些擔憂太過重視。她所關心的問題沒有那么宏大，卻更為重要：人工智能會對人們的工作、生活方式產生怎樣的影響。這項技術肯定會改變人類的生活體驗，然而并不一定是向更好的方向。

李飛飛堅信人工智能領域需要一次“校正”，她說：“我們還有時間，但行動要趁早。”如果我們對人工智能的編程方式和背后的程序員進行根本上的改變，這項技術就可以極大地提高我們的生活質量。若非如此，我們中的大部分都跟不上變革的腳步。

李飛飛在聽證會上最后一個發言。“人工智能并不‘人工’，”她的聲音越來越洪亮，“它受到人類的啟發，由人類所創造，而且最重要的是人類會受其影響。它是一種強大的工具，我們對它的理解還處在初始階段，掌握它是我們深遠的責任。”與會者們聽得聚精會神。

“不可能”的數據庫

李飛飛在成都長大，這是中國南方的一座工業化城市。她不愛說話，頭腦聰明，還很喜歡讀書。她的家庭也有點不同尋常：當時很少有人養寵物，她爸爸卻給她買了只小狗。媽媽出身書香門第，鼓勵她閱讀《簡·愛》。

李飛飛 12 歲的時候，爸爸移民到了新澤西州的帕西帕尼（Parsippany），16 歲時她和母親也一起移民。李飛飛只用了兩年時間就掌握了英語，在學校的表現也很好，1995 年拿到了普林斯頓大學的獎學金。大學期間她興趣十分廣泛，主修物理，輔修了計算器科學與工程。2000年，她到在位于帕薩迪納（Pasadena）的加州理工學院攻讀博士學位，研究神經科學和計算機科學的交叉學科。

李飛飛能找到看似不相關的領域之間的聯系，并且加強這種聯系，正是這種能力帶給了她設計 ImageNet 的靈感。同樣研究計算機視覺的人在研究幫助計算機感知和解碼圖像的模型，但模型應用范圍有限：要識別狗得寫一套程序，要識別貓還得另寫一套。李飛飛開始懷疑問題出在數據而不是模型上。她認為，如果小孩可以通過觀察生活中數不勝數的物體和場景，體驗視覺世界，獲得“看見”的能力，那么計算機或許也能通過分析各種圖像及其聯系，以類似的方式學習。這是李飛飛一個重要的發現。她認為：“這種方式可以組織整個世界的視覺概念。”

李飛飛 2007 年回到普林斯頓擔任助理教授，這期間她提出了構建 ImageNet 的想法，但很難找到愿意幫忙的教師。她無法說服同事們，讓他們相信用一個數據庫來完成對每張圖片、每種物體進行標記的龐大任務是可以完成的。尤其是李飛飛還決定，為了能將想法付諸實踐，這些標記不能是概括性的描述（如“哺乳動物”），而必須具有高度特異性（如“星鼻鼴鼠”）。最后，一位研究計算機架構的教授終于同意與她合作。

李飛飛面臨的下一個挑戰就是把這個龐然大物構建出來，這就意味著得找許多人花大量的時間來給圖片做標記。李飛飛曾經嘗試以 10 美元一小時的報酬找普林斯頓的學生幫忙，但進展依舊十分緩慢。后來有學生向她推薦了亞馬遜土耳其機器人（Mechanical Turk，亞馬遜的一家網絡集市，允許企業在這一平臺上雇傭員工，執行簡單的工作，比如在照片中識別某人的身份等）。這下她就能用很低的成本來吸引到很多工人了。

ImageNet 的誕生

2009 年，李飛飛的團隊已經獲得了 320 萬張標記好了的圖片，他們認為這么大的數量涉及內容很全面，已經足夠使用了，于是他們用圖片和編好的數據庫一起發表了一篇論文（后來圖片數量增長到 1500 萬）。隨后她的團隊又提出了新想法：他們聯系上了來年歐洲計算機視覺競賽的組織者，希望能允許參賽選手使用 ImageNet 數據庫訓練他們的算法。ImageNet 大規模視覺識別挑戰賽（the ImageNet Large Scale Visual Recognition Challenge）就此誕生。同年，李飛飛加入斯坦福大學擔任助理教授，與機器人學家西爾維奧·薩瓦里斯（Silvio Savarese）結婚。

2012 年，多倫多大學研究員杰弗里·辛頓（Geoffrey Hinton）參加了 ImageNet 比賽，利用該數據庫訓練了一種叫做深度神經網絡（deep neural network）的人工智能，比之前所有的成果都準確得多，他因此獲得了比賽的冠軍。李飛飛本來沒打算去看辛頓的比賽：她正在休產假，而頒獎典禮在意大利佛羅倫薩舉行。但她意識到這是歷史性的一刻，所以在最后時刻買了機票，在飛機的中間座位上擠了一夜。

辛頓獲獎后不久，李飛飛開始反思自己的團隊中幾乎沒有女性。那時她敏銳地感覺到，這種差異會越來越成問題。絕大多數寫人工智能算法的科學家都是男性，而且往往是具有相似背景的男性。他們大多看著《終結者》和《銀翼殺手》長大，完成的項目、甚至設想的危險中無不反映著一種特殊的世界觀。李飛飛認為擔心這些沒什么不妥，但這些擔憂與人工智能可能存在威脅的狹隘觀點相悖。

正如李飛飛所說，深度學習系統的“輸入和輸出都有偏見”。她發現雖然人工智能背后的算法有可能是公正的，輸入的數據和結果的應用卻并非如此。人工智能的構建者和構建的原因很重要。在國會山的會議上，李飛飛指出，如果沒有多元化的工程師團隊，我們就可能會用看似公正的算法通過不公正的貸款申請，或者只用白人面孔的數據訓練神經網絡，得到可能對黑人并不適用的模型。她說：“我認為我們若是 20 年后醒來，看到我們的技術、領導者和從業者都缺乏多樣性，那將是世界末日的情形。”

李飛飛越來越覺得利用人工智能的發展改善人類的生活體驗十分重要。她在斯坦福有個項目就是和醫學院合作，將人工智能帶進重癥監護室，減少醫院獲得性感染。項目包括開發一種可以監控洗手臺的攝像系統，在醫護人員忘記正確洗手時加以提醒。類似這樣的跨學科的合作很少見。斯坦福大學臨床卓越研究中心的醫學教授阿諾德·米爾斯坦（Arnold Milstein）說：“沒有其他計算機科學系的老師找過我合作。”

這項工作讓李飛飛對人工智能的改進方向有了靈感：它可以作為人類技能的補充品，而非替代品。如果工程師能和其它學科（甚至非學術界）的人多溝通，就能創造一些延伸人力的工具，比如自動完成某些耗費時間的任務，讓重癥監護室的護士有更多時間陪伴病人，而不是創建自助購物程序搶收銀員的飯碗。

辛頓用 ImageNet 支持的神經網絡做出了翻天覆地的改變。到 2017 年，也就是上一次 ImageNet 大規模視覺識別挑戰賽為止，計算機識別圖像中物體的錯誤率已經從 2012 年的 15% 下降到不足 3%。至少從這個方面來看，計算機的識別能力比人類更好。考慮到人工智能正在飛速發展，李飛飛認為她需要盡快給團隊來一次換血。

根據美國國家科學基金會（National Science Foundation）的統計，在 2000 年獲得計算機科學學士學位的學生中，僅有 28% 是女性。2015 年這一比例為 18％。

在自己的實驗室里，李飛飛也在努力招募有色人種和女性。當奧爾加·魯薩科夫斯基（Olga Russakovsky）成為李飛飛的學生時，她正打算退出這個領域。那時魯薩科夫斯基已經是一位熟練的計算機科學家，擁有斯坦福大學的數學學士和計算機科學碩士學位，但博士論文進展很緩慢。作為實驗室中唯一的女性，她感覺和同事們有點格格不入。李飛飛來到斯坦福之后改變了一切。在她的幫助下，魯薩科夫斯基學到了一些成功研究的技巧，“也幫我找回了自信，”魯薩科夫斯基說，她現在成了普林斯頓大學計算機科學的助理教授。

四年前魯薩科夫斯基做博士論文時，她向李飛飛求助，希望能幫她組建一個吸引女孩了解人工智能的夏令營。李飛飛馬上同意，她們把志愿者集合起來，發布了廣告，招募高二學生參加。活動只有 24 個名額，然而一個月之內她們就收到了 200 份申請。兩年后她們擴展了這一項目，成立了非營利性組織AI4All，將學科所缺少的年輕人——包括女孩、有色人種和貧困地區的孩子帶進斯坦福大學和加州大學伯克利分校的校園。

如今 AI4All 正在逐漸壯大，目前已經能在六所學校舉辦夏令營。（去年新成立的卡內基梅隆大學夏令營共接到 20 個名額的 900 份申請。）一名 AI4All 的學生在研究如何利用計算機視覺檢測眼部疾病。另一名學生用人工智能編寫了一個對 911 呼叫緊急程度進行排序的程序：她的奶奶因為救護車沒有及時趕到而不幸去世。這似乎說明，個人觀念確實會影響到人工智能的未來。

在斯坦福大學管理了三年人工智能實驗室后，李飛飛在 2016 年學術休假，2017 年 6 月成為谷歌企業計算業務谷歌云（Google Cloud）的人工智能首席科學家。

李飛飛希望對整個行業的運作情況有所了解，看看客戶急于開發新工具的需求并是否會改變自己跨學科研究的范圍。臉書、谷歌、微軟等公司向人工智能投入了大筆資金，希望能在自己的業務中用上這項技術。公司的數據通常比大學更多、更好。對研究人工智能的人來說，數據就是燃料。

最初的經歷多姿多彩：她見識了那些對自己所研究的科學有實際需求的公司；帶領小組推出了面向公眾的人工智能工具，使大家無需編寫代碼就能創建機器學習算法；在中國開設了新實驗室，改進人工智能以便用于醫療保健；還在達沃斯世界經濟論壇（World Economic Forum in Davos）上發表了講話，與國家元首和流行歌手近距離接觸。

但私營公司的工作也帶來了新的令人不安的壓力。去年春天，谷歌與美國國防部簽訂了Maven 項目，受到大眾抨擊，李飛飛也被卷入此事。該項目用人工智能分辨可讓無人機瞄準攻擊的視頻圖像，谷歌給出的說法是“使用人工智能進行低分辨率物體識別”，“最終目的是拯救生命”。但許多員工反對將他們的工作用在軍用無人機上。約 4000 名員工集體簽署了請愿書，要求“出臺明確政策，確保谷歌及其承包商永遠不會建立戰爭技術”。幾名工人辭職以示抗議。

雖然李飛飛并沒有直接參與其中，但她所在的部門負責管理 Maven 項目，她也因此成為公眾非議的中心。這與她在公眾面前布道者的形象大相徑庭，讓人感到迷惑。事實上，在事件發酵之前她認為這項技術“完全無害”；她沒想到會迎來員工的抗議。

但李飛飛也確實找到了問題爆發的原因所在：“事情本來不是這樣。這是由于當下對我們的責任、人工智能的力量，以及硅谷需要參與的對話有一種集體緊迫感。Maven 項目恰恰是這樣一個匯聚點。”“不作惡”不再是一個足夠強硬的立場。

這場爭議以谷歌宣布不會續簽 Maven 合同告終。包括李飛飛在內的谷歌科學家和管理人員編寫了（公共）指導方針，承諾谷歌將把人工智能研究的重點放在為社會謀福利的技術上，避免在工具中引入偏見，避免最終可能會對人類造成傷害的及技術。

李飛飛一直準備回到斯坦福大學，但她認為通過這些指導方針至關重要。她說，指導方針正式推出的那天是她一年中最快樂的一天之一。

人工智能的倫理

七月下旬，李飛飛打電話問我：“你知道香農·瓦羅（Shannon Vallor）的事了嗎？”。

瓦羅是圣克拉拉大學（Santa Clara University）的一名哲學家，專門研究新興科技的哲學倫理問題，她剛剛簽約成為谷歌云的咨詢倫理學家。李飛飛之前一直在為此事努力，在華盛頓作證時還引用了瓦羅的話：“沒有獨立的機器價值觀。機器價值觀其實是人的價值觀。”這一任命并非沒有先例。其他公司也已經針對人工智能的用途和使用者設置了限制。2016 年微軟成立了內部道德委員會。該公司表示，由于董事會提出的道德問題，他們拒絕了某些潛在客戶的業務。委員會還限制了人工智能技術的使用范圍，例如禁止在某些應用中使用面部識別。

但是代表公司內部討論倫理問題，就好比是狐貍在看管雞舍。我們七月份打電話的時候，李飛飛就知道她要離開谷歌了，兩年的學術休假即將結束。很多流言猜測她會在 Maven 項目事件后辭職，但她說自己回到斯坦福是因為不想放棄學術地位。電話那頭的李飛飛聽起來有些疲憊。在谷歌過了一個動蕩的夏天之后，她參與編寫的道德準則據自己說是“隧道盡頭的光明”。

她很希望能在斯坦福開始新項目。2018 年秋天，她和前斯坦福大學院長約翰·埃切門迪（John Etchemendy）宣布建立一個學術中心，進行人工智能和人文學科、硬科學、設計研究等的跨學科研究。她說：“作為一門新興科學，人工智能還未在全部學科領域中吸納人文和社會科學家。”長久以來人們認為這些學科和人工智能領域毫不沾邊， 但李飛飛堅信這些會成為人工智能未來發展的關鍵。

李飛飛基本還是樂觀的。在六月的聽證會上，她對議員們說：“我深入思考過那些目前對人類有危險的、有害的工作，從滅火到搜救，再到災后重建。” 她認為我們不應該只是盡可能避免把人類置于危險的境地，還應該考慮如何用技術幫助人類完成危險的工作。

當然，某個機構的一個程序，無論多好都很難改變整個領域。但李飛飛堅信她必須要盡己所能訓練不同背景的研究人員像倫理學家一樣思考，堅守原則而不是一味追求利潤。

在電話中我問李飛飛，是否可以用其它方式來發展人工智能，避開目前我們遇到的這些問題。她回答：“我覺得這很難說，科學進步和創新來自于繁瑣的工作、大量試驗和頻繁試錯。我們認識到這種偏見也花了一段時間。我用了六年才真正清醒，意識到‘天哪，我們正一步步走向危機。’”

在國會山的時候，李飛飛說道：“作為一名科學家，我對人工智能科學的新生程度感到謙卑。它是一門只發展了 60 年的科學。與那些給人類帶來美好生活的物理學、化學、生物學等經典科學相比，人工智能要發揮潛力、充分造福人類，還有很長的路要走。通過適當的指引，人工智能將使生活更美好。但如果缺乏指引，這項技術將進一步擴大財富鴻溝，增加科技的排外性，我們幾代人努力消除的偏見也會因此被加強。”

李飛飛讓我們相信，現在正是一項技術顯示其影響的關鍵時刻。