蒙克全球事務學院：人工智能與社會面臨的選擇、風險和機遇

自兩會開始以來，李彥宏、楊元慶、鄧中翰等企業家、科學家代表提交了不少與人工智能相關的提案，人工智能成為政府、各產業、學界等人士的關注重點。此前，加拿大-英國學術討論會（CUKC）于多倫多大學蒙克全球事務與公共政策學院舉行，并發布報告《人工智能與社會面臨的選擇、風險和機遇》，探討的關鍵議題包括深度學習的開發和應用，大數據和隱私的影響以及AI在網絡防御、安全等領域的應用，并特別關注了AI對勞動力市場和社會不平等的影響，以及AI的倫理問題。

一、加拿大和英國的AI生態體系

加拿大政府專注于四大目標：在基礎技術方面持續投入；建立戰略性創新基金以吸引商業投資；通過建立AI道德規范和市場框架，培養公眾的興趣和信心；依托G7和G20開展國際合作。2017年，加拿大政府宣布將由加拿大高級研究院（CIFAR）實施一項價值125億美元的泛加拿大人工智能戰略。

加拿大2018年AI生態系統

英國人工智能生態系統有六大實力基礎，包括具有領先水平的研究基礎；成熟的人才渠道對人才的培養和供給；大量的風險資本投資支持AI創業公司；公共機構致力于人工智能創新；當地用戶采納新技術的興趣和意愿；針對新興技術的監管方法。

二、向善的人工智能——倫理、政策和治理

加拿大政府正在調查人工智能等新興技術對外交政策和全球態勢的影響。人工智能和自動化或可反映并加劇社會分裂、人權問題等社會問題。

數據所有權和隱私問題也不容忽視。數據作為一種經濟商品，其重要性日益增加，更易成為國內外攻擊者目標。鑒于私營部門在該領域的影響力，政府需要與大型科技公司合作。

從地緣政治的角度來看，人工智能正在重塑全球權力結構。各國競相主導人工智能的研究、商業化、以及規范標準的制定。

就業前景的劇烈變化是進一步采用人工智能和自動化的預期結果。

政策制定者可以從互聯網的發展中汲取教訓。到2018年底，全球僅一半人口可以上網。由于人工智能和互聯網高度集成，因此全球對人工智能的訪問也存在不均衡。

互聯網用戶數據的增長

多樣性欠缺，這可能將社會偏見轉化為算法偏見。特別值得注意的是計算機科學和人工智能中的女性比例極低。

三、人工智能的法律含義——法規、隱私和道德問題

在透明度方面，要求相關方提供關于自動決策內在邏輯且具有意義的信息。但鑒于不透明度問題，可能難以遵守這一要求：人工智能算法具有內在“黑匣子”性質；公眾對算法的不理解；企業有意識地保護商業秘密和知識產權。

在公平方面，歧視關乎差異化，但并不總是消極的。在培訓數據集中，很有可能存在中立歧視和法律歧視。但是，編輯數據、刪除人員的受保護特征可能會破壞數據集的潛在好處。數據最小化可能與機器學習算法的目標和方法相沖突。

人們認為機器人是危險的，而人類是客觀、公平、不偏不倚的。法規通常旨在保護人類免受機器傷害。但事實上，人類不僅表現出偏見，而且這種偏見常常是無意識的。機器學習技術可以識別我們無意識的偏見，并為我們提供改進決策方式的機會。

如何平衡基于原則的方法和基于規則的方法。在事后回顧情況下，基于原則的方法可以很好地識別個體行為者，并提前評估和管理風險。但這在復雜的網絡化生態系統（例如自動駕駛車輛）中可能并不可行，許多參與者可以預先自動實施詳細規則。

人們對法律程序中使用電子證據存在擔憂。當軟件可能包含錯誤，當任何單一結果都依賴于廣泛分布的設備上的軟件代碼，或者無人能夠在法庭上對AI決策進行解釋，問題變得更加嚴峻。因此，如果無法在法定程序中測試計算機的可靠性，那么就應當反對其具有可靠性的預先假設。

四、大數據與隱私保護

在認識到大數據和機器學習帶來風險的同時，也不應忽視其為日常生活帶來的好處。開源數據研究所（Open Data Institute）與企業和政府合作，建立了一個開放、可信的數據生態系統。社會必須投入高質量、標準化的數據，使其對創新和決策而言是可靠、有用的。

公開購買和同意原則至關重要。應當使用清晰、通俗的語言討論數據所有權和數據訪問。開源數據研究所提出一個簡單的分類系統，如圖所示，數據在圖中所處的頻譜位置決定其獲得何種許可。

數據頻譜

五、人工智能與勞動力——自動化、就業和效率

英國政府試圖對人工智能應用進行管理，促進一個人工智能驅動的未來。例如，在能源、醫療、食品、農業領域的人工智能能夠驅動25%的生產率。人工智能應用領先的國家可能成為21世紀的經濟主導者。因此，英國需要考慮采取相關措施，包括：建立人工智能辦公室、建立數據倫理與創新中心、建立人工智能委員會。這些機構將給政府提供專業人士，發現機遇和挑戰，并且提出政策和監管建議。