作者：馮一帆

隨著社會經濟的發展，人工智能已廣泛應用于當今人們的工作與生活之中。然而，人工智能在提供便利的同時，也會產生諸如算法黑箱和信息繭房等風險，因此，對其進行監管十分重要。本文通過梳理歐盟、美國和英國人工智能監管制度，來探究域外人工智能監管問題。

截至目前，在人工智能監管方面，歐盟、美國、英國并未出臺專門的法律法規，但已出現與人工智能相關的監管指導性文件，其中公眾關注的有歐盟委員會通過的《人工智能法案》（草案）、美國的《人工智能權利法案藍圖》與《人工智能風險管理框架1.0》、英國發布的指導性文件《人工智能監管政策》與人工智能新監管框架的提案《促進創新的人工智能監管方法》。通過上述政策文件可以發現，目前歐盟、美國、英國在人工智能監管的機構設置、主要特點及具體內容等方面均存在一定的差異。

監管的機構設置

歐盟人工智能監管的機構設置。歐盟意識到使用人工智能技術可能帶來的潛在風險，因此，歐盟委員會于2021年發布的《人工智能條例》預設了一個專門的國家監督機構來確保法律的適用和實施。該條例規定：“對于歐盟機構和組織開發的人工智能系統，由歐洲數據保護監督員主管負責。”即歐盟委員會提議在每個成員國設立中央監管機構（歐洲人工智能委員會）和國家監管機構來對人工智能進行監管。

美國人工智能監管的機構設置。一般來說，獨立的監管機構作為政府權力的延伸與補充，其創建的目的通常是對不公平舉措進行預防。目前，美國并未統一設置人工智能監管機構，各政府部門通過發布對現有規則的解釋與指引或發布新規則來對人工智能進行監管，監管主體有聯邦政府及其相關部門或機構、州政府及其相關部門或機構。

英國人工智能監管的機構設置。去中心化的英國制度不會創建新的監管機構，相反，其將依靠現有的監管機構來執行，如金融行為監管局、信息專員辦公室、競爭與市場管理局、平等與人權委員會以及藥品和保健產品監管機構，其中，信息專員辦公室是英國擬建立的人工智能監管機構。

監管的主要特點

歐盟自2016年起就不斷探索對人工智能技術應用的監管體系構建，其以歐洲整體層面為視角，致力于構建協調一致、適合歐洲發展的人工智能治理體系。歐盟監管的政策重點是，以基本人權為底層邏輯，側重于保障個人權利。其治理模式是基于比例原則的風險分層治理。監管機制是采取分級監管、多種監管，并實行高額的行政處罰，且將公私機構一起納入監管范圍。歐盟在人工智能領域的執法案例主要涉及反壟斷法和數據保護法，典型案例是谷歌案，2017年，谷歌因存在濫用市場支配地位行為而被歐盟委員會處以24.2億歐元的罰款。

美國側重于對人工智能在具體應用場景下的監管，但是尚未出臺統一綜合的人工智能立法。聯邦政府在為市場提供監管參考時通常采用白皮書、指南等形式；地方政府在提供監管參考時則多以立法形式。監管政策的重點是，以促進產業發展為主，在治理時側重于維護公平和保護隱私。其治理模式是風險評估與風險管理框架。監管機制不是單一的依賴于行政監管，而是強調政府部門與私營部門的協作。并且，為了推動人工智能技術的發展，主張企業進行自我監管。

在執法方面，主要集中在美國聯邦貿易委員會與美國版權局。兩個機構以維護市場公平競爭和保障人工智能技術合理使用為執法目的，典型案例是Everalbum人臉識別案和《黎明的曙光》版權案。

英國人工智能監管政策的重點是，以促進科技發展為主，治理方面側重于支持創新的監管體系。監管機制是統籌協調各部門進行人工智能監管工作，強調監管方式的靈活性，并保持手段和目標之間適當的比例性。在執法方面，英國以保護用戶隱私數據安全為前提，并主要依賴于《英國通用數據保護條例》。然而，英國信息專員辦公室執法活躍度并不高，截至目前，僅有極少數的罰款案件。如2021年的美國人臉識別公司Clearview AI案，因Clearview AI未經個人同意自行收集和處理個人生物識別數據，英國信息專員辦公室以其侵犯英國隱私法律法規為由，對美國人臉識別公司Clearview AI處以750萬英鎊的罰款，命令Clearview AI停止收集和使用在互聯網上公開的英國居民個人數據，并從系統中刪除英國居民的相關數據信息。

監管的具體內容

歐盟在2023年6月通過了《人工智能法案》的談判授權草案（以下簡稱《法案》），《法案》的監管思路是以橫向監管為基礎，以風險規制為主要方式，同時兼顧監管與發展的動態平衡。

《法案》具有以下特征：

其一，根據風險程度的等級對人工智能進行分類，其中評估風險是關鍵環節，分為不可接受的風險、高風險、有限風險與最小風險四類，并根據風險程度的不同來匹配不同的監管措施。

其二，《法案》提出風險管理覆蓋規制的全過程。歐盟為規避風險，結合人工智能的特征提出了全生命周期的規制方案，該方案將覆蓋人工智能產品入市前與入市后，實現事前、事中、事后的全面規制。在事前階段，將人工智能的預期風險劃分為四個等級，依據應用場景和風險等級的不同，制定與之相對應的監管舉措；在事中階段，強調人工智能監管沙盒的作用機制；在事后階段，規定系統供應商應針對高風險進行全程售后監測，并及時將故障數據上報給國家監管部門。

其三，根據風險類型和風險程度不同，對規制措施進行動態調整。上市前需對人工智能系統進行合格評估，主要評估即將上市的系統是否屬于《法案》第二章規定的各項禁止性做法。若高風險人工智能系統在上市后發生實質性修改，則應啟動新的評估程序。上市后需針對人工智能系統制定監測計劃，并對高風險系統的監測系統進行重點監測。因該監測系統主要收集、分析基于使用人工智能系統而產生的數據，所以該系統需具備日志記錄功能，以保證相關數據的可追溯性。

美國于2022年10月提出了《人工智能權利法案藍圖》（以下簡稱《藍圖》），《藍圖》并未明確實施細則，而是以公平與隱私為重點，要求相關主體在人工智能系統開發過程中以堅守公平正義為底線，保證系統使用者不受算法歧視和數據隱私泄露的侵害。《藍圖》通過設立五項基本原則來預防濫用人工智能技術帶來的風險，即規避算法歧視；加強隱私數據保護；及時履行通知與解釋義務；準備替補方案與退出機制；構建安全高效系統。2023年1月，美國國家標準與技術研究院發布《人工智能風險管理框架1.0》（以下簡稱《框架1.0》）。該文件之所以備受關注，一方面是因為其致力于識別與人工智能系統部署相關的各類風險，從性質上來看是非強制性的指導性文件，可由相關機構自愿選擇使用，其比約束性法律更容易在應用中實現更新迭代；另一方面是因為它是由多方利益主體共同參與并制定的，具有高可信度和高接受度。

在具體內容上，《框架1.0》由一個摘要、兩部分正文和四個附錄所組成，第一部分是基礎信息，包含對人工智能風險的界定、框架的管理目標和受眾主體等。第二部分是框架核心及具體配置，指出框架核心由四個頂層模塊所組成，即治理、映射、測量和管理，而每個功能項下還分別下設兩級展開目錄。《框架1.0》采用多元化的治理方案，旨在幫助相關主體部署人工智能系統，減少對人工智能技術的偏見，增強其可信度并保護個人數據隱私。從而有效規避人工智能系統帶來的風險，幫助諸多行業及組織將人工智能風險管理原則轉化為實踐，以提高相關主體使用人工智能系統的安全性與可靠性。

英國在人工智能監管路徑設計方面主張平衡創新與發展。英國政府于2022年7月頒布的《人工智能監管政策》（以下簡稱《政策》），以創建新型人工智能監管機制為目標。新型人工智能監管機制將基于人工智能的自適應性、自主性等特征來協調各部門實施相應的監管工作。在監管方面，《政策》提出了四項原則：其一，堅持具體情形具體監管原則。即根據不同的情形設置不同的監管方案，并明確各監管機構所承擔的監管責任，從而保障監管方案的針對性和有效性。其二，遵循協調原則。即鼓勵監管部門間建立溝通協調機制，從而實現跨部門的個性化監管。其三，鼓勵創新原則。即支持創新監管，要求監管機構著力解決有明確證據證明風險存在的問題。其四，比例性原則。即在確保監管方法與被監管行為特點相一致的同時，還應確保目標與方法之間的比例性。

2023年3月，英國發布政策報告《促進創新的人工智能監管方法》（以下簡稱《方法》），《方法》的制定以提供具有創新性、可信賴性的人工智能監管框架為目的。《方法》指出，監管框架將以以下基本原則為基礎，即安全性、可靠性和穩健性、透明度和可解釋性、公平性、問責制和治理以及可爭議性和補救措施。

基于監管原則，英國政府計劃采取以下方法來構建一個靈活的監管框架：其一，基于人工智能應用場景來評估風險，靈活調整監管；其二，應重點關注人工智能應用導致的真實、可識別和不可接受的風險；其三，制定針對人工智能特征的跨部門原則，以保障監管框架的一致性；其四，通過不斷審查監管方法來保持監管方法的適應性。

編輯：黃飛

?