歐盟委員會（European Commission）4月21日發表了一份提案，要求對歐盟人工智能的使用進行監管，這是其作為全球監管機構正在發揮的作用的一部分。

事情不會在一夜之間改變。歐盟的人工智能規則提案是官員、行業專家和公眾協商三年工作的結果，必須通過歐洲議會的要求才能成為法律。然后，歐盟成員國往往需要數年時間才能將歐盟層面的法規轉變為國家法律法規。

該提案為人工智能相關活動定義了四個層次，并為每個層次定義了不同的監督級別。第一層是不可接受的風險：一些人工智能的使用將在公共場所被徹底禁止，國家法律允許的特定例外情況除外，并受到額外的監督和更嚴格的記錄和人為監督。最受關注的人工智能活動可能是實時遠程生物識別，即面部識別。該提案還禁止潛意識行為修改和社會評分應用。該提案建議對商業違規者處以相當于其全部年收入6%的罰款。這是迄今為止監管人工智能高風險應用的最大努力之一。

該提案下一步定義了一個高風險類別，由系統的目的以及潛在的危害和可能性決定。提案中列舉的例子包括招聘、信用檢查和司法系統。這些規則將要求此類人工智能應用程序使用高質量的數據集，記錄其可追溯性，與用戶共享信息，并考慮到人為的監督。歐盟將根據擬議的規則建立一個此類系統的中央登記冊，并在部署前要求獲得批準。

風險有限的場景包括聊天機器人等，歐盟建議應讓用戶知曉自己在與機器互動，并有權決定繼續對話還是退出。最后還有一層應用程序被判斷為風險最小，其應用場景包括基于人工智能的電子游戲和垃圾郵件識別軟件等。

當政府提出新規則手冊（這本是108頁）時經常發生的情況是，行業和民間社會團體的最初反應似乎更多地是關于行業監督的存在和范圍，而不是規則的具體內容。英國牛津大學和德國柏林Weizenbaum研究所的人工智能治理研究員Lisa Maria Neudert說：“我認為這項監管措施背后的一個想法是試圖平衡風險，讓人們對人工智能感到興奮，重新獲得信任。”英國勞埃德注冊基金會（Lloyds Register Foundation）2019年的一項民意調查發現，全球公眾對人工智能的恐懼和興奮大致相當。

“我可以想象，如果你有一個經驗豐富的大型法律團隊，這可能會有所幫助，”Neudert說，以幫助合規，這可能是“一個很難達成的平衡”之間的規則，保持創業友好和成功地控制大公司。

人工智能研究人員Mona Sloane和Andrea Renda在《VentureBeat》一書中寫道，這些規則在人工智能獲得批準和發布后，對其運行情況的監控較弱，忽視了“人工智能相關風險的一個關鍵特征：它是普遍存在的，而且是突發的，通常在開發和部署后以不可預測的方式演變”。

2018年歐盟出臺的新隱私法《一般數據保護條例（General Data Protection Regulation，GDPR）》為廣泛適用的數據監管規則提供了模板，并以高額罰款作為支撐，歐洲已經從中吸取了教訓。

Neudert說：“我認為我們不應該（從GDPR到擬議的人工智能規則）一概而論，但可以公平地假設，這么大一部分立法將在歐盟以外產生影響?！睂τ谄渌胤降牧⒎ㄕ邅碚f，仿效一個模板要比復制歐盟在研究、社區參與和規則制定方面的大量投資容易得多。

雖然科技公司及其行業團體可能會抱怨需要遵守早期的人工智能規則，《注冊》專欄作家Rupert Goodwin建議，他們最好集中精力組建一些行業組織，這些組織將決定未來規則的履行和實施：“你可能已經在一個行業組織中從事人工智能道德或評估；如果不是，那就把它們看作是影響成長的種子。”

除了法律框架外，歐委會當天還公布了針對機器人、3D打印機等的人工智能機器條例，以及人工智能協調計劃，旨在加強對人工智能研發的鼓勵和扶持。這套政策建議尚需經過歐洲議會和歐盟理事會批準。

原文標題：歐盟提出AI監管新法案

文章出處：【微信公眾號：IEEE電氣電子工程師】歡迎添加關注！文章轉載請注明出處。

責任編輯：haq