深度偽造（Deepfake）是一種合成媒體形式，它使用人工智能來創建看似真實的視頻或圖像。目前，深度偽造技術已被用于影視制作等各種場景，但同時引發了人們對其可能被濫用于惡意目的的擔憂，如傳播錯誤信息和操縱輿論。2022年以來，隨著ChatGPT、文心一言等生成式人工智能模型的不斷進步和趨于成熟，人工智能技術引發強烈關注。目前，人工智能生成的虛假音視頻已經能夠達到以假亂真的地步，成功實施的欺騙案例日漸增多。面對這一情形，各國已從立法、技術手段加以應對。但是，深度偽造與反深度偽造仍將是“貓追老鼠”的長期博弈，人工智能技術持續進步產生的深度偽造風險將與日俱增，需要持續關注與應對。

一、生成式人工智能模型展現出驚人能力，或擴大深度偽造的風險

深度偽造這一概念最早出現在2016年，一開始專指基于深度學習的人像合成技術，現在這一概念已經擴展到視頻偽造、聲音偽造、文本偽造和微表情合成等多模態合成技術。

當下，以Midjourney、DALL-E、Stable Diffusion等為代表的專業生成式人工智能模型，能夠通過用戶輸入的圖像和文字生成以假亂真的圖像。生成式人工智能的進步對深度偽造技術領域具有重大影響，因為它可能有能力生成與現實難以區分的高度可信的假視頻、圖像和音頻。這可能會使識別和防止深度偽造內容傳播變得更加困難。

隨著人工智能模型創作虛假視頻的逼真程度不斷提高，深度偽造技術日益被視為“巨大的社會威脅”。例如，一個名為ModelScope的新型創意人工智能系統現在已經可以根據文本提示制作短視頻。有網絡用戶使用ModelScope創作了馬克龍在巴黎街頭拾荒的虛假視頻片段。2023年4月，在拜登宣布有意再次競選美國總統后，共和黨全國委員會用基于人工智能生成的廣告對拜登進行了攻擊，使用人工智能生成了一系列虛假圖像，虛構了拜登連任后美國經濟崩潰、非法移民猖獗和犯罪浪潮迭起等情形。5月，一張五角大樓爆炸的人工智能偽造圖片在網絡上廣泛傳播。可見，政治相關的偽造圖片容易產生較高的熱度，未來可能進一步成為人工智能造假的“重災區”。

二、日益嚴重的深度偽造安全問題引發廣泛重視

（一）深度偽造安全問題引發重視，政策先行

深度偽造可能被用制作虛假信息，對社會安全構成了多方面的威脅，因此引發了各經濟體重視。中國、美國和歐盟等經濟體已推出相關政策措施來應對深度偽造風險。

中國方面，2021年起，國家網信辦、國家發改委、教育部、科技部、工信部、公安部、市場監管總局、廣電總局等有關主管部門已出臺《互聯網信息服務算法推薦管理規定》《互聯網信息服務深度合成管理規定》和《生成式人工智能服務管理暫行辦法》等法律法規，對計算機合成內容進行管控?！痘ヂ摼W信息服務算法推薦管理規定》要求對算法生成合成的信息做顯著標識，并要求提供互聯網新聞信息服務的算法推薦服務提供者和使用者，不得生成合成虛假新聞信息?！痘ヂ摼W信息服務深度合成管理規定》則更加細致地規定了包括智能對話、智能寫作、人臉生成、人臉操控、姿態操控等具有生成或顯著改變信息內容功能的深度合成服務應當遵守的要求，包括以顯著標識的形式向公眾提示。7月最新發布的《生成式人工智能服務管理暫行辦法》進一步對生成式人工智能的開發與使用等進行規范，旨在促進生成式人工智能健康發展和規范應用。

美國方面，美國眾議員亞當·希夫（Adam Schiff）等人在2018年致時任國家情報總監丹·科茨（Dan Coats）的信中，首次對深度偽造技術于美國公共輿論和國家安全造成的威脅提出警告。據央視報道，僅在2022年，美國就發生了240萬起人工智能相關詐騙案。近年來，隨著人工智能生成虛假信息的進一步蔓延傳播并廣泛用于實施欺騙行為，美國加強立法監管。2023年5月，在共和黨全國委員會發布了生成式人工智能制作的政治廣告后，美國眾議員伊維特·克拉克（Yvette Clarke）提出了《真實的政治廣告法案》（The REAL Political Ads Act），對競選廣告提出人工智能生成內容披露要求。6月，美國眾議員里奇·托雷斯(Ritchie Torres)提出《人工智能披露法案》（The AI Disclosure Act），提議在任何人工智能生成的內容中添加披露聲明。

歐盟方面，歐盟于2022年6月更新《反虛假信息行為準則》（Code of Practice on Disinformation），要求社交媒體公司從其平臺上刪除深度偽造和其他虛假信息，否則將處以高達公司全球營收6%的罰款。歐盟《數字服務法》(The Digital Services Act，DSA)也要求平臺展示舉報和刪除非法內容的機制。

（二）識別深度偽造的技術手段正不斷進步

隨著深度偽造內容變得越來越復雜，研究人員正開發更好的方法，以便準確發現它們。例如，利用棋盤偽影、共現矩陣等方法，可檢測生成對抗網絡（GAN）生成的虛假視頻；利用面部特征檢測等方法，可檢測以換臉方式偽造的視頻；利用信息的多模態特征，可檢測由多種信息組合而成的假新聞等。美國國防部資助了大量檢測虛假信息的研究。例如，美國國防部高級研究計劃局（DARPA）于2020年7月發起“對欺騙的逆向工程”（Reverse Engineering of Deceptions，RED）項目，旨在運用人工智能技術，對深度偽造視頻、照片、音頻、文字及其制造這些內容的工具鏈進行逆向工程分析。在檢測包含人物的深度偽造畫面方面，研究機構主要通過面部特征來識別深度偽造。美國紐約州立大學奧爾巴尼和布法羅分校聯合研究團隊通過瞳孔形狀識別深度偽造；美國紐約州立大學布法羅分校通過眼球反射的光線識別深度偽造；美國紐約州立大學賓漢頓分校和英特爾公司提出使用血氧儀原理識別深度偽造。對于人工智能生成的文字，美國堪薩斯大學研究人員介紹了一種算法，識別人工智能生成段落的準確率達到92%以上。此外，微軟公司希望在畫面生成時即進行注明，將通過標記元數據的方式幫助用戶識別人工智能生成的圖像與視頻。

（三）深度偽造或成為一種潛在的國際沖突對抗手段

在意識到深度偽造技術的強大破壞力后，某些國家或正在考慮將深度偽造技術作為沖突中的對抗手段，從而維護自身的政治外交利益。2023年1月，美國智庫布魯金斯學會發布《深度偽造與國際沖突》（Deepfakes and International Conflict）報告。該報告指出，隨著人工智能技術進步、計算成本不斷下降，深度造假技術在武裝沖突期間對在線信息環境構成越來越大的挑戰。一國可以偽造沖突方軍事領導人的音視頻指令，在公眾和武裝部隊中制造混亂。例如，俄烏沖突初期，一條關于烏克蘭總統澤連斯基的深度偽造視頻在社交平臺廣為流傳。為此，布魯金斯學會建議：美國及其盟友的安全官員和政策制定者更深入地了解該技術的工作原理，以及它在國際武裝沖突中的多種使用方式；在部署深度偽造技術前需充分評估收益和風險，并借鑒現有的國際規范和先例，為政府使用深度偽造技術制定行為準則。

布魯金斯學會的報告表明，某些國家內部可能存在一種聲音，支持使用深度偽造技術來進行域外的信息干擾、虛假信息傳播等行動，強化其信息優勢，從而更好地實現其外交目標。若未來這一想法得到貫徹和推廣，將對全球政治安全和穩定產生嚴重沖擊。

三、深度偽造治理面臨的挑戰

深度偽造技術的發展引發了長期的動態博弈，這使得識別真實和虛假內容變得愈發困難。需要進行長期思考和探索如何防止這種技術的濫用。

（一）監管和立法有待進一步加強

治理深度偽造技術的前提是對人工智能技術進行合理、有效的監管。當前，全球主要經濟體和聯合國已充分認識到監管人工智能的重要性。我國已前瞻性出臺相關法律法規；美國政府正聽取多方意見，醞釀人工智能監管立法，并同意應建立人工智能監管機構；歐盟出臺人工智能監管臨時政治協議，并正在就《人工智能法案》（The AI Act）進行最終談判；聯合國表態支持建立一個類似于國際原子能機構的國際人工智能監管機構。面向未來風險的治理，需要長遠考量如何監管和解決與人工智能技術相關的潛在風險，讓技術更好地為創新和生產力提升所用，需要通過法律法規來為人工智能的發展和應用設置安全底線。

（二）監管科技亟待進步

在完善監管政策的同時，監管者也需要利用更好的工具來檢測和防止深度偽造。人工智能工具不斷增強的模態識別能力有望為監管打造強有力的技術工具。例如，運用圖像處理技術、多模態分析技術、建立深度偽造數據集、使用防偽技術，都能在一定程度上有效地檢測深度偽造。當前，換臉視頻、機器寫作等大多數的深度偽造內容都是較為粗糙、容易被檢測出的，但深度偽造技術也在不斷發展，未來將更加難以識別。因此，對抗深度偽造需要持續的研究和技術創新。

（三）深度偽造與識別將是長期動態博弈

深度偽造的傳播和識別，將始終像“貓追老鼠”一樣，是一個不斷發展、制衡的過程。不能“一刀切”式地禁用深度偽造技術，否則將極大影響技術創新和應用拓展。一方面，深度偽造技術的提供者和使用者應樹立責任意識。2023年5月，美國OpenAI公司首席執行官薩姆·奧爾特曼（Sam Altman）出席美國國會聽證會時表示，同意對人工智能進行基于風險的監管。同月，抖音集團發布關于人工智能生成內容的平臺規范暨行業協議，其中提到用戶在抖音平臺發布信息時，需要對人工智能生成內容進行顯著標識，以及對生成內容產生的相應后果負責。另一方面，還需要培養公眾的數字素養，提高公眾對深度偽造的認識和辨別能力。通過社會各界的努力，來共同控制深度偽造的風險，讓技術服務于創新與生產力進步。

編輯：黃飛

?