2020 年是 AI 逐漸深入生活，倒逼各行業(yè)數(shù)字化轉(zhuǎn)型的一年。與此同時，隨著新技術(shù)的產(chǎn)生，也開始帶來不少麻煩與問題。如何正確理解新技術(shù)，并像解題一樣，解決與之相伴的新問題，成為一項考驗。

2020 年，盡管面臨疫情帶來經(jīng)濟與社會層面的不確定性，人工智能技術(shù)仍在加速發(fā)展。今年 Gartner 發(fā)布的 AI 技術(shù)成熟度曲線里增加了包括生成型 AI、復合型 AI、負責型 AI、嵌入式 AI 和人工智能增強設(shè)計等在內(nèi)的多個新技術(shù)類別。

其中，生成型 AI 首次出現(xiàn)在「成熟度曲線」中，這是常用于創(chuàng)建「深度偽造」視頻和數(shù)字內(nèi)容的技術(shù)。有些心懷不軌的人會試圖利用生成性 AI 創(chuàng)建「深度偽造」的內(nèi)容。這側(cè)面反映，即使是新技術(shù)，也會帶來相應的麻煩和問題。

01 人臉識別黑產(chǎn)背后的信息泄露

人臉識別是應用領(lǐng)域最廣泛及成熟的一項技術(shù)。隨著技術(shù)的大范圍推廣，背后的問題也隨之而來。去年，僅 8 元兜售 3 萬張人臉照片被傳得沸沸揚揚。讓人細思極恐的是，你并不知道誰在收集人臉，也不知道這些人臉圖片會被用作何用途。

機器之心去年臥底人臉認證群，調(diào)查背后的產(chǎn)業(yè)鏈狀況。黑灰產(chǎn)從業(yè)者將高清正面大頭照、手持身份證照稱之為「料子」。基于「料子」，采用一套特定的過人臉認證技術(shù)，通常是面部動畫制作軟硬件的組合，以此通過支付、社交及生活服務類 APP 的人臉認證。

「只要技術(shù)好（代人臉認證），投入成本低，利潤可觀。行情好的時候，一個月賺 3 萬不成問題。」一位黑灰產(chǎn)從業(yè)者曾向機器之心表示，他靠傳授過人臉認證技術(shù)謀生，一套過 APP 人臉認證技術(shù)最低可賣至 800 元，而且包教會。當中，所需要的身份證正反面及半身照成本極低，通常不超過 5 元，而過一次 APP 人臉認證至少需要 40 元。除去成本價及忽略操作費不計，一單至少掙 35 元。對于一些難認證的 APP，牟利空間更大。

人臉識別技術(shù)已在多行業(yè)、多終端進行應用，由于監(jiān)管及隱私層面缺乏有力監(jiān)管，出現(xiàn)不少詐騙事件。今年，據(jù)南方都市報報道，廣西南寧有十幾位售房者因為「刷臉賣房」被騙了超千萬元。一位房產(chǎn)中介以房屋查檔為由，對售房者進行了人臉識別認證。隨后，售房者紛紛發(fā)現(xiàn)自己的房子已經(jīng)被買家抵押給了第三方。另據(jù)南都記者公開資料查詢，此前全國已有多起利用人臉識別進行詐騙的案子。

通過該事，反映出以人臉等為代表的個人生物識別信息作為高度敏感的用戶個人信息，存在一定的隱私泄露和信息安全風險。據(jù) Juniper Research 研究機構(gòu)最新研究報告《移動支付認證：2019-2024 年生物識別，監(jiān)管和預測》發(fā)現(xiàn)，面部識別硬件（例如 iPhone 上的 Face ID）將成為智能手機生物識別硬件中增長最快的組件，出貨量將在 2024 年達到 8 億多，而 2019 年估計為 9600 萬個。

人臉識別技術(shù)無處不在。隨著深度學習技術(shù)與生物識別技術(shù)的融合，以深度偽造為主的人臉識別技術(shù)也帶來不少爭議。以 AI 換臉為例，Al 換臉顧名思義就是在圖像或視頻中把一張臉替換成另一張臉。

各類「換臉」技術(shù)制造了大量的虛假視頻，并形成相應的黑色產(chǎn)業(yè)鏈。該產(chǎn)業(yè)鏈條是，上游提供軟件及教程；中游提供視頻及照片定制；下游售賣成品視頻，以此大大降低行業(yè)技術(shù)門檻與造假成本。

除深度偽造技術(shù)外，還有「反偽造」技術(shù)，兩者正處于攻防拉鋸狀態(tài)。除了信息隱私泄露，這項技術(shù)還帶來其他問題，最大的難題在于，針對深度偽造生物識別信息的判定尚無成熟的判定手段與依據(jù)。

02 「失控」的智能設(shè)備

隨著物聯(lián)網(wǎng)、車聯(lián)網(wǎng)、5G 等技術(shù)的發(fā)展，身邊的一切設(shè)備正在變得智能化，但也暗藏風險。尤其在遠程辦公流行的節(jié)點下，一些安全性較差的智能家居產(chǎn)品成為了黑客攻擊的重點對象。

最近，來自劍橋大學的研究人員發(fā)現(xiàn)，任何可以接收語音命令的智能設(shè)備，例如智能音箱或手機，僅通過聆聽就可以推斷附近智能手機輸入的大量信息，包括密碼等。

研究表明，音頻采集設(shè)備所帶來的隱私威脅超出監(jiān)聽私密談話，物理鍵盤及手機觸摸屏鍵盤上輸入的信息同樣無法逃脫其監(jiān)控。研究者通過驗證表明，所謂的黑客攻擊者可以從位于半米外的語音助手收集的錄音中提取 PIN 碼（SIM 卡的個人識別密碼）和文本消息。

盡管物聯(lián)網(wǎng)技術(shù)給人們的生活帶來便利，但不意味著無限安全與可靠。在通信技術(shù)領(lǐng)域也暴露了這方面的風險。在 GeekPwn2020 國際安全極客大賽上，騰訊安全玄武實驗室高級研究員李冠成、戴戈就演示了一項 5G 安全研究發(fā)現(xiàn)。通過 5G 通信協(xié)議的設(shè)計，黑客可「劫持」同一基站覆蓋下的任意一臺手機的 TCP 通訊，包括各類短信收發(fā)、APP 和服務端的通訊。

這項研究意味著，黑客可以利用 5G 通信協(xié)議的 BUG 實施多種形式的攻擊，例如給受害者發(fā)送已經(jīng)植入木馬的鏈接，該鏈接一旦被點擊，就可以竊取受害者的銀行卡信息，否則不然，也有可能偽造受害者的手機號向家人發(fā)短信，提出轉(zhuǎn)賬或是其他要求。

隨著通信技術(shù)的升級迭代，整體上看 5G 在安全性上有了更大的保障，但不意味著這項技術(shù)就有更大的安全性，也有可能會帶來除技術(shù)本身不成熟外的其他原生安全問題。

當所有的東西都發(fā)展為智能體，對隱私背后的傷害也更大。車聯(lián)網(wǎng)下的自動駕駛汽車經(jīng)常發(fā)生宕機、信息泄露事件就是當中最為典型的案例。

今年 5 月，國內(nèi)特斯拉車主發(fā)微博稱，特斯拉 App 大面積宕機，導致手機無法與車相連，無法獲取車輛信息。

自特斯拉出產(chǎn)以來，很多人把它形容為一輛帶輪子的安卓手機，可以用移動應用來解鎖和鎖定汽車。至少，在車聯(lián)網(wǎng)時代，網(wǎng)絡(luò)的便捷性讓車輛智能化成為可能。一旦智能聯(lián)網(wǎng)汽車當中的重要組成，例如車載操作系統(tǒng)、云平臺受到網(wǎng)絡(luò)攻擊，輕者會造成數(shù)據(jù)和信息泄露，重者會導致車輛失控。

類似的「失控」經(jīng)常被用來當作安全演練的「教材」。在 2020 GeekPwn 大會上，就有這樣一場人為制造的特斯拉 Model 3 撞車事故。一位安全研究員制作了小巧的雷達干擾裝備，可以擾亂 Model 3 毫米波雷達的探測，讓車輛系統(tǒng)無法準確進行剎停，從而制造了一場人為車禍。

在現(xiàn)實生活中，這類人造交通事故不多，但也揭示了自動駕駛車輛存在的安全漏洞。隨著車聯(lián)網(wǎng)建設(shè)的成熟與具備自動駕駛車輛的增多，這類安全漏洞帶來的風險會越來越大。

03 易攻難守的企業(yè)數(shù)據(jù)

隨著企業(yè)數(shù)字化轉(zhuǎn)型進程加速，數(shù)據(jù)作為重要元素，被視為企業(yè)的命脈。即便如此，隨著黑客技術(shù)的不斷侵入，企業(yè)數(shù)據(jù)被盜事件并不鮮見。

今年年初，國內(nèi)一家 AI 醫(yī)療影像公司在疫情間所研發(fā)的新冠數(shù)據(jù)被黑客竊取。他們過去兩個月所研發(fā)的 AI 輔助系統(tǒng)和該公司所積累的新冠訓練數(shù)據(jù)，被黑客以 4 比特幣的價格公開出售。當時這家公司回應稱，黑客所獲取的數(shù)據(jù)不涉及源代碼和客戶數(shù)據(jù)。盡管損失有限，但也敲醒警鐘。

新冠肺炎疫情期間，不少黑客組織以「新冠肺炎」為誘導話題，對醫(yī)療機構(gòu)、醫(yī)護人員的電腦發(fā)起網(wǎng)絡(luò)攻擊，從而達到勒索、竊取信息等目的。

據(jù)數(shù)據(jù)顯示，2020 年上半年，安全防護能力較弱的市政、醫(yī)療、制造行業(yè)成為網(wǎng)絡(luò)攻擊的重災區(qū)，而新冠疫情期間對醫(yī)療結(jié)構(gòu)的攻擊更是危害巨大，包括歐洲最大的私人醫(yī)院運營商 Fresenlus 都曾遭受勒索軟件攻擊。

根據(jù) CyberMDX 的研究，由于種種原因，大多數(shù)醫(yī)院都不會修補超過 40% 的易受攻擊設(shè)備。80% 的醫(yī)療設(shè)備制造商和醫(yī)療機構(gòu)表示設(shè)備非常難以保護，因為缺乏安全開發(fā)的知識和培訓，以及相關(guān)的產(chǎn)品信息安全測試程序。

04 結(jié)語

伴隨著互聯(lián)網(wǎng)科學技術(shù)的發(fā)展，雖然 5G、AI、隱私計算、智能算法、物聯(lián)網(wǎng)、大數(shù)據(jù)等技術(shù)應用已經(jīng)深入人們的生活與生產(chǎn)活動，但是我們也需要透過這些熱議的社會話題重新正視 AI 時代新技術(shù)與新問題共存的問題。

即便新技術(shù)帶來新問題，也不能就此放棄不使用，甚至不發(fā)展新技術(shù)。在科技發(fā)展的各個階段，都會衍生不同問題，而問題也會倒逼社會發(fā)展。樂觀來看，AI 換臉、人臉識別黑產(chǎn)的出現(xiàn)增加了人們對于安全與隱私的討論，促進立法探索；智能互聯(lián)車輛故障頻出，倒逼自動駕駛技術(shù)變革。

AI 應用的普及，加劇了隱私保護、數(shù)據(jù)安全、倫理道德等安全和道德風險，但是現(xiàn)在各類網(wǎng)絡(luò)安全產(chǎn)品和解決方案不斷涌現(xiàn)，專注解決網(wǎng)絡(luò)安全問題的安全廠商也發(fā)力。

在最近騰訊安全戰(zhàn)略研究部攜手騰訊安全聯(lián)合實驗室共同發(fā)布的《產(chǎn)業(yè)互聯(lián)網(wǎng)安全十大趨勢（2021）》，圍繞法律法規(guī)、產(chǎn)業(yè)發(fā)展態(tài)勢、重點安全風險等多個維度，探討了 2021 年產(chǎn)業(yè)安全與安全產(chǎn)業(yè)的發(fā)展特性。

在當下行業(yè)數(shù)字化轉(zhuǎn)型的節(jié)點，大量的數(shù)據(jù)在匯集，如何保障安全，成為產(chǎn)業(yè)數(shù)字化的重要議題。安全作為產(chǎn)業(yè)互聯(lián)網(wǎng)的基座，本身也處于高速變化和演進的階段。

一是政策法規(guī)體系逐漸完善，《民法典》、《數(shù)據(jù)安全法（草案）》、《個人信息保護法（草案）》等陸續(xù)出臺，為安全建設(shè)明確方向。

二是安全場景日益增多，供應鏈協(xié)同安全、5G 應用安全、黑灰產(chǎn)生態(tài)化等成為企業(yè)數(shù)字化過程中的重要挑戰(zhàn)。

三是技術(shù)和理念創(chuàng)新活躍，隱私計算、零信任架構(gòu)、人工智能、云原生安全等正加速在安全場景落地應用，為企業(yè)的安全防護體系建設(shè)提供支撐。

尤其在產(chǎn)業(yè)互聯(lián)網(wǎng)時代，企業(yè)數(shù)字業(yè)務上云將成常態(tài)。但同時云上安全威脅規(guī)模快速擴大，黑灰產(chǎn)利用公有云平臺發(fā)起攻擊更具威脅。

云原生安全一方面將構(gòu)建安全服務全生命周期防護，在業(yè)務搭建之初夯實安全底座，從安全工具、產(chǎn)品到服務體系化，伴生業(yè)務發(fā)展全過程。

另一方面云上安全產(chǎn)品向模塊化、敏捷化和彈性化演進，在應對高強度攻擊的同時也在平穩(wěn)期釋放多余計算能力，使得企業(yè)應用成本降低，提升整體安全水平，成為兼顧成本、效率和安全的「最優(yōu)解」。

在產(chǎn)業(yè)數(shù)字化驅(qū)動下，智慧醫(yī)療、工業(yè)互聯(lián)網(wǎng)、車聯(lián)網(wǎng)等新應用、新場景不斷涌現(xiàn)。這些傳統(tǒng)行業(yè)數(shù)字業(yè)務的安全性將直接關(guān)系到民眾生命財產(chǎn)安全和國家信息安全。對于企業(yè)而言，需要在業(yè)務構(gòu)建初期考慮更多的安全隱私，規(guī)避風險，以降低解決安全問題的成本。

企業(yè)本身除了依托云原生安全外，還需要建立頂層安全思維，對于安全的認知不僅需要企業(yè)自身的努力，還需要將其擴大到社會安全認知層面，加強普通用戶對于網(wǎng)絡(luò)威脅、個人數(shù)據(jù)安全、隱私等的重視。

加速發(fā)展的新技術(shù)既代表新的力量，同時也給人們帶來各種各樣的新問題。新問題又需要新技術(shù)去解決。看似貌合神離，相互對抗，實際上是一項重大考驗。

責任編輯：PSY