小學生用照片攻破豐巢人臉識別系統、自動駕駛汽車失控撞人、AI換臉讓你一秒成為黃片主角……隨著人工智能技術的快速發展、普及和應用，隨之而來的安全、倫理等問題也引發普遍擔憂。

“人工智能安全作為人工智能研究和產業化應用的重要組成部分，應推動政府、學術界和產業界進行更加深度和廣泛的合作，對人工智能的安全進行系統布局，”12月8日，在清華大學舉辦的AI與安全研討會上，清華大學副校長、中科院院士薛其坤表示：“這一領域是快速發展的，要在關鍵時刻把握正確的方向，抓住關鍵的技術，“相信通過這次AI與安全會議，能取得新的進展和收獲。“

據悉，研討會由清華大學、阿里安全、北京智源人工智能研究院聯合舉辦，邀請高校、互聯網公司、政府部門等多方科研人員參與，旨在提升各界對于AI與安全的重視程度，合作產出更多安全AI成果。

“在2019年天貓雙11當天，我們的安全AI大腦完成風險防控388億次，99%的黃牛被系統準確攔截，”阿里巴巴集團安全技術總經理錢磊指出，阿里具備當前產業界最復雜的商業場景，清華擁有極強的技術和研發能力，未來雙方通過人才、項目等方面加強產學研合作，將是一個非常好的探索和命題。

清華大學計算機系黨委書記劉奕群表示，阿里與清華一直合作密切，這次會議將促進各方更加深入的合作，推動我國人工智能領域的安全管理體系的建立，也將在國際人工智能的安全領域更好發出中國的聲音。

發展可信、可解釋的安全AI成共識

人工智能發展的快速和重要性已經不言而喻。2019年，美國、歐洲、日本等各國均出臺各類促進人工智能發展的政策和國家戰略；公開數據顯示，2019年，中國人工智能相關公司總數超過2500家，到2020年，中國人工智能產業規模將接近500億元。

“各類場景中，安防、醫療應用較為廣泛，最近上海地鐵一個攝像頭抓到了潛逃20年的殺人犯，就是典型應用。”國家工業信息安全發展中心副主任李新社在報告中指出，但人工智能當前面臨數據、算法、網絡、信息、倫理等多方面的安全問題，“建立可信的人工智能將成為發展的重要考量。”

早在1987年就帶領清華成立全國第一個以人工智能命名的國家重點實驗室，見證、參與中國第一代、第二代人工智能技術發展，清華大學人工智能研究院院長、中科院院士張鈸在主旨報告中強調，必須發展安全、可靠、可信的第三代人工智能，這樣才有可能使人工智能技術得到安全廣泛的應用。而發展技術的關鍵在于基礎研究，必須在基礎研究上進行重點投入和突破。

（清華大學人工智能研究院院長、中科院院士張鈸在會議中做主旨報告）

“一張鳥的照片，加一點噪聲，就能讓AI識別為一只老虎，”張鈸院士表示，人工智能的安全問題源于深度學習技術的底層缺陷，采用非常簡單的神經網絡系統，用概率統計的方法來提取出低層次的特征，而正確的方法應該是像人類一樣去提取高層次的語義特征，“我們正在往這個方向努力，但現實情況是，沒有永遠安全的系統，也不要指望有永遠安全的人工智能系統，只有加強基礎研究，才有前瞻性的判斷，及時采取措施。”

中國科學院院士、大數據算法與分析技術國家工程實驗室主任徐宗本在主旨報告中也重點強調：人工智能的未來發展，特別是在醫療等關鍵領域的應用技術，需要充分利用數學等工具加強基礎研究，突破精確性瓶頸，打破數據孤島，實現小樣本和可解釋的深度學習。

AI與安全發展相輔相成

針對AI與安全的眾多技術領域問題，中國科學技術大學網絡空間安全學院副院長張衛明、上海交通大學網絡空間安全技術研究院副院長伍軍、西安交通大學網絡空間安全副院長沈超、西交利物浦大學電氣與電子工程系教授黃開竹、清華大學副教授張超等人在會上做了精彩的發言，并從各個角度提供建議，比如防止AI的濫用和誤用、加強相關標準制定、加強人才培養、進一步深化人工智能與各個實體產業的融合等。

“當業界還在擔憂AI安全性的問題，我們已經在阿里的安全場景中全面使用AI技術，安全本身的攻防對抗屬性下，AI也在進化，”錢磊表示，阿里安全通過在打擊假貨、營商環境治理、網絡安全、數據安全、新零售安全等領域的AI應用，希望打造出更安全、更可信、可解釋的安全AI。

（阿里巴巴集團安全技術總經理錢磊在會議中分享阿里用AI解決安全問題的實踐）

錢磊在現場公布了一組安全AI的防控數據：在打擊假貨方面，96%的疑似侵權鏈接一上線就被封殺、96%的知識產權投訴在24小時內被處理；在保障商家經營方面，每天應對千萬級風險訂單識別和判斷，累計攔截上百萬惡評攻擊。

徐宗本院士點評稱，AI打假提供了更多機器學習、大數據分析，對真假甄別意義重大，AI打假是數字技術、人工智能的應用場景，“阿里在這方面做得不錯。”

冰凍三尺非一日之寒。阿里巴巴集團安全部成立于2009年，最早期為專家運營階段，即通過離線數據分析研判，修復產品漏洞，“一直到2013年，基本都是這種人肉模式，但隨著阿里業務體系不斷擴大，如果每個業務都要兩三個專家去分析，基本是不可能的，后面我們就進入數據智能時代。”錢磊表示，這一時期的特點是通過大量的信息，建立完善的安全體系、指標體系，通過人去解讀指標變化，再變成規則落地、線上防控，“人依然是主導。”

“安全風控本質是一個識別、判定和處置的過程，我們嘗試通過算法來提效，并在一些流量業務中使用，效果不錯，從2018年開始，全面轉向安全AI時代，”錢磊認為，安全能力的高低強弱和在場景中能使用多少數據，使用數據的水平，是正相關的，而AI技術在安全領域的大面積應用，將大大提升安全業務使用數據的水平，“安全的對抗性，又為AI技術的發展提供了豐富的多變的場景，推動AI技術的快速發展，兩者相輔相成。”

2019年6月，阿里聯合清華大學發起安全AI挑戰者計劃，分別進行了人臉識別、圖像分類等場景的對抗樣本測試，共計2000多名隊伍報名，此次會議中也對前五名獲獎隊伍進行了現場頒獎。

“我們希望與更多方合作，在AI的可解釋性、安全性上，在更多應用場景中，產出更多的成果，來推動人工智能和安全產業的發展。”錢磊表示。