9 月 18 日，2018世界人工智能大會·人工智能安全高端對話在上海召開，活動由上海賽博網絡安全產業創新研究院和中國信息通信研究院安全研究所承辦，騰訊公司安全管理部、上海社會科學院互聯網研究中心和《探索與爭鳴》雜志社共同協辦。本次對話匯聚了全球人工智能安全領域的重量級學者、專家和產業精英，共同探討“AI+安全”領域的安全挑戰及應對之道。

上海社會科學院副院長王振主持論壇開幕式。中國互聯網發展基金會理事長馬利、上海市經濟和信息化委員會巡視員陳躍華、中國信息通信研究院副院長王志勤以及騰訊信息安全執行委員會主任、騰訊公司安全管理部副總經理楊鵬出席活動并致辭。楊鵬表示騰訊一直致力于用“互聯網+”連接一切，強調科技應當為我所用，造福于人類，AI+安全的加號代表著一種“賦能”和“助力”的理念，要求其更好地利用人工智能，保障、維護好人工智能的安全問題，實現健康有序的發展。

會議重磅推出了三份人工智能安全專題報告，其中騰訊公司安全管理部和上海賽博網絡安全產業創新研究院聯合重磅推出《人工智能賦能網絡空間安全：模式與實踐》。該報告聚焦 AI 在安全場景的應用模式與案例，從風險演進和技術邏輯的視角闡述了網絡空間安全的內涵和趨勢。引入安全防護范式，梳理出網絡系統、網絡內容和物理網絡系統 3 個層面 14 個安全領域的 AI 應用情況，其中包括要解決的安全威脅，AI 技術如何應用的模式和具體實例 30 多個。

人工智能打擊黑產初具成效

隨著網絡信息技術全面普及以及數據價值的持續增長，網絡空間安全威脅持續嚴峻，且呈現出智能化、隱匿性、規模化的特點，這讓網絡空間安全的防御、檢測和響應面臨更大的挑戰。人工智能以其獨特的優勢，正在各類安全場景中形成多種多樣的解決方案。

騰訊在運用人工智能打擊黑產方面，已經有詐騙信息打擊、新型身份認證和網絡安全態勢感知等方面的應用。

在詐騙信息打擊方面，騰訊公司基于其黑產對抗經驗技術和反欺詐 AI 模型建造能力，打造“賓果反詐騙防控系統”，通過大數據分析和機器自我學習總結、預測警情中作案手法、通信行為、網絡特征、資金流向等特點規律，從而能在詐騙事前、事中、事后等環節起到預警、分析作用。與警方開展合作，通過對合法獲取的警情、通信、網絡、金融等領域大數據的深度學習，賓果系統具有三項“自動能力”。一是可自動發現電信網絡詐騙犯罪行為并自動預警，配合警方開展預防勸阻措施提供助力;二是自動關聯作案工具，對有害賬戶進行自主收斂，賓果系統能夠充分依托騰訊公司安全體系和機制，在最短時間內作出限權、封停等措施;三是可實現對電信網絡詐騙窩點、人群的智能聚類，為警方開展刑事打擊提供線索參考。

賓果反詐騙防控系統投入使用以來，全國重點詐騙區域詐騙號碼大幅下降接近70%，有效遏制了詐騙態勢蔓延;3月上線以來，預警超過50000起，準確率超過99%，覆蓋全國31個省區市，累計為民眾避免損失20億元。

新型身份認證的應用方面，基于數據挖掘和人工智能技術的新型身份認證綜合運用了數字簽名、設備指紋、時空碼、人臉識別等多項身份認證技術，目前在金融、社保、保險、電商、O2O、直播等行業均已有廣泛應用。騰訊守護者計劃基于長期積累的 AI 人工智能和神經網絡的分析能力，引入多維度的動態驗證機制對抗相關黑產。

新型網絡安全態勢感知，是利用數據融合、數據挖掘、智能分析和可視化等技術，從宏觀角度實時直觀顯示網絡安全狀態，并對網絡安全趨勢做出預測，為網絡安全威脅預警和防護提供參考。

騰訊守護者計劃研發的智能金融安全感知系統“靈鯤”力爭對非法集資、金融傳銷等涉眾型金融犯罪“打早打小”，識別覆蓋率可達90%以上;騰訊反傳銷態勢感知系統通過海量數據的合法采集、自然語言處理等人工智能技術，全面分析匯總傳銷態勢，該系統目前已協助公安機關破獲了善心匯、五行幣、云在指尖、星火草原等涉嫌網絡傳銷案件。

人工智能也已經廣泛應用于不同形態的網絡信息內容治理中，騰訊研發的冰鑒系統引擎借助深度學習算法，開發應用了提供端到輸出端全鏈條鑒黃檢測服務，對于色情圖片的識別準確率達99.9%以上，并可通過不斷學習讓模型更加智能，大大提高不良信息內容治理的效率。

人工智能助力車聯網 安全先行

騰訊科恩安全實驗室是全球知名且備受尊敬的安全研究團隊，致力于保障智能網聯汽車“大安全”。2016年曾通過移動網絡識別、準備和實施攻擊場景等技術成功發現特斯拉的重要漏洞，并遵循負責任的漏洞披露方式把漏洞威脅情況提交給特斯拉官方，供其完善智能防御系統，保障智能車輛安全。在當前智能攻防競爭態勢中，這種先于黑客發現漏洞的自主安全保障能力是極其需要的。

對話現場，科恩實驗室總監呂一平表示，網聯汽車信息安全是汽車行業面臨的全新挑戰。他從科恩實驗室首次全球成功“遠程入侵”特斯拉的和對寶馬不同車型進行的全面測試經驗，總結了智能網聯安全的4點思考：未來智能網聯汽車“大安全”=功能安全+信息安全;攻易守難，信息安全建設需要全局思維;信息安全將成為汽車品牌的重要能力; 信息安全將成為汽車行業的國防。

“AI+安全”展望：共同努力應對各類安全威脅

人工智能時代，網絡空間安全威脅全面泛化，如何利用人工智能思想和技術應對各類安全威脅，是國內外產業界共同努力的方向。

在“AI+安全”領域，騰訊提出了 5 個未來展望：人工智能安全將成為人工智能產業發展最大藍海，人工智能的本體安全決定安全應用的發展進程，“人工”+“智能”將長期主導安全實踐，人工智能技術路線豐富將改善安全困境，網絡空間安全將驅動人工智能國際合作。

隨著智慧城市、工業互聯網、自動駕駛等將在未來十年普及，人工智能安全將成為產業發展的藍海。騰訊在運用人工智能賦能網絡空間安全方面，已經積累了豐富的技術、模式與經驗。

面對技術規范、行業標準、法律法規尚未健全的人工智能新領域，制定統一的安全監測標準、安全防范架構、安全評估體系需要各國參與共同協調，網絡空間安全成為人工智能國際間合作的重要領域。隨著人工智能技術日趨成熟，人工智能在“AI+安全”領域不僅能夠全面提高網絡空間各類威脅的響應和應對速度，而且能夠全面提高風險防范的預見性和準確性。