10月31日，全國信息安全標準化技術委員會（簡稱全國信安標委）網站發布《人工智能安全標準化白皮書（2019版）》（簡稱“白皮書”）。

如今的人工智能基于深度計算技術、依賴于大數據的“喂養”，白皮書指出，在數據采集環節，人工智能存在過度采集數據、個人敏感信息采集合規等問題，需開展隱私保護要求及技術類標準研究工作。

人工智能面臨合規、濫用、數據泄露等安全風險

近年來，人工智能在算法、算力、和大數據因素的影響下，迎來第三次發展浪潮。它在改變人類生產生活方式的同時，也給社會帶來不可忽視的風險挑戰。

如今的人工智能依賴于大數據的“喂養”。白皮書指出，人工智能在數據采集環節，存在過度采集數據、數據采集與用戶授權不一致、個人敏感采集信息合規問題等；還易遭受數據投毒、模仿攻擊等。

在數據使用環節，數據標注帶來安全隱患和合規問題。如外包公司的標準人員可直接接觸原始數據，如果管理不規范，可能存在內部人員盜取數據、數據泄露等風險。

在應用方面，利用人工智能技術模仿人類，如換臉、手寫偽造、人聲偽造等，除引發倫理道德風險外，還可能加速技術在黑灰色地帶的應用，模糊技術應用的合理邊界，加劇人工智能濫用風險。

其他方面，人工智能系統還存在數據存儲安全隱患、共享安全隱患、數據傳輸安全隱患等。

我國尚未有正式立項的人工智能自身安全的標準

面對人工智能帶來的各種安全風險，各國制定了相關的法律法規和政策。比如美國總統簽署行政令，啟動“美國人工智能倡議”；英國建立數據倫理與創新中心為政府提供咨詢；日本成立人工智能委員會，開展人工智能倫理道德研究 。

我國亦發布了一系列相關政策，如《新一代人工智能發展規劃》 、《國家新一代人工智能創新發展試驗區建設工作指引》等，在特定領域如無人機、自動駕駛等領域出臺相應規范性文件。此外，特定行業和領域頒布或立項相應標準，如生物識別領域的《信息安全技術 虹膜識別系統技術要求》等。

不過，我國尚未有正式立項的人工智能自身安全或基礎共性的安全標準。

人工智能在個人信息保護等方面存在標準化需求

結合安全分析結果和當前標準化現狀等因素，白皮書指出，人工智能在算法模型、數據安全和個人信息保護、基礎設施安全、產品和應用安全等方面存在標準化需求。

針對突出的數據安全與隱私保護風險 ，白皮書建議平衡隱私保護和人工智能分析效果，防范逆向工程、隱私濫用等安全風險，開展人工智能隱私保護要求及技術類標準研究工作。

按照“充分研究，急用先行，安全事件推動”的思路，白皮書建議 優先立項《人工智能安全參考框架》、《人工智能數據集安全》、《人工智能數據標注安全》、《機器學習算法模型可信賴》、《人工智能應用安全指南》、《人工智能安全服務能力要求》等標準。

責任編輯：ct