上海市人工智能產業安全專家咨詢委員會成立 發布首份倡議文件

今天下午，上海市人工智能產業安全專家咨詢委員會成立儀式暨第一次會議召開。會議發布了《人工智能安全發展上海倡議》，同時面向全球啟動人工智能產業安全創新實踐案例和優秀論文征集活動。

上海市人工智能產業安全專家咨詢委員會是在上海市人工智能戰略咨詢專家委員會基礎上成立的，旨在瞄準國際人工智能產業發展前沿，服務上海發展的定位和需求，構建專家協同網絡，推動人工智能產業健康發展。安全專委會由來自高校、科研院所和企業的相關專家組成，中國科學院院士何積豐擔任主任。秘書處設在上海賽博網絡安全產業創新研究院，承擔相關日常工作。

當前，對人工智能產生的安全風險加強戰略性、前瞻性的研究部署，逐漸建立相應的法律法規、倫理規范和政策體系，已經成為國內外的共識。一些國家、地區和國際組織、私營企業、社會團體等積極推動人工智能安全與治理的進程。中國是世界人工智能安全治理的重要參與者，上海正在加快推進人工智能高地建設，此次會議發布的《人工智能安全發展上海倡議》不僅是安全專委會成立后發布的首份倡議文件，更是上海向全國、全世界發出的錚錚宣言。倡議在充分吸納國內外人工智能安全共識的基礎上，從應對人工智能安全挑戰，守護智能時代人類未來的主旨出發，包含“面向未來、以人為本、責任明晰、隱私保護、算法公正、透明監管、和平利用、開放合作”等八大目標原則及其基本要求。

會上，安全專委會主任何積豐院士宣布啟動2019世界人工智能產業安全創新實踐案例征集和優秀論文征集活動。面向全球企業征集人工智能產業安全領域的標準規范、研發成果、產品/服務、解決方案等實踐案例，面向全球高校、科研院所、國際組織等機構中從事人工智能安全領域研究的科研人員和青年學生，征集高質量、高水平的學術論文。征集活動的評選成果將在2019世界人工智能大會期間對外公布。

人工智能安全發展上海倡議全文如下：

為了應對人工智能安全挑戰，守護智能時代人類未來，上海市人工智能產業安全專家咨詢委員會在充分吸納國內外人工智能安全共識的基礎上，聯合人工智能安全領域的專家學者和產業界同仁，共同發起“人工智能安全發展上海倡議”，內容如下：

面向未來：人工智能發展需要實現創新與安全的協同，以安全保障創新，以創新驅動安全。在確保人工智能自身安全的同時，積極將人工智能技術應用于解決人類社會的安全難題。

以人為本：國際社會應一道科學規劃人工智能的發展路徑，確保人工智能按照人類預期并服務人類福祉方向發展，機器自主進化和自我復制等關鍵進程須進行風險評估和安全監管。

責任明晰：人工智能發展應當建立完備的安全責任框架，需要針對人工智能的應用場景，不斷創新法律法規和倫理規范，明確人工智能安全責任認定和分擔機制。

隱私保護：人工智能發展需要保障用戶的數據安全，人工智能發展不得以犧牲用戶隱私為代價，需要加強數據保護立法，豐富人工智能的技術路線，不斷強化人工智能應用中的用戶隱私保護。

算法公正：人工智能發展應避免由于算法設計對公眾產生的危害，須明確算法動機和可解釋性，克服算法設計和數據收集引發的不公正影響。

透明監管：人工智能發展應當避免技術黑箱導致的安全風險，需要通過建立可審查、可回溯、可推演的監管機制，確保目標功能和技術實現的統一。

和平利用：人工智能技術應當審慎運用在軍事領域，自主化武器的研發和使用須遵循嚴格的風險評估，避免由于人工智能技術在軍事領域濫用對全球和平穩定的威脅。

開放合作：人工智能發展需要各國、各方的協同共進，應當積極在國際范圍建立人工智能安全發展的規范和標準，避免技術和政策不兼容導致的安全風險。