人工智能技術已經滲透到人類生活的每個角落，我們在享受種種革命性便利的同時，也難掩隱憂——不遠的將來，人工智能會不會破壞社會秩序和安全，給我們帶來危險？

　　“AI （人工智能）變得強大后，AI倫理就愈發顯得重要！”在9月7日開幕的“江蘇省人工智能大會”上，江蘇省人工智能學會理事長、南京大學人工智能學院院長周志華教授透露，AI倫理研究，將會加入該院的課程體系。

　　早期的人工智能，只能根據事先設定的程序完成一些需要進行大量計算的任務，比如下象棋、拼接圖案、對圖片分類、回答簡單問題等等。如今借助深度學習、神經網絡、物聯網最新技術，一些人工智能設備實現了全自動化，能夠自主推理解決現實生活中的問題。語言翻譯、自動交易、人臉識別、無人駕駛等等都已通過人工智能實現。

　　但是飛速發展的人工智能技術會不會有一天失控？是否會危害人類信息甚至人身財產安全？全球科學家早已開始了探討和研究。

　　未來生命研究院（FLI）推動提出“23條人工智能原則”，IEEE發起人工智能倫理標準項目并提出具體指南。聯合國曾耗時兩年完成機器人倫理報告，認為需要機器人和人工智能倫理的國際框架。歐盟也在推動制定針對機器人、人工智能的數據保護、數字權利和道德標準，甚至通過決議，針對人工智能民事立法。

　　“當一個技術比較弱小的時候，大家犯不著去關心它的倫理，因為就算用來做壞事，也沒有什么大的危害。只有當這個技術變得非常強大，大家才會擔心將來會不會出問題。”周志華覺得，今天人們對待人工智能，有點像上世紀五十年代看待核能，既期望它大顯神通，有心存恐懼。

　　他說，現在學界有很多一流的學者，開始關注人工智能倫理，包括在美國卡內基梅隆大學這樣的領先高校，都已經開始增設人工智能倫理方面的課程。“我們南京大學人工智能學院后面也會有類似這樣的課程設置。”

　　但是，研究人工智能的倫理問題，不能只局限于本專業的科學家，還應該包括社會科學專家、其它相關方面的學者都可以共同關心參與，一起來探討這個新課題。

　　作為人工智能技術的大咖，周志華經常拿生活中常見的菜刀和人工智能做對比。

　　“人工智能技術，就好像比菜刀。本可以用來切菜，提供生活的便利，但是也有可能拿著菜刀害人。這不是刀的錯誤，而是用刀人的錯誤。”

　　他強調：人工智能倫理研究的出發點，絕不是防備這項技術本身，而是預防這種技術被不懷好意的人濫用。