AI與人類的命運(yùn)，再一次因?yàn)樽灾魑淦鞫煌粕狭溯浾擄L(fēng)口。

周三，來自數(shù)百家公司的2000多名科學(xué)家，其中許多是機(jī)器人和人工智能領(lǐng)域的著名的研究人員和工程師，聯(lián)名簽署宣言，誓言絕不將他們的技能用于開發(fā)自主殺人機(jī)器。

這場(chǎng)宣誓行動(dòng)由總部位于波士頓的非盈利組織未來生命研究所（Future of Life Institute）發(fā)起，來自36個(gè)國家的多達(dá)160個(gè)人工智能相關(guān)的公司、覆蓋90個(gè)國家的2400名個(gè)人簽署了宣言，他們承諾：

在世界上的任何一個(gè)國家，自主武器都對(duì)公民構(gòu)成了“明顯而現(xiàn)實(shí)的危險(xiǎn)”，他們“絕不參與自主武器的開發(fā)”。

簽署者包括谷歌的頂級(jí)人工智能研究團(tuán)隊(duì)DeepMind；歐洲人工智能協(xié)會(huì)；ClearPath Robotics/OTTO Motors；瑞典人工智能協(xié)會(huì)XPRIZE基金會(huì)；以及倫敦大學(xué)學(xué)院。

簽署之一承諾的著名人士還包括頂尖的人工智能研究人員Demis Hassabis、Stuart Russell、Yoshua Bengio、Anca Dragan、Toby Walsh以及特斯拉和SpaceX的創(chuàng)始人伊隆·馬斯克。

馬斯克、哈薩比斯等2000多人簽署宣言：決不允許殺人機(jī)器人出現(xiàn)！

“人工智能（AI）將在軍事系統(tǒng)中扮演越來越重要的角色，公民、政策制定者和領(lǐng)導(dǎo)人都迫切需要區(qū)分AI可接受的用途和不可接受用途。”

昨天的瑞典斯德哥爾摩，2000多名AI學(xué)者共同簽署《致命性自主武器宣言》成為會(huì)議國際人工智能聯(lián)合會(huì)議（IJCAI）上的一項(xiàng)重要議題，這也是學(xué)界史上最大規(guī)模針對(duì)“自主武器”的聯(lián)合簽名宣言。

組織這次行動(dòng)的生命未來研究所的聯(lián)合創(chuàng)始人、MIT教授邁克思·泰格馬克（Max Tegmark）7月18日在會(huì)上宣布了這項(xiàng)宣言。

泰格馬克教授

泰格馬克說：“我很高興看到人工智能的領(lǐng)軍人物從對(duì)話轉(zhuǎn)向行動(dòng)，實(shí)施一項(xiàng)政治家們迄今未能實(shí)施的政策。人工智能有巨大的幫助世界的潛力——如果我們不能容忍其濫用，并致力于防止其濫用。自主殺人的AI武器就像生化武器一樣令人厭惡和不安，我們應(yīng)該以對(duì)待生化武器的方式來處理自主武器。

悉尼新南威爾士大學(xué)人工智能科學(xué)教授Walsh說：“我們不能把誰生和誰死的決定權(quán)交給機(jī)器。”因?yàn)橹旅宰灾魑淦飨到y(tǒng)（lethal autonomous weapon systems），簡(jiǎn)稱“LAWS”，“不具備這樣做的道德”。

在IJCAI會(huì)議上，包括馬斯克、DeepMind三位創(chuàng)始人都簽署了《致命性自主武器宣言》，宣誓不參與致命性自主武器系統(tǒng)（LAWS）的開發(fā)、研制工作。

而就在一年前，116名全球人工智能和機(jī)器人領(lǐng)域的專家（包括馬斯克和谷歌AI專家Mustafa Suleyman）發(fā)表聯(lián)名公開信，呼吁聯(lián)合國采取行動(dòng)禁止“自主殺人機(jī)器”，稱其為“恐怖武器”。“留給我們做準(zhǔn)備的時(shí)間不多了，”專家們警告說：“一旦這個(gè)潘多拉的盒子被打開，就很難再次關(guān)上。”

美國政府在全球范圍內(nèi)使用升級(jí)的軍用無人機(jī)后，工程師和科學(xué)家們警告說，自主機(jī)器很容易受到黑客的攻擊，它們可能被劫持，進(jìn)而攻擊無辜的人群；并且，它們不可避免地很容易就會(huì)被惡意攻擊者獲得，或者惡意攻擊者能夠自己制造這類武器。

為了演示在自主殺人無人機(jī)的威脅下的生活，生命未來研究所協(xié)助制作了一個(gè)名為“Slaughterbots”（《屠殺機(jī)器人》）的影片，視頻中的一個(gè)片段描繪了數(shù)千名大學(xué)生被殺人機(jī)器人屠殺的景象。這些學(xué)生在社交媒體上分享了一段揭露腐敗的視頻后，被不知名的“黑影人”盯上，機(jī)器通過面部識(shí)別系統(tǒng)識(shí)別學(xué)生的身份，進(jìn)而實(shí)施屠殺。

該視頻是由“制止殺人機(jī)器人運(yùn)動(dòng)”（Campaign to Stop Killer Robots）組織制作的，該組織是一個(gè)致力于禁止自主武器的國際聯(lián)盟，生命未來研究所是其中一員。

以下是《致命性自主武器宣言》全文：

人工智能（AI）有望在軍事系統(tǒng)中發(fā)揮越來越大的作用。 公民、政策制定者和領(lǐng)導(dǎo)者有必要區(qū)分人工智能可接受和不可接受的適用范圍。

從這個(gè)角度來看，我們簽署者達(dá)成一致意見：永遠(yuǎn)不應(yīng)將人類生命的決定權(quán)委托給機(jī)器。“道德”是這個(gè)立場(chǎng)的一部分，我們不應(yīng)該讓機(jī)器為那些應(yīng)當(dāng)受處罰的人做出生死決定。另一個(gè)強(qiáng)有力的觀點(diǎn)是：致命的自主武器，在沒有人為干預(yù)的情況下選擇和參與目標(biāo)，將危及每個(gè)國家和個(gè)人的穩(wěn)定。

眾多人工智能研究人員一致認(rèn)為，若是通過致命的自主武器消除人類生命的風(fēng)險(xiǎn)或困難，它們可能成為一種暴力和壓迫的有力工具（尤其是在監(jiān)視和數(shù)據(jù)系統(tǒng)相關(guān)聯(lián)時(shí)）。此外，致命的自主武器具有與核武器，化學(xué)武器和生物武器截然不同的特點(diǎn)，并且單一團(tuán)體的單方面行動(dòng)很容易因國際社會(huì)缺乏技術(shù)工具和全球治理體系而引發(fā)軍備競(jìng)賽。防止發(fā)生這種軍備競(jìng)賽應(yīng)成為國家和全球安全的優(yōu)先考慮事項(xiàng)。

我們聯(lián)名簽署人，呼吁各國政府和政府領(lǐng)導(dǎo)人共建一個(gè)擁有強(qiáng)大的國際規(guī)范、法規(guī)和反對(duì)致命自主武器法律的未來。 這些法律目前是沒有的，我們選擇保持高標(biāo)準(zhǔn)：我們既不參與也不支持致命自主武器的開發(fā)，制造，貿(mào)易往來或使用。 我們要求技術(shù)公司和組織以及領(lǐng)導(dǎo)者，政策制定者和其他個(gè)人加入我們的承諾。

《致命性自主武器宣言》的簽署者將進(jìn)一步敦促將于8月份就自主武器問題舉行會(huì)議的聯(lián)合國在各國之間達(dá)成一致承諾，促使各國禁止自主武器。

未來生命研究所受到霍金、馬斯克支持，AI WORLD關(guān)注機(jī)器智能與人類未來

發(fā)起這次宣言行動(dòng)的未來生命研究所“身世顯赫”。

2015年，研究所剛創(chuàng)立僅1年就收到了來自馬斯克1千萬美元的捐贈(zèng)，并且得到了很多社會(huì)精英和著名組織的支持，包括偉大的物理學(xué)家霍金以及亞馬遜、谷歌、Facebook、微軟、IBM等企業(yè)，以及研發(fā)了AlphaGo的Deepmind公司。

目前，該機(jī)構(gòu)已經(jīng)募集資金超過1億美元，匯聚了8000多位全世界頂級(jí)的人工智能專家，成功地讓 “人工智能安全性”研究迅速在全世界成為了一場(chǎng)轟轟烈烈的運(yùn)動(dòng)。

在未來生命研究所關(guān)注的同時(shí)，AI帶來的改變正在前所有未地改變?nèi)祟惿睿篣ber自動(dòng)駕駛車禍致命事件告訴人們技術(shù)安全的重要性；谷歌千人抗議與軍方合作的項(xiàng)目讓人們思考AI應(yīng)用的邊界；美國制裁中興事件讓國人意識(shí)到“缺芯”的現(xiàn)實(shí)和掌握自主技術(shù)的迫切，國與國之間在AI領(lǐng)域的競(jìng)爭(zhēng)比任何時(shí)候都要激烈。

凡此種種，都將對(duì)世界和中國的AI產(chǎn)業(yè)造成巨大而深遠(yuǎn)的影響，在這個(gè)過程中間，我們的自研核心技術(shù)、基礎(chǔ)科研和原創(chuàng)理論將如何支撐產(chǎn)業(yè)健康發(fā)展？