一、人工智能倫理問(wèn)題開(kāi)始出現(xiàn)個(gè)案

2017年1月，在加利福尼亞州阿西洛馬舉行的BeneficialAl會(huì)議上，近千名人工智能相關(guān)領(lǐng)域的專(zhuān)家，聯(lián)合簽署了著名的《阿西洛馬人工智能23條原則》。

隨后，各種關(guān)于人工智能倫理道德的討論、會(huì)議，以及相關(guān)協(xié)會(huì)和科技組織開(kāi)始出現(xiàn)在公眾視野里。

《23條原則》的主要內(nèi)容，就是呼吁人工智能不能損害人類(lèi)的利益和安全，同時(shí)人工智能必須可以被人類(lèi)控制，同時(shí)人類(lèi)要盡量尊重人工智能和機(jī)器人的安全。

聽(tīng)起來(lái)頗有點(diǎn)科幻的味道，但是在各行各業(yè)開(kāi)始部署AI，尤其開(kāi)始利用AI進(jìn)行自動(dòng)化決策的時(shí)候，人工智能的倫理與道德問(wèn)題或許真的會(huì)浮出水面。

比如說(shuō)，自動(dòng)駕駛車(chē)輛在馬上要發(fā)生事故時(shí)，是優(yōu)先保護(hù)路人還是乘客？假如AI診斷系統(tǒng)，給出的建議是安樂(lè)死，那么它算是殺人嗎？為了避免更大損失，AI系統(tǒng)是否能打破規(guī)則，自行其是？

這其中最著名的，大概就是去年谷歌批評(píng)上海交大某團(tuán)隊(duì)進(jìn)行的「看臉定罪犯」研究。引發(fā)了媒體對(duì)于AI價(jià)值觀的大量討論。

在各個(gè)產(chǎn)業(yè)場(chǎng)景開(kāi)始使用AI技術(shù)時(shí)，隨之而來(lái)的邊界問(wèn)題、責(zé)權(quán)問(wèn)題、道德選擇問(wèn)題這些在實(shí)驗(yàn)室中不會(huì)出現(xiàn)的矛盾將很可能被引發(fā)。

人類(lèi)還從未真正討論過(guò)這些。假如2018年人工智能的落地化足夠快，倫理問(wèn)題的苗頭或許會(huì)臨近。

二、難以根治的的算法歧視

記得2016年，微軟推出過(guò)聊天機(jī)器人Tay，卻因?yàn)橛脩?hù)教給它大量種族歧視和臟話(huà)，一天內(nèi)就被暫時(shí)下線(xiàn)。這引出了一個(gè)極具爭(zhēng)議的話(huà)題：機(jī)器學(xué)習(xí)會(huì)吸收人類(lèi)的知識(shí)和信息來(lái)塑造自己，那么假如它吸收的信息含有大量「不那么純良」的東西呢？

2017年，算法歧視問(wèn)題非但沒(méi)有被解決，各種各樣新的問(wèn)題還應(yīng)運(yùn)而生。比如谷歌大腦會(huì)給女性圖片打上很多關(guān)于家庭、弱勢(shì)的標(biāo)簽，顯然有悖于女權(quán)主義精神；而把黑人識(shí)別為大猩猩，則點(diǎn)燃了AI種族歧視的話(huà)題關(guān)注度。

所謂的算法歧視，對(duì)于普通消費(fèi)者來(lái)說(shuō)，最有可能在內(nèi)容推薦和電商推薦兩個(gè)地方感覺(jué)到。比如說(shuō)消費(fèi)者剛看過(guò)寬大的衣服，電商就推薦減肥藥，很可能讓消費(fèi)者聯(lián)想到算法在歧視自己胖；再比如打開(kāi)今日頭條這類(lèi)軟件的時(shí)候，大家可能都出現(xiàn)過(guò)這種情況：偶爾點(diǎn)了一個(gè)推薦來(lái)的獵奇或者偽色情內(nèi)容，然后再一刷新。好嘛，蜂擁而至的類(lèi)似內(nèi)容啊，你本來(lái)想看的興趣內(nèi)容和專(zhuān)業(yè)內(nèi)容瞬時(shí)間化為烏有。甚至你怎么點(diǎn)我不關(guān)心不喜歡，平臺(tái)還是給你推薦。這就是因?yàn)樗惴ǖ臍w類(lèi)方式給你貼上了標(biāo)簽。這種歧視感也蠻嚴(yán)重的，好像背后有個(gè)人奸笑著對(duì)你說(shuō)：「承認(rèn)吧，你就是這么低俗…」

這類(lèi)問(wèn)題的根源，是機(jī)器學(xué)習(xí)技術(shù)進(jìn)行個(gè)性推薦，今天還必須建立在兩個(gè)邏輯的基礎(chǔ)上：以過(guò)去算將來(lái)，以群體算個(gè)體。算法會(huì)吸收以前有過(guò)的經(jīng)驗(yàn)來(lái)給你特定的某些東西，但很有可能歧視信息就包含在機(jī)器吸收的經(jīng)驗(yàn)里。

在個(gè)性推薦系統(tǒng)越來(lái)越多場(chǎng)景應(yīng)用可能的今天，我們恐怕短期內(nèi)還難以根治算法的歧視。

三、私人數(shù)據(jù)與機(jī)器

學(xué)習(xí)的矛盾日益凸顯

人工智能和個(gè)人隱私，似乎從來(lái)都是一對(duì)天敵。

因?yàn)槿斯ぶ悄芗夹g(shù)假如想要提供個(gè)性化、完全符合個(gè)人習(xí)慣的服務(wù)，那么就必然要學(xué)習(xí)和理解用戶(hù)本身。而這其中，就涉及對(duì)用戶(hù)私人數(shù)據(jù)的學(xué)習(xí)。

但出于隱私的考慮，以及對(duì)網(wǎng)絡(luò)安全的不信任，大部分用戶(hù)顯然是不希望透露自己數(shù)據(jù)給機(jī)器的。

從而「雞生蛋蛋生雞」的矛盾就產(chǎn)生了。

近兩年，用AI來(lái)讀取用戶(hù)個(gè)人數(shù)據(jù)這件事一直處在被壓抑和不能提的狀態(tài)。更早一點(diǎn)的時(shí)候，蘋(píng)果和谷歌等大公司都推出過(guò)讓AI讀懂用戶(hù)的產(chǎn)品，但很快就被輿論抨擊給關(guān)停了。即使這樣，谷歌去年推出的家用AI相機(jī)還是飽受詬病。

在2017年后半段，我們看到了AI芯片拉開(kāi)了風(fēng)云際會(huì)的爭(zhēng)奪序幕。但是搭載AI芯片的硬件一定要有的放矢，有任務(wù)可以完成。于是讓硬件讀懂用戶(hù)、讓系統(tǒng)根據(jù)用戶(hù)數(shù)據(jù)提供千人千面的服務(wù)，勢(shì)必會(huì)重新回到公共視野里。

其實(shí)從大趨勢(shì)上看，把個(gè)人數(shù)據(jù)交給機(jī)器似乎是人類(lèi)不可避免的歸宿。無(wú)論是醫(yī)療健康、金融服務(wù)還是社會(huì)安全，機(jī)器肯定都比人類(lèi)更靠譜。只是這其中經(jīng)歷的不適感和安全風(fēng)險(xiǎn)是巨大的。

在2018年，無(wú)論是手機(jī)、音箱、穿戴設(shè)備、VR，在啟用了機(jī)器學(xué)習(xí)能力后，似乎都要重新沾惹隱私數(shù)據(jù)這條紅線(xiàn)。

究竟怎么處理這個(gè)矛盾，也是挺讓人頭疼的。