由MIT媒體實(shí)驗(yàn)室領(lǐng)銜，哈佛、耶魯、馬普所等院所和微軟、谷歌、臉書(shū)等公司的多位研究者參與的課題組，近日在 Nature 發(fā)表了一篇以 “Machine behaviour” 為題的綜述文章，宣告 “機(jī)器行為學(xué)” 這門(mén)跨越多個(gè)研究領(lǐng)域的新興學(xué)科正式誕生。

人工智能正在成為人類(lèi)社會(huì)的重要組成部分，大量人機(jī)倫理問(wèn)題正在被提出和解決，科學(xué)家們正在像研究人類(lèi)和動(dòng)物行為那樣，深入研究機(jī)器和機(jī)器群體的宏觀行為規(guī)律。

由麻省理工學(xué)院媒體實(shí)驗(yàn)室研究人員領(lǐng)銜，哈佛、耶魯、馬普所等院所和微軟、谷歌、臉書(shū)等公司的多位研究者參與的課題組，近日在 Nature 發(fā)表了一篇以 “Machine behaviour” 為題的綜述文章，宣告 “機(jī)器行為學(xué)” 這門(mén)跨越多個(gè)研究領(lǐng)域的新興學(xué)科正式誕生。本文約 12000 字。

目錄

一、 研究機(jī)器行為的動(dòng)機(jī)

二、 機(jī)器行為學(xué)的跨學(xué)科研究

三、 研究對(duì)象與研究問(wèn)題

四、 三種研究范圍：個(gè)體、群集與人機(jī)交互

五、 展望：機(jī)器行為學(xué)將如何發(fā)展？

由人工智能驅(qū)動(dòng)的機(jī)器正不斷塑造著我們與媒體、社會(huì)、文化、經(jīng)濟(jì)、政治的互動(dòng)。了解人工智能系統(tǒng)的行為是應(yīng)用時(shí)揚(yáng)長(zhǎng)避短的基礎(chǔ)，因此有必要把機(jī)器行為學(xué)（Machine behaviour）的研究范圍從計(jì)算機(jī)學(xué)科擴(kuò)大，融合各個(gè)學(xué)科的見(jiàn)解。本文首先總覽了一系列關(guān)于機(jī)器行為學(xué)這個(gè)新興學(xué)科的基礎(chǔ)問(wèn)題，隨后探索了在這個(gè)學(xué)科上技術(shù)、法律和制度帶來(lái)的研究限制。

諾貝爾獎(jiǎng)得主 Herbert Simon 在 1969 年發(fā)表了一本人工智能發(fā)展史上里程碑式的著作 ——《人工科學(xué)》（ The Sciences of the Artificial），其中他寫(xiě)到：“自然科學(xué)是關(guān)于自然物體與現(xiàn)象的知識(shí)。我們想知道是不是有一種‘人工’科學(xué)，研究人造物和它們的現(xiàn)象。”

人工智能先驅(qū) Herbert Simon 及其著作 The Sciences of the Artificial

和 Simon 的思想一致，我們這樣描述一個(gè)新興的交叉學(xué)科：這個(gè)學(xué)科研究智能機(jī)器，但是并不是從工程機(jī)器的角度去理解它們，而是將其視為一系列有自己行為模式及生態(tài)反應(yīng)的個(gè)體。

這個(gè)領(lǐng)域與計(jì)算機(jī)和機(jī)器人學(xué)科有關(guān)聯(lián)性，但是又相互獨(dú)立。從經(jīng)驗(yàn)的角度去解釋智能機(jī)器的行為，類(lèi)似于結(jié)合了生命內(nèi)部特質(zhì)（生理和生化特質(zhì)）與外部環(huán)境塑造的特質(zhì)（生態(tài)與進(jìn)化）的行為生態(tài)學(xué)和動(dòng)物行為學(xué)研究。要想完整研究動(dòng)物的行為和人類(lèi)的行為，周?chē)沫h(huán)境背景必須也被考慮進(jìn)去。相似的，要想完全了解機(jī)器的行為，我們也得考慮算法以及算法所在的社會(huì)環(huán)境。

現(xiàn)在，研究這些虛擬的或者嵌入式的人工智能體（artificial intelligence (AI) agents）的行為的科學(xué)家基本上是那批創(chuàng)造它們的人本身。當(dāng)科學(xué)家創(chuàng)造這些智能體來(lái)解決他們的問(wèn)題時(shí)，他們通常會(huì)致力于保證這些算法能滿足他們需要的功能。

從始至終，我們用人工智能體（AI agents）這個(gè)術(shù)語(yǔ)來(lái)描述用于決策或繁或簡(jiǎn)的算法。

例如，在分類(lèi)、面部識(shí)別、視覺(jué)識(shí)別領(lǐng)域的智能體，應(yīng)當(dāng)滿足一個(gè)標(biāo)準(zhǔn)的精度要求。自動(dòng)駕駛車(chē)應(yīng)當(dāng)在一系列設(shè)定的天氣情況下都能成功導(dǎo)航。玩游戲的智能體應(yīng)當(dāng)能夠擊敗一系列設(shè)定的人類(lèi)和機(jī)器對(duì)手。數(shù)據(jù)挖掘智能體應(yīng)當(dāng)能夠了解應(yīng)該在推廣競(jìng)選和社交媒體中該鎖定哪幾個(gè)目標(biāo)。這些例子只是相關(guān)領(lǐng)域的一小部分。

這些人工智能體正在各個(gè)方面擴(kuò)展人類(lèi)的福利，但是現(xiàn)在關(guān)于人工智能體行為的更廣泛的考慮讓問(wèn)題多出幾分批判性的思考。

人工智能將會(huì)越來(lái)越多的融入我們的社會(huì)中。它們已經(jīng)被應(yīng)用在諸如信用評(píng)估、算法交易、地方治安、假釋決定、自動(dòng)駕駛、在線約會(huì)、無(wú)人機(jī)戰(zhàn)爭(zhēng)中了。認(rèn)知系統(tǒng)工程、人機(jī)交互、人類(lèi)因素、科學(xué)、技術(shù)、社會(huì)、安全工程等不同領(lǐng)域來(lái)的學(xué)者和思想家探討人工智能體那些超出創(chuàng)造者預(yù)期的，既包括正面也包括負(fù)面的預(yù)測(cè)行為及后續(xù)后果，為我們敲響了警鐘。

除了缺乏圍繞 AI 可能帶來(lái)影響的預(yù)期，結(jié)合不斷增加的機(jī)器替代原本直接由人類(lèi)承擔(dān)的工作的現(xiàn)狀，因缺乏人類(lèi)監(jiān)管而造成的潛在危害是另一個(gè)令專(zhuān)家們懼怕的事情。同時(shí)，研究者也稱(chēng)人工智能體可以通過(guò)幫助和增強(qiáng)人類(lèi)決策能力的方式擴(kuò)大社會(huì)福利。雖然關(guān)于這些事情的討論導(dǎo)致在不同的領(lǐng)域產(chǎn)生了新見(jiàn)解，在自治系統(tǒng)（autonomous systems）等上仍有很多安全性方面的挑戰(zhàn)，比如公平性、義務(wù)、透明性等方面。

ACM 公平、義務(wù)與透明性專(zhuān)題會(huì)議：

https://fatconference.org/

這篇綜述將介紹這一新興交叉學(xué)科：機(jī)器行為學(xué)（Machine behaviour），主要研究智能機(jī)器所表現(xiàn)出的行為。

在這里，我們給出關(guān)鍵研究主題、問(wèn)題和里程碑研究的大綱作為此門(mén)學(xué)科的例證。我們首先給出了機(jī)器行為學(xué)和這門(mén)學(xué)科必然具有的交叉學(xué)科特質(zhì)，然后我們提供了研究這門(mén)學(xué)科的概念化框架。我們用加大機(jī)器與人 - 機(jī)生態(tài)學(xué)科研究的呼吁與學(xué)科的技術(shù)、法律、機(jī)構(gòu)上的研究障礙的討論來(lái)結(jié)束這篇綜述。

機(jī)器行為學(xué)來(lái)自多個(gè)學(xué)科的交叉、融合

一、 研究機(jī)器行為學(xué)的動(dòng)機(jī)

機(jī)器行為學(xué)的研究動(dòng)機(jī)有三：

首先，很多在我們的生活中被運(yùn)行的算法正起到越來(lái)越重要的角色；

其次，因?yàn)椴还馐沁@些算法，還有算法運(yùn)行的環(huán)境的復(fù)雜特質(zhì)，光依靠分析手段是很難了解它們的行為的；

另外，智能算法的廣泛存在和復(fù)雜性給預(yù)測(cè)算法對(duì)人類(lèi)潛在的或正或負(fù)的影響帶來(lái)了挑戰(zhàn)。

無(wú)處不在的算法

如今，多種多樣算法正在社會(huì)中前所未有得的廣泛應(yīng)用；新聞排名算法和社交媒體機(jī)器人影響人民所聽(tīng)所看的信息。信評(píng)分算法會(huì)影響銀行貸決策。在線定價(jià)算法給不同的用戶(hù)定價(jià)，算法交易軟件使得交易變得迅速。算法塑造了警務(wù)調(diào)度的派遣和空間格局，算法審判會(huì)影響刑事系統(tǒng)中犯人的服刑時(shí)間。自動(dòng)駕駛車(chē)穿越我們的城市，共享交通算法會(huì)改變傳統(tǒng)車(chē)輛的行駛模式。機(jī)器繪制家中的地圖，對(duì)口頭命令做出反應(yīng)，執(zhí)行常規(guī)的家務(wù)。

在線約會(huì)服務(wù)中，算法負(fù)責(zé)促成浪漫的相會(huì)。機(jī)器有可能更多得替代人類(lèi)承擔(dān)起照顧老人和小孩的工作。自治體正影響著我們的集體行為（collective behaviours），從群體層面的配合行為到共享行為。延伸一下，雖然發(fā)展自動(dòng)武器是高度限制的，但不是所有人都不都這么想，如果這類(lèi)武器被發(fā)明了，機(jī)器將在戰(zhàn)爭(zhēng)中決定人的生死。

在線約會(huì)服務(wù)中，算法匹配人的連接

算法的復(fù)雜性和不透明性

即便個(gè)別算法是相對(duì)簡(jiǎn)單的，研究像人工智能系統(tǒng)這樣多樣且廣泛的對(duì)象的行為是件難以想象的困難事情。

輸出難以解釋

目前，單個(gè)人工智能體的復(fù)雜性已經(jīng)很高，并且在持續(xù)增長(zhǎng)，雖然構(gòu)架它們的代碼和訓(xùn)練模型用的訓(xùn)練可以簡(jiǎn)潔，但是訓(xùn)練后的模型就完全不會(huì)有這么簡(jiǎn)單了，這經(jīng)常導(dǎo)致 “黑箱（black boxes）” 的產(chǎn)生。人工智能體接受輸入，然后輸出，但是即便在 “可解釋性（interpretability）” 上的一些應(yīng)用場(chǎng)景已經(jīng)有了進(jìn)展的現(xiàn)狀下，人工智能體實(shí)際產(chǎn)生這些輸出的過(guò)程是架構(gòu)它們的科學(xué)家自己也難解釋的。

數(shù)據(jù)集的收集與版權(quán)限制

此外，當(dāng)系統(tǒng)從數(shù)據(jù)中學(xué)習(xí)，它們的失敗通常被歸結(jié)為數(shù)據(jù)本身或者數(shù)據(jù)收集上的謬誤，導(dǎo)致一些關(guān)于改進(jìn)數(shù)據(jù)收集機(jī)制的討論。數(shù)據(jù)集的維度和數(shù)據(jù)量這一層面也增加了我們理解人工智能的難度。

更進(jìn)一步使得這個(gè)問(wèn)題棘手的現(xiàn)實(shí)是，很多在社會(huì)中使用頻率最高的源代碼、模型、數(shù)據(jù)集實(shí)際上是有版權(quán)的。為智慧資產(chǎn)而存在的工業(yè)保密政策和法律保護(hù)著這些源代碼和模型。在很多場(chǎng)景下，公眾只能觀察到 AI 系統(tǒng)的輸入和輸出。

就算這些代碼和模型對(duì)我們開(kāi)源，我們也不太可能就由此能準(zhǔn)確預(yù)測(cè)出這些模型的輸出。人工智能體在和周?chē)h(huán)境與其他智能單元相互作用的時(shí)候可以表現(xiàn)得很 “特立獨(dú)行”。即便形成它的數(shù)學(xué)函數(shù)是存在解析解的，那這個(gè)解析解也會(huì)因?yàn)槿唛L(zhǎng)復(fù)雜的結(jié)構(gòu)而難解其意。

原論文圖 1

算法于人類(lèi)的利弊

無(wú)處不在的，日益復(fù)雜的算法，它們放大了人類(lèi)估計(jì)和預(yù)測(cè)它們對(duì)個(gè)人和社會(huì)影響的難度。人工智能體正以意料之中和之外的方式塑造人類(lèi)的行為和社會(huì)結(jié)果。

造福還是“造亂”？這是個(gè)問(wèn)題

如一些人工智能體被設(shè)計(jì)用來(lái)幫助孩子們，或是幫助老年人安全移動(dòng)來(lái)造福人類(lèi)。然而，如果這種用來(lái)造福人類(lèi)的力量在” 意料之外的情況下 “偏離了初衷，就會(huì)出現(xiàn)類(lèi)似孩子們被植入廣告買(mǎi)特定產(chǎn)品，老年人被固定只能選擇特定的電視節(jié)目等類(lèi)似的情況。

此類(lèi)算法對(duì)個(gè)體的正負(fù)面影響可以擴(kuò)大到社會(huì)層面，這種危機(jī)感一直縈繞在我們心頭。舉個(gè)例子，不小心傳播給一小部分人的政治誤報(bào)可能在整個(gè)社會(huì)層面上掀不起什么風(fēng)浪，但是，這些信息在社交媒體上的植入和擴(kuò)張則會(huì)產(chǎn)生更惡劣的社會(huì)后果。更進(jìn)一步說(shuō)，關(guān)于算法公平性或偏見(jiàn)性問(wèn)題已經(jīng)在很多場(chǎng)景，例如計(jì)算機(jī)視覺(jué)、詞嵌入、廣告、監(jiān)管、刑事審判和社會(huì)服務(wù)中存在了。

在不斷復(fù)雜化的人 - 機(jī)混合系統(tǒng)的背景下，人類(lèi)只能自負(fù)盈虧

為了應(yīng)對(duì)這些問(wèn)題，從業(yè)者有時(shí)候被迫做出各種偏見(jiàn)之間的取舍，或者，人類(lèi)和機(jī)器之間的取舍。更多關(guān)于算法效果的問(wèn)題仍然存在，例如網(wǎng)戀算法會(huì)如何影響婚姻制度，或者人類(lèi)和智能算法之間的相互作用是否會(huì)系統(tǒng)性的影響人類(lèi)發(fā)展的進(jìn)程。這些問(wèn)題在不斷復(fù)雜化的人類(lèi) - 機(jī)器混合系統(tǒng)的背景下變得越發(fā)難解。為了社會(huì)能夠監(jiān)管 AI 可能造成的后續(xù)后果，機(jī)器行為學(xué)家必須提供見(jiàn)解來(lái)幫我們理解社會(huì)中無(wú)處不在的這些系統(tǒng)如何工作，以及代價(jià)如何取舍。

人 - 機(jī)混合系統(tǒng)趨于復(fù)雜，算法設(shè)計(jì)需要機(jī)器行為學(xué)的指導(dǎo)

二、 機(jī)器行為學(xué)的跨學(xué)科研究

為了研究機(jī)器在現(xiàn)實(shí)環(huán)境中的行為，特別是 “黑箱” 算法的行為，我們必須整合跨越其他學(xué)科的知識(shí)和見(jiàn)解。這種整合現(xiàn)在正處于一種不成熟的階段，現(xiàn)在很多在一種特定方式研究。

原論文圖 2

跨學(xué)科研究，使算法性能最大化

最近，研究機(jī)器行為學(xué)的科學(xué)家們大多是最初設(shè)計(jì)這些機(jī)器的計(jì)算機(jī)科學(xué)家，機(jī)器人學(xué)家和工程師。這些科學(xué)家可以是熟練的數(shù)學(xué)家和工程師，但是他們基本上沒(méi)有行為學(xué)上的訓(xùn)練。他們很少接觸實(shí)驗(yàn)方面的方法論，基于群體的抽樣訓(xùn)練，或者基于觀察的因果推理，更不用說(shuō)神經(jīng)科學(xué)、集體行為學(xué)或者社會(huì)理論了。

相反的，即使行為學(xué)家更多的在這些方面有建樹(shù)，但是他們很少掌握對(duì)于衡量某個(gè)領(lǐng)域中人工智能質(zhì)量和正當(dāng)性，或者特定算法所必要的專(zhuān)業(yè)知識(shí)。

整合從各行各業(yè)來(lái)的科學(xué)家不是一件容易的事情。到目前為止，那些創(chuàng)建人工智能系統(tǒng)的人的主要關(guān)注點(diǎn)一直是構(gòu)建、實(shí)現(xiàn)和優(yōu)化智能系統(tǒng)，以執(zhí)行特定的任務(wù)。

在很多基準(zhǔn)任務(wù)上，智能體取得了出色的進(jìn)展，比如棋盤(pán)游戲中的西洋棋、國(guó)際象棋、圍棋，紙牌游戲比如 poker，電子游戲比如雅達(dá)利平臺(tái)上的（美國(guó)游戲制造商），人工智能市場(chǎng)游戲，機(jī)器人足球，當(dāng)然還有基準(zhǔn)評(píng)價(jià)用數(shù)據(jù)比如 ImageNet 上用于物體識(shí)別的數(shù)據(jù)和 Microsoft Common Objects in Context 為圖像標(biāo)注的數(shù)據(jù)庫(kù)。在語(yǔ)音識(shí)別，翻譯和自動(dòng)駕駛車(chē)等方面的成就也存在。

AlphaGo 及其后續(xù)改進(jìn)版接連戰(zhàn)勝頂尖棋手，被認(rèn)為是人工智能算法性能提升的里程碑事件

這些測(cè)試基準(zhǔn)可以作為一些標(biāo)準(zhǔn)化了的任務(wù)評(píng)價(jià)標(biāo)準(zhǔn)，也能用來(lái)提升性能，這是用一個(gè)代理式的評(píng)價(jià)標(biāo)準(zhǔn)來(lái)幫助 AI 設(shè)計(jì)者去設(shè)計(jì)更快、更穩(wěn)健的算法。

機(jī)器行為學(xué)推崇的評(píng)價(jià)指標(biāo)

但是，希望算法性能最大化的方法對(duì)于人工智能體的研究來(lái)講并不是最佳的。比起利用基準(zhǔn)數(shù)據(jù)集做評(píng)價(jià)算法性能上的優(yōu)化，機(jī)器行為學(xué)家對(duì)一系列指標(biāo)更感興趣。

這就像是社會(huì)學(xué)家的探索 —— 在社會(huì)，政治背景下探索人類(lèi)行為；定義宏觀或微觀社會(huì)結(jié)果的評(píng)價(jià)來(lái)回答例如算法在不同的環(huán)境下如何行動(dòng)，人類(lèi)和算法的互動(dòng)會(huì)不會(huì)影響社會(huì)結(jié)果之類(lèi)的問(wèn)題。

隨機(jī)實(shí)驗(yàn)、觀察推斷和基于群體的統(tǒng)計(jì)學(xué)描述方法是經(jīng)常性用在定量行為學(xué)研究中的，對(duì)于機(jī)器行為學(xué)來(lái)講極其重要。從制造智能機(jī)器的學(xué)科延伸整合其他學(xué)科的學(xué)者可以提供重要方法性工具、研究工具、多種可選的概念性框架，和人工智能體對(duì)經(jīng)濟(jì)、社會(huì)和政治可能造成影響。

三、 研究問(wèn)題和研究對(duì)象

因創(chuàng)立了動(dòng)物行為學(xué)而獲得諾貝爾生理或醫(yī)學(xué)獎(jiǎng)的 Nikolaas Tinbergen 指出了四個(gè)維度上的行為學(xué)分析，幫助解釋了動(dòng)物行為。這些維度討論一個(gè)行為的功能、原理、發(fā)展與進(jìn)化史，提供了一個(gè)有組織的框架來(lái)研究動(dòng)物和人類(lèi)的行為。

這個(gè)概念化的框架把年輕動(dòng)物或人類(lèi)某項(xiàng)行為的發(fā)展和群體中這個(gè)行為的進(jìn)化軌跡分開(kāi)進(jìn)行研究。這種區(qū)分的目的不是為了更好理解我們研究對(duì)象的全部。例如，雖然我們通過(guò)鳥(niǎo)學(xué)習(xí)鳴叫或者通過(guò)鳥(niǎo)叫的進(jìn)化都可以來(lái)解釋一個(gè)鳥(niǎo)歌聲為什么形成，但是要完全了解鳥(niǎo)叫的全貌，兩方面我們都要考慮。

雖然機(jī)器和動(dòng)物有著物理本質(zhì)上的區(qū)別，對(duì)智慧機(jī)器行為研究可以從動(dòng)物行為的研究上得到幫助。機(jī)器有產(chǎn)生行為的內(nèi)在機(jī)制，這些行為在和環(huán)境的互動(dòng)獲得信息，得到發(fā)展。產(chǎn)生了功能，導(dǎo)致特定的機(jī)器變得或多或少出現(xiàn)在它們所對(duì)應(yīng)的環(huán)境中，并且它們貫穿過(guò)去環(huán)境的進(jìn)化史和人類(lèi)的決策正不斷影響著機(jī)器的行為。

計(jì)算機(jī)科學(xué)的學(xué)者在研究 AI 系統(tǒng)的機(jī)理和發(fā)展方面已經(jīng)取得了潛在的收益，即便很多問(wèn)題仍然存在。AI 系統(tǒng)的功能和進(jìn)化相對(duì)較少受到重視。我們將在討論這四個(gè)主題，并提供圖 3 作總結(jié)。

原論文圖 3：計(jì)算機(jī)科學(xué)的學(xué)者在研究 AI 系統(tǒng)的機(jī)理和發(fā)展方面已經(jīng)取得了潛在的收益，即便很多問(wèn)題仍然存在。AI 系統(tǒng)的功能和進(jìn)化相對(duì)較少受到重視。

行為產(chǎn)生的機(jī)理

機(jī)器行為的最主要的成因應(yīng)與它的激發(fā)條件和它產(chǎn)生的環(huán)境有關(guān)。例如早期的算法交易軟件用簡(jiǎn)單的規(guī)則來(lái)激發(fā)買(mǎi)賣(mài)行為。更復(fù)雜的人工智能體可能依賴(lài)適應(yīng)性啟發(fā)算法或者在特定用途中明確的優(yōu)化方式。玩紙牌的強(qiáng)化學(xué)習(xí)算法的行為可以歸因于它表示狀態(tài)空間或者計(jì)算游戲樹(shù)特定的方式。

機(jī)制由算法和環(huán)境共同決定，更復(fù)雜的人工智能體例如無(wú)人駕駛汽車(chē)可能表現(xiàn)出特定的駕駛行為。比如變道、超車(chē)、對(duì)行人發(fā)出信號(hào)。這些行為會(huì)依據(jù)構(gòu)建起駕駛政策的算法而產(chǎn)生，并且也會(huì)從根本上被車(chē)的本身的感知和行動(dòng)系統(tǒng)所改造。包括汽車(chē)識(shí)別物體的精度和分辨率，分類(lèi)系統(tǒng)，駕駛的反應(yīng)能力和精度。

因?yàn)楹芏喱F(xiàn)有的 AI 系統(tǒng)源于使用日益復(fù)雜的數(shù)據(jù)的機(jī)器學(xué)習(xí)手段，研究機(jī)器行為背后的機(jī)制，如上文所述，將需要繼續(xù)研究機(jī)器學(xué)習(xí)的可解釋性方法。

深度學(xué)習(xí)至今仍是未被打開(kāi)的黑箱

行為的發(fā)展

在動(dòng)物行為的研究中，發(fā)育指的是個(gè)體如何獲得特定行為，比如通過(guò)模仿或者由于環(huán)境條件導(dǎo)致。這區(qū)別于長(zhǎng)期的、進(jìn)化性的變化。

在機(jī)器的背景下，我們想問(wèn)的是：機(jī)器是如何決定個(gè)體或者集群的行為的？行為的發(fā)展可以直接由于人類(lèi)工程工作或設(shè)計(jì)。編程者做出的架構(gòu)上設(shè)計(jì)決策（比如學(xué)習(xí)率參數(shù)的值，知識(shí)和狀態(tài)的獲取，或卷積神經(jīng)網(wǎng)絡(luò)的特定連接方式）確定或影響算法會(huì)表現(xiàn)出的行為。

機(jī)器可能因工程師將其置于特定的訓(xùn)練環(huán)境下而塑造特定行為。例如，很多圖像和文檔分類(lèi)算法用人手工標(biāo)記過(guò)的數(shù)據(jù)庫(kù)作為訓(xùn)練數(shù)據(jù)來(lái)提升算法精度。數(shù)據(jù)庫(kù)的選取和它們所包含的特征可以潛在影響這些算法的行為。

最后，機(jī)器可能會(huì)在自己的經(jīng)驗(yàn)中習(xí)得某些行為。例如，一個(gè)被訓(xùn)練來(lái)優(yōu)化長(zhǎng)期利潤(rùn)的強(qiáng)化學(xué)習(xí)人工智能體可以因?yàn)檫^(guò)去自己的一些行動(dòng)和市場(chǎng)隨后的反饋學(xué)到特定的，短線交易策略。同樣，商品推薦算法可以根據(jù)用戶(hù)無(wú)盡的選擇來(lái)推薦產(chǎn)品，也能實(shí)時(shí)更新。

功能與適應(yīng)

在動(dòng)物行為學(xué)的研究中，適應(yīng)值（adaptive value）描述了一個(gè)行為能多大程度貢獻(xiàn)一個(gè)個(gè)體生存和留下后代的能力。例如，一個(gè)特別的狩獵行為可以或多或少增加狩獵成功度，那么這個(gè)行為就可以延長(zhǎng)這個(gè)生物的生命長(zhǎng)度和子代數(shù)量，然后它的子代也可能繼承它的這種功能。

對(duì)功能的關(guān)注能幫助我們理解為什么一些行為的機(jī)制就能發(fā)揚(yáng)光大，但是另外一些隨著時(shí)間推進(jìn)漸漸衰弱并消失。功能之所以存在，強(qiáng)烈依賴(lài)于行為本身適應(yīng)環(huán)境。

在機(jī)器的的例子里，我們可以討論這種行為如何為特定的利益相關(guān)群體提供服務(wù)。人類(lèi)環(huán)境創(chuàng)造了選擇壓力，這可能使一些有適應(yīng)性的智能體變得普遍。成功的（提高適應(yīng)性）行為獲得增值的機(jī)會(huì)，如被其他類(lèi)型的軟件或者硬件復(fù)制走，或者它們本身自己就可以增殖。

這背后的根本推動(dòng)力是一些使用和構(gòu)架人工智能的機(jī)構(gòu)的成功，如企業(yè)、醫(yī)院、政府和大學(xué)。最明顯的例子是算法交易，在算法交易中，成功的自動(dòng)交易策略可以在開(kāi)發(fā)人員從一家公司跳槽到另一家公司時(shí)被復(fù)制，也可以簡(jiǎn)單講，被競(jìng)爭(zhēng)對(duì)手觀察和反向架構(gòu)。

這種動(dòng)力，可以產(chǎn)生出人意料的效果。例如，像最大化社交媒體網(wǎng)站參與度的這樣的目標(biāo)可能會(huì)導(dǎo)致信息繭房（filter bubbles），它可能會(huì)加劇政治兩極分化，又或者在缺少監(jiān)管的條件下，可能會(huì)助長(zhǎng)假新聞的擴(kuò)散。

過(guò)度使用社交媒體會(huì)讓我們陷入信息繭房

但是，那些沒(méi)有針對(duì)用戶(hù)參與進(jìn)行優(yōu)化的網(wǎng)站也許會(huì)比做了這方面工作的網(wǎng)站冷清，或者可能完全停止運(yùn)營(yíng)。 同樣，在沒(méi)有外部監(jiān)管的情況下，不優(yōu)先考慮自己攜帶乘客安全的自動(dòng)駕駛汽車(chē)對(duì)消費(fèi)者的吸引力可能較小，導(dǎo)致銷(xiāo)量降低。

有時(shí)機(jī)器的某些行為背后的功能是為了應(yīng)對(duì)其他機(jī)器的行為。 對(duì)抗性攻擊，用假輸入信息愚弄 AI 系統(tǒng)產(chǎn)生一個(gè)不需要的輸出。在 AI 系統(tǒng)和被設(shè)計(jì)用來(lái)抵抗這些潛在攻擊的反饋中，這些攻擊會(huì)導(dǎo)致復(fù)雜的捕食者 - 食物動(dòng)力學(xué)。這個(gè)過(guò)程很難僅依賴(lài)單獨(dú)研究機(jī)器本身而被理解。

這些例子強(qiáng)調(diào)了外部組織機(jī)構(gòu)和經(jīng)濟(jì)力量所能產(chǎn)生的直接且大量對(duì)于機(jī)器行為的刺激。

理解這些外界刺激和 AI 之間的互動(dòng)對(duì)我們研究機(jī)器行為是有關(guān)的。反過(guò)來(lái)，外界的這些市場(chǎng)動(dòng)態(tài)又會(huì)與其他過(guò)程相互作用，讓機(jī)器和算法產(chǎn)生進(jìn)化。

進(jìn)化

在研究動(dòng)物行為的過(guò)程中系統(tǒng)發(fā)生學(xué)描述了一個(gè)行為是怎么進(jìn)化的。在現(xiàn)有功能的基礎(chǔ)上，行為是被過(guò)去的選擇壓力所影響的，進(jìn)化的機(jī)制。

早期進(jìn)化機(jī)制影響深遠(yuǎn)

例如人類(lèi)手是由硬骨魚(yú)的魚(yú)鰭所進(jìn)化而來(lái)的。它現(xiàn)如今的功能已經(jīng)不是為游泳而存在的了，但是它的內(nèi)部結(jié)構(gòu)能解釋發(fā)生在它身上的進(jìn)化史。非選擇壓力的作用，比如種群的遷移或者遺傳漂變也很重要，它們能解釋各種不同形式行為之間的關(guān)系。

在機(jī)器的情況下，進(jìn)化歷史也可以產(chǎn)生路徑依賴(lài)（path dependence），解釋其他令人費(fèi)解的行為。在進(jìn)化的每一階段中，算法從各個(gè)角度在在新的環(huán)境中被重新使用，它可以成為未來(lái)可能行為的局限，又使得在這個(gè)基礎(chǔ)上的其他創(chuàng)新成為可能。

例如，微處理器設(shè)計(jì)的早期設(shè)計(jì)繼續(xù)影響現(xiàn)代計(jì)算機(jī)，并且算法設(shè)計(jì)中的傳統(tǒng)，例如神經(jīng)網(wǎng)絡(luò)和貝葉斯?fàn)顟B(tài)空間模型，構(gòu)建了許多假設(shè)并通過(guò)使一些新的算法相對(duì)更容易使用來(lái)指導(dǎo)未來(lái)的算法革新。

因此，某些算法可能會(huì)關(guān)注某些功能而忽略其他功能，因?yàn)檫@些功能在早期某些程序的成功中至關(guān)重要。

計(jì)算機(jī)一直在持續(xù)進(jìn)化

機(jī)器進(jìn)化的特殊性

一些機(jī)器行為可能會(huì)廣泛傳播，因?yàn)樗?“可進(jìn)化的” —— 容易修改并且相對(duì)擾動(dòng)信息很穩(wěn)健，類(lèi)似于動(dòng)物的某些特征可能是廣泛存在于各種動(dòng)物中的，因?yàn)檫@些特征促進(jìn)了多樣性和穩(wěn)定性。

機(jī)器行為的進(jìn)化與動(dòng)物行為的進(jìn)化不同，大多數(shù)動(dòng)物的遺傳是簡(jiǎn)單的，兩個(gè)雙親一次性決定子代。算法要靈活得多，而且它們背后通常有一個(gè)帶著目的設(shè)計(jì)者。

人類(lèi)環(huán)境通過(guò)改變算法的繼承體系，強(qiáng)烈地影響著算法的進(jìn)化過(guò)程。AI 復(fù)制行為可能被開(kāi)源軟件、網(wǎng)絡(luò)架構(gòu)的細(xì)節(jié)和潛在的訓(xùn)練數(shù)據(jù)集所促進(jìn)。

例如，為無(wú)人駕駛汽車(chē)開(kāi)發(fā)軟件的公司可能會(huì)共享用于目標(biāo)檢測(cè)或路徑規(guī)劃，增強(qiáng)后的開(kāi)源數(shù)據(jù)庫(kù)，以及作為這些算法的訓(xùn)練數(shù)據(jù)集，目的是使增強(qiáng)安全性的軟件能夠在整個(gè)行業(yè)推廣。

通過(guò)軟件更新，一輛特定的無(wú)人駕駛汽車(chē)行為中的一個(gè)適應(yīng)性的 “突變” 就有可能立刻傳播到數(shù)百萬(wàn)其他汽車(chē)上。然而，其他機(jī)構(gòu)也會(huì)做出限制。例如，軟件專(zhuān)利可能會(huì)對(duì)特定機(jī)器行為的復(fù)制加以限制。法規(guī)限制，比如隱私保護(hù)法，可能會(huì)阻止機(jī)器在決策過(guò)程中訪問(wèn)、保存或以其他方式使用隱私相關(guān)的信息。這些案例說(shuō)明機(jī)器可能呈現(xiàn)出非常不同的進(jìn)化軌跡，因?yàn)樗鼈儾辉谟袡C(jī)體進(jìn)化那一套機(jī)理的約束之下。

四、 三種研究范圍：個(gè)體、群集與人機(jī)交互

通過(guò)上文和圖 3 中所概述的框架，我們現(xiàn)在在三個(gè)調(diào)查范圍內(nèi)對(duì)機(jī)器行為的示例進(jìn)行編目：個(gè)體機(jī)器、集群、和嵌入處在混合或異構(gòu)系統(tǒng)的人類(lèi)社交環(huán)境中的機(jī)器群組（ 圖 4）。

原論文圖 4

個(gè)體機(jī)器行為強(qiáng)調(diào)算法本身的研究，集體機(jī)器行為強(qiáng)調(diào)研究機(jī)器之間的相互作用，混合人機(jī)行為強(qiáng)調(diào)研究機(jī)器與人類(lèi)之間的相互作用。 在這里，我們可以類(lèi)推為對(duì)特定物種的研究，研究物種成員之間的相互作用以及物種與更寬泛環(huán)境之間的相互作用。 上述三種分析可以解決圖 3 中描述的幾乎所有問(wèn)題。

個(gè)體機(jī)器行為

對(duì)個(gè)體機(jī)器行為的研究主要集中在特定的智能機(jī)器上。這些研究通常側(cè)重于個(gè)體機(jī)器固有的屬性，并且由其源代碼或設(shè)計(jì)驅(qū)動(dòng)。機(jī)器學(xué)習(xí)和軟件工程領(lǐng)域目前主要進(jìn)行這些研究。

研究個(gè)體機(jī)器行為有兩種通用方法：

第一個(gè)側(cè)重于使用機(jī)器內(nèi)（within-machine behaviour）方法分析任一特定機(jī)器的行為集，比較特定機(jī)器在不同條件下的行為。

第二種是機(jī)器間方法（between-machine approach），比較各種機(jī)器在相同條件下的不同行為。

個(gè)體機(jī)器行為的機(jī)器內(nèi)方法研究了諸如是否存在可以表征任一 AI 在各種環(huán)境中的機(jī)器內(nèi)行為的常數(shù)，某一 AI 的行為如何隨著時(shí)間的推移而不斷發(fā)展，環(huán)境因素如何影響機(jī)器對(duì)特定行為的表征等問(wèn)題。

例如，如果訓(xùn)練特定的底層數(shù)據(jù)（圖 3），算法可能僅表現(xiàn)出某些特定的行為。然后問(wèn)題在于，當(dāng)使用與訓(xùn)練數(shù)據(jù)有顯著不同的評(píng)估數(shù)據(jù)時(shí)，在模擬決策中對(duì)累積概率進(jìn)行評(píng)分的算法是否會(huì)出現(xiàn)出乎意料的表征。其他與機(jī)內(nèi)行為特征相關(guān)的研究包括對(duì)個(gè)體機(jī)器人恢復(fù)行為的研究，算法的 “認(rèn)知” 屬性以及心理學(xué)技術(shù)在算法行為研究中的應(yīng)用，以及對(duì)機(jī)器人特定特征的檢查 —— 例如那些旨在影響人類(lèi)用戶(hù)的特征。

研究單個(gè)機(jī)器行為的第二種方法探究相同行為在不同機(jī)器之間的表現(xiàn)差異。例如，那些對(duì)檢查智能代理的廣告行為感興趣的人可以調(diào)查各種廣告平臺(tái)（及其底層算法），并跨平臺(tái)進(jìn)行實(shí)驗(yàn)的，以檢查同一組廣告輸入的機(jī)器間效應(yīng)。相同的方法可用于對(duì)跨平臺(tái)的動(dòng)態(tài)定價(jià)算法的研究。其他機(jī)器間的研究可能會(huì)探討自動(dòng)駕駛車(chē)輛在超車(chē)模式中使用的不同行為，或者搜索和救援無(wú)人機(jī)所展示的各種搜尋行為。

群集機(jī)器行為

相比于對(duì)單個(gè)機(jī)器行為的研究，集體機(jī)器行為的研究側(cè)重于機(jī)器集群的交互和系統(tǒng)范圍的行為。在某些情況下，在考慮集體層面之前，個(gè)別機(jī)器行為的含義可能沒(méi)什么意義。

歐椋鳥(niǎo)的集群行為

機(jī)器群集研究大有用處

對(duì)這些系統(tǒng)的一些調(diào)查受到了自然界中集群現(xiàn)象的啟發(fā)，例如成群的昆蟲(chóng)，或以遷徙的魚(yú)鳥(niǎo)為例的移動(dòng)群體。例如，我們已經(jīng)知道的動(dòng)物群體表現(xiàn)出復(fù)雜環(huán)境特征的緊急感知和有效的共識(shí)決策。

在這兩種情況下，群體都表現(xiàn)出對(duì)環(huán)境的認(rèn)識(shí)，這在個(gè)體層面是不存在的。諸如多智能體系統(tǒng)和計(jì)算博弈理論等領(lǐng)域提供了研究這一領(lǐng)域機(jī)器行為的有用例子。

使用簡(jiǎn)單算法進(jìn)行機(jī)器人之間的本地交互的機(jī)器人一旦聚合成大型集體，就會(huì)產(chǎn)生有趣的行為。例如，學(xué)者們已經(jīng)研究了微型機(jī)器人的群體特性，這些特性結(jié)合成類(lèi)似于生物制劑系統(tǒng)中發(fā)現(xiàn)的群體聚合現(xiàn)象。其他示例包括實(shí)驗(yàn)室（在生命游戲中）以及在真實(shí)場(chǎng)景中（如維基百科詞條機(jī)器人中所見(jiàn)）的算法的集體行為；又如在通信智能機(jī)器之間出現(xiàn)的新算法語(yǔ)言，以及完全自主運(yùn)輸系統(tǒng)的動(dòng)態(tài)特性。該領(lǐng)域的許多有趣問(wèn)題仍有待研究。

關(guān)于集體動(dòng)物行為和集體機(jī)器行為的絕大多數(shù)工作都集中在簡(jiǎn)單智能體之間的交互是如何能夠創(chuàng)建更高階的結(jié)構(gòu)和屬性的。盡管這也很重要，但卻忽略了這樣一個(gè)事實(shí)：許多生物體，以及越來(lái)越多的 AI 智能體，都是具有可能無(wú)法簡(jiǎn)單地表征的行為或相互作用的復(fù)雜實(shí)體。

揭示當(dāng)相互作用的實(shí)體能夠進(jìn)行復(fù)雜的認(rèn)知時(shí)出現(xiàn)的額外屬性仍然是生物科學(xué)中的關(guān)鍵挑戰(zhàn)，并且可能與機(jī)器行為的研究具有直接的相似性。例如，類(lèi)似于動(dòng)物，機(jī)器可能表現(xiàn)出 “社交學(xué)習(xí)”。這種社會(huì)學(xué)習(xí)不需要局限于機(jī)器向機(jī)器學(xué)習(xí)，我們也期望機(jī)器向人類(lèi)學(xué)習(xí)，反之亦然，人類(lèi)可以從機(jī)器的行為中學(xué)習(xí)。引入的反饋過(guò)程可能從根本上改變知識(shí)的積累方式，包括跨代，直接地影響人類(lèi)和機(jī)器的 “文化”。

機(jī)器群集的獨(dú)特性為，以金融交易為例

此外，人工 AI 系統(tǒng)不一定面臨與生物相同的限制，機(jī)器的集群提供了全新的能力，例如即時(shí)性全球通信，就能夠帶來(lái)全新的集體行為模式。相關(guān)研究調(diào)研了機(jī)器集群的特性以及可能從這些復(fù)雜的相互作用系統(tǒng)中產(chǎn)生的出人意料的特性。

例如，在金融交易環(huán)境中已經(jīng)觀察到一些非常有趣的算法集體行為。這些環(huán)境在很小的時(shí)間尺度上運(yùn)行，因此算法交易者可以在任何人類(lèi)交易者之前對(duì)事件和其他算法交易者做出效應(yīng)。

在某些條件下，高頻能力交易會(huì)導(dǎo)致金融市場(chǎng)效率低下。除了前所未有的響應(yīng)速度之外，機(jī)器學(xué)習(xí)的廣泛使用，自主操作和大規(guī)模部署的能力都是促使我們相信機(jī)器集群的交易行為本質(zhì)上與人類(lèi)交易者不同的原因。

此外，這些金融算法和交易系統(tǒng)必須在某些歷史數(shù)據(jù)集上進(jìn)行訓(xùn)練，并對(duì)有限的各類(lèi)預(yù)見(jiàn)情景作出反應(yīng)，從而導(dǎo)致了難以對(duì)設(shè)計(jì)中新出現(xiàn)和無(wú)法預(yù)見(jiàn)的情況作出反應(yīng)的問(wèn)題。 閃電崩盤(pán)是（交互）算法無(wú)意識(shí)后果的典型例子，引出算法的相互作用是否會(huì)產(chǎn)生更大的市場(chǎng)危機(jī)這一問(wèn)題。

混合人機(jī)行為

人類(lèi)越來(lái)越多地與機(jī)器互動(dòng)。機(jī)器調(diào)節(jié)我們的社交互動(dòng)，塑造我們所看到在線信息，并與我們建立足以改變我們社會(huì)系統(tǒng)的關(guān)系。由于它們的復(fù)雜性，這些混合人機(jī)系統(tǒng)構(gòu)成了機(jī)器行為中技術(shù)上最困難但同時(shí)也是最重要的研究領(lǐng)域之一。

機(jī)器塑造人類(lèi)行為

機(jī)器行為研究中最明顯但至關(guān)重要的領(lǐng)域之一，是將智能機(jī)器引入社會(huì)系統(tǒng)的方式可以改變?nèi)祟?lèi)的信仰和行為。

在向工業(yè)流程引入自動(dòng)化，智能機(jī)器可以在改善現(xiàn)有問(wèn)題的過(guò)程中產(chǎn)生新的社會(huì)問(wèn)題。在此過(guò)程中出現(xiàn)了許多問(wèn)題，例如用于在線約會(huì)的匹配算法是否會(huì)改變約會(huì)過(guò)程的分布結(jié)果，或者新聞過(guò)濾算法是否會(huì)改變公眾意見(jiàn)的分布。

研究算法中的小錯(cuò)誤或使用的數(shù)據(jù)是否會(huì)累積而產(chǎn)生社會(huì)性影響，以及我們學(xué)校，醫(yī)院和護(hù)理中心的智能機(jī)器人如何改變?nèi)祟?lèi)發(fā)展、生活質(zhì)量或潛在地影響殘疾人士的生活，至關(guān)重要。該領(lǐng)域的其他問(wèn)題涉及到機(jī)器用更基本的方式改變社交結(jié)構(gòu)的可能性。

例如，政府可以在多大程度上以何種方式使用機(jī)器智能來(lái)改變民主的性質(zhì)，政治責(zé)任和透明度，或公民參與度。其他問(wèn)題還包括智能機(jī)器在多大程度上影響警務(wù)，監(jiān)視和戰(zhàn)爭(zhēng)，以及機(jī)器人對(duì)選舉結(jié)果的影響有多大以及有助于人類(lèi)社會(huì)關(guān)系的人工智能系統(tǒng)能否實(shí)現(xiàn)集體行動(dòng)。

值得注意的是，該領(lǐng)域的研究還研究了人類(lèi)如何將機(jī)器用作決策輔助工具，人類(lèi)對(duì)使用算法的偏好和厭惡，以及人類(lèi)機(jī)器產(chǎn)生或減少人類(lèi)不適的程度。這方面的一個(gè)重要問(wèn)題還有人類(lèi)如何應(yīng)對(duì)隨著智能機(jī)器增加經(jīng)濟(jì)產(chǎn)品和服務(wù)的聯(lián)合生產(chǎn)。了解如何通過(guò)將智能機(jī)器引入我們的生活中來(lái)改變?nèi)祟?lèi)系統(tǒng)是機(jī)器行為研究的重要組成部分。

人類(lèi)塑造機(jī)器行為

智能機(jī)器可以改變?nèi)祟?lèi)行為，人類(lèi)也可以創(chuàng)造，影響和塑造智能機(jī)器的行為。我們通過(guò)直接操作 AI 系統(tǒng)以及通過(guò)對(duì)這些系統(tǒng)進(jìn)行主動(dòng)訓(xùn)練和根據(jù)人類(lèi)行為日常產(chǎn)生的數(shù)據(jù)的被動(dòng)觀察來(lái)塑造機(jī)器行為。

選擇使用哪種算法，為這些算法提供什么反饋以及在什么樣的數(shù)據(jù)對(duì)它們進(jìn)行訓(xùn)練目前也是人類(lèi)的決策，而這可以直接改變機(jī)器行為。

研究機(jī)器行為的一個(gè)重要組成部分是理解這些工程過(guò)程將如何改變 AI 的最終行為，無(wú)論訓(xùn)練數(shù)據(jù)是否導(dǎo)致機(jī)器的特定行為，是算法本身還是算法和數(shù)據(jù)的組合。圖 3 中概述的框架表明，以上的每個(gè)問(wèn)題都有補(bǔ)充答案。探討如何改變工過(guò)程的參數(shù)可以改變智能機(jī)器的后續(xù)行為，因?yàn)樗鼈兒推渌麢C(jī)器及人類(lèi)的交互是從整體上理解機(jī)器行為的核心。

人機(jī)協(xié)作行為

盡管將研究分成人類(lèi)塑造機(jī)器的方式會(huì)更方便，反之亦然，但大多數(shù)人工智能系統(tǒng)在與人類(lèi)共存的復(fù)雜混合系統(tǒng)中起作用。對(duì)這些系統(tǒng)的研究具有重要意義的問(wèn)題包括人機(jī)交互特征的行為，如合作、競(jìng)爭(zhēng)和協(xié)調(diào) 。

例如，人類(lèi)偏見(jiàn)與 AI 結(jié)合會(huì)如何改變?nèi)祟?lèi)的情感或信仰，人類(lèi)發(fā)展趨勢(shì)與算法相結(jié)合會(huì)如何促進(jìn)信息的傳播，如何在大量無(wú)人駕駛汽車(chē)和人力驅(qū)動(dòng)汽車(chē)的混合街道上改變交通模式，以及如何通過(guò)人與算法交易智能體之間的交互來(lái)改變交易模式，以及哪些因素可以促進(jìn)人與機(jī)器之間的信任與合作。

大量的人機(jī)協(xié)作系統(tǒng)已經(jīng)應(yīng)用于人類(lèi)生產(chǎn)生活

該領(lǐng)域的另一個(gè)主題涉及機(jī)器人和軟件驅(qū)動(dòng)的人力自動(dòng)化。在這里，我們看到兩種不同類(lèi)型的人機(jī)交互：

一種是機(jī)器可以提高人的效率，例如機(jī)器人和計(jì)算機(jī)輔助手術(shù)。

另一種是機(jī)器可以取代人類(lèi)，例如無(wú)人駕駛運(yùn)輸和包裹遞送。

這引出了一個(gè)新的疑問(wèn) ——最終機(jī)器是否會(huì)在更長(zhǎng)時(shí)間內(nèi)進(jìn)行迭代或增強(qiáng)，以及人機(jī)共同行為是否將因此而演變？

上述例子強(qiáng)調(diào)，與混合人機(jī)行為相關(guān)的許多問(wèn)題必須同時(shí)研究人類(lèi)對(duì)機(jī)器行為的影響與機(jī)器對(duì)人類(lèi)行為的影響之間的反饋循環(huán)。學(xué)者們已經(jīng)開(kāi)始研究標(biāo)準(zhǔn)實(shí)驗(yàn)室環(huán)境中的人機(jī)交互，觀察到與簡(jiǎn)單機(jī)器人的交互可以增加人類(lèi)協(xié)調(diào)性，機(jī)器人可以在與人類(lèi)之間的合作相媲美的水平上直接與人類(lèi)合作。

然而，在人類(lèi)越來(lái)越多地使用算法來(lái)做出決策且基于此來(lái)訓(xùn)練相同算法的情況下，我們迫切地需要進(jìn)一步理解自然環(huán)境中的反饋回路。

此外，在機(jī)器行為生態(tài)學(xué)領(lǐng)域的各種類(lèi)型的問(wèn)題中，對(duì)于特別強(qiáng)調(diào)人類(lèi)的社會(huì)交往方式，可能會(huì)被智能機(jī)器所影響，我們需要關(guān)注這些混合系統(tǒng)的長(zhǎng)期動(dòng)態(tài)。

五、 展望：機(jī)器行為學(xué)如何發(fā)展？

要想最大限度地發(fā)揮人工智能對(duì)社會(huì)的潛在利益，我們就得了解機(jī)的行為。如果我們做出將人工智能體融入我們的生活這一有后果的選擇，必須依仗我們了解它們對(duì)社會(huì)可能的影響。為了提供這種理解和預(yù)期，我們需要一個(gè)新的交叉學(xué)科研究研究領(lǐng)域：機(jī)器行為學(xué)。為了讓這個(gè)領(lǐng)域順利發(fā)展，我們有許多要考慮的因素。

首先，研究機(jī)器行為并不意味著 AI 算法需要有獨(dú)立的代理人，也不意味著算法應(yīng)該對(duì)其行為承擔(dān)道德責(zé)任。

如果狗咬人，則狗的主人應(yīng)當(dāng)負(fù)責(zé)。盡管如此，動(dòng)物行為模式的研究是有助于我們理解和預(yù)測(cè)這種 “脫軌” 行為的。機(jī)器在更大的社會(huì)技術(shù)框架中運(yùn)行，其人類(lèi)利益相關(guān)者本質(zhì)上應(yīng)對(duì)部署它們可能造成的任何損害負(fù)責(zé)。

其次，一些人評(píng)論建議將人工智能系統(tǒng)作為個(gè)體研究，不用將重點(diǎn)放在對(duì)這些人工智能系統(tǒng)進(jìn)行訓(xùn)練的基礎(chǔ)數(shù)據(jù)上。

實(shí)際上，解釋任何行為都不能完全與訓(xùn)練或開(kāi)發(fā)該人工智能體的環(huán)境數(shù)據(jù)分開(kāi)；機(jī)器行為也不例外。但是，理解機(jī)器行為如何因環(huán)境輸入的改變而變化就像理解生物體的行為根據(jù)它們存在的環(huán)境而變化一樣重要。因此，機(jī)器行為學(xué)者應(yīng)該專(zhuān)注于描述不同環(huán)境中的人工智能體的行為，就像行為科學(xué)家渴望在不同的人口統(tǒng)計(jì)和制度環(huán)境中描述政治行為一樣。

第三，機(jī)器行為和動(dòng)物、人類(lèi)的行為有本質(zhì)不同，因此我們必須避免過(guò)度將機(jī)器擬人擬獸。即使借用現(xiàn)有的行為科學(xué)方法被證明對(duì)機(jī)器的研究有效，機(jī)器也可能表現(xiàn)出與生命具有的特質(zhì)不同的，甚至是迥異的行為。

此外，剖析和修改 AI 系統(tǒng)可是比修改有生命的系統(tǒng)容易多了。雖然兩個(gè)體系存在相似之處，但 AI 系統(tǒng)的研究必然會(huì)與生命系統(tǒng)的研究有所區(qū)別。

第四，對(duì)機(jī)器行為的研究將需要學(xué)科間的共同的努力，因?yàn)檫@些研究本身伴隨跨學(xué)科合作所帶來(lái)的挑戰(zhàn)。應(yīng)對(duì)這些挑戰(zhàn)至關(guān)重要。大學(xué)、政府和資助機(jī)構(gòu)可以在設(shè)計(jì)大規(guī)模，平等和可信的跨學(xué)科研究中起到重要作用。

第五，針對(duì)機(jī)器行為的研究通常需要現(xiàn)實(shí)條件下的實(shí)驗(yàn)來(lái)研究人機(jī)交互。這些實(shí)驗(yàn)介入可能會(huì)全面改變系統(tǒng)的行為，可能對(duì)一般使用者產(chǎn)生不利影響。諸如此類(lèi)的道德考慮需要謹(jǐn)慎的監(jiān)督和標(biāo)準(zhǔn)化框架。

最后，研究智能算法或機(jī)器人系統(tǒng)可能會(huì)給研究機(jī)器行為的研究人員帶來(lái)法律和道德問(wèn)題。算法的反向工程可能會(huì)違反某些平臺(tái)的服務(wù)條款。例如，設(shè)置虛假角色或掩蓋真實(shí)身份。如果研究損害其平臺(tái)的聲譽(yù)，那么利益相關(guān)的系統(tǒng)的創(chuàng)建者或維護(hù)者可能會(huì)使研究人員陷入法律責(zé)難。此外，尚不清楚違反服務(wù)條款是否會(huì)使研究人員受到民事或刑事處罰（例如美國(guó)的計(jì)算機(jī)欺詐和濫用法案），這可能會(huì)進(jìn)一步阻礙這類(lèi)研究。

了解人工智能體的行為和性質(zhì)，以及它們可能對(duì)人類(lèi)系統(tǒng)產(chǎn)生的影響是至關(guān)重要的事情。社會(huì)發(fā)展可以從人工智能提供的效率扶持和決策增強(qiáng)中獲益匪淺。與此同時(shí)，將 AI 直接 “植入” 日常生活中的潛在缺陷我們也不能視而不見(jiàn)，盡可能避免其副作用，否則研究機(jī)器行為學(xué)帶來(lái)的好處可能會(huì)搖搖欲墜。

機(jī)器行為學(xué)，是一門(mén)研究人工智能如何與人類(lèi)共存的學(xué)科