消除人工智能系統(tǒng)中的偏差可能需要“人機(jī)回圈（human-in-the-loop，具體來(lái)說(shuō)就是設(shè)計(jì)某種機(jī)制讓機(jī)器（算法）和人互動(dòng)協(xié)作來(lái)更好的處理某件事情）”解決方案。

人工智能是商業(yè)數(shù)字化的主要內(nèi)容，86%的公司將人工智能視為其組織內(nèi)的“主流技術(shù)”。

但由于數(shù)據(jù)、算法或負(fù)責(zé)管理它們的團(tuán)隊(duì)的偏差，絕大多數(shù)人工智能項(xiàng)目都會(huì)產(chǎn)生錯(cuò)誤的結(jié)果。數(shù)據(jù)中的這種偏見(jiàn)已被證明源自影響人類(lèi)決策的相同偏見(jiàn)，無(wú)論是隱含的還是其他的。

人工智能系統(tǒng)在識(shí)別人類(lèi)情感方面面臨著特殊挑戰(zhàn)——部分原因是人類(lèi)也是如此。

IEEE會(huì)員Gloria Washington認(rèn)為，智能系統(tǒng)中的偏見(jiàn)風(fēng)險(xiǎn)強(qiáng)調(diào)了需要人工智能中更多的同理心。

為什么我們需要移情計(jì)算

“人工智能的承諾是，它將有助于做出更好的商業(yè)決策，改善醫(yī)療保健中的患者結(jié)果，自動(dòng)化重復(fù)或平凡的任務(wù)，讓人類(lèi)騰出時(shí)間來(lái)處理更具挑戰(zhàn)性的問(wèn)題——等等，”Washington說(shuō)。

不幸的是，Washington表示，我們已經(jīng)看到了有偏見(jiàn)的人工智能系統(tǒng)對(duì)人類(lèi)造成傷害的例子。

類(lèi)似地，部署受偏見(jiàn)影響的算法的人工智能系統(tǒng)可能會(huì)基于與身份或情緒識(shí)別相關(guān)的人類(lèi)生理、心理或行為特征，進(jìn)一步邊緣化個(gè)人或社區(qū)。

例如，負(fù)責(zé)幫助大公司篩選面試候選人的自動(dòng)化系統(tǒng)理論上可能存在偏見(jiàn)——如果人工智能算法基于公司過(guò)去十年的招聘習(xí)慣，其中該時(shí)間段的招聘由表現(xiàn)出親和力偏見(jiàn)的男性進(jìn)行，則女性在篩選過(guò)程中將處于劣勢(shì)，導(dǎo)致招聘過(guò)程中出現(xiàn)性別差距。

隨著人工智能系統(tǒng)不斷擴(kuò)散，直接解決智能系統(tǒng)中的偏差問(wèn)題至關(guān)重要。

我們面前的機(jī)會(huì)

Washington認(rèn)為，解決人工智能偏見(jiàn)的最佳方法之一是采用人機(jī)回圈的方法來(lái)驗(yàn)證預(yù)測(cè)，并提供特定預(yù)測(cè)對(duì)社區(qū)或個(gè)人的潛在影響的背景。

Washington提出：“同理心系統(tǒng)是一種從各種專(zhuān)家那里學(xué)習(xí)的系統(tǒng)，作為人機(jī)回圈方法的一部分，用于改進(jìn)系統(tǒng)的模型。專(zhuān)家是指通過(guò)親身經(jīng)歷或深入了解現(xiàn)實(shí)世界的情況和影響，能夠利用多模態(tài)數(shù)據(jù)——圖片、文本和指標(biāo)——來(lái)展示好的預(yù)測(cè)，幫助更好地為人工智能工具提供信息的人。”

研究的一個(gè)領(lǐng)域旨在通過(guò)檢查醫(yī)療服務(wù)提供者在其筆記和電子健康記錄中使用的語(yǔ)言來(lái)增加醫(yī)療服務(wù)中的同理心。然后，系統(tǒng)可以指導(dǎo)提供者使用更具包容性的語(yǔ)言。

Washington表示，對(duì)所有情景和潛在結(jié)果進(jìn)行適當(dāng)規(guī)劃是一項(xiàng)挑戰(zhàn)。然而，她認(rèn)為，有可能將來(lái)自不同領(lǐng)域的專(zhuān)家聚集在一起，以編纂更好地理解情感、同理心、生物特征和人類(lèi)行為所需的必要信息。

什么是情感生物識(shí)別？

移情問(wèn)題在情感生物特征識(shí)別領(lǐng)域中占有重要地位，有時(shí)被稱(chēng)為情感計(jì)算。

情感通常表現(xiàn)在人體對(duì)情感的身體反應(yīng)中。

Washington說(shuō)：“我們通常將其與面部表情聯(lián)系起來(lái)，但在生物特征學(xué)的背景下，影響還包括肢體語(yǔ)言、身體姿勢(shì)，甚至人類(lèi)自主系統(tǒng)，通過(guò)關(guān)注心率、血壓甚至出汗等可測(cè)量數(shù)據(jù)。”

但情感本身也是一種文化。在一種文化中看似愉快的反應(yīng)，在另一種文化里可能被解釋為激動(dòng)。

Washington說(shuō)，情感生物特征分析情緒，如沮喪或憤怒，也應(yīng)與上下情境信息一起使用，以根據(jù)對(duì)特定情況或場(chǎng)景的學(xué)習(xí)反應(yīng)來(lái)識(shí)別一個(gè)人可能的行為。

“背景對(duì)于理解情感很重要，” Washington說(shuō)，“編撰背景可能很困難——編撰人類(lèi)使用工具的‘時(shí)間、地點(diǎn)和方式’可能具有挑戰(zhàn)性。然而，通過(guò)將不同學(xué)科的專(zhuān)家納入其中，我們可以幫助減輕系統(tǒng)中偏見(jiàn)的有害影響。”

根據(jù)Washington的說(shuō)法，我們還可以改變?nèi)斯ぶ悄芄ぞ叩睦梅绞健?/p>

Washington說(shuō)：“人工智能工具當(dāng)然可以為我們自動(dòng)化日常任務(wù)。然而，我們可以選擇將更重要的任務(wù)，特別是那些對(duì)人類(lèi)具有強(qiáng)大現(xiàn)實(shí)影響的任務(wù)留給人類(lèi)。此外，在利用人工智能的情況下，可以在系統(tǒng)中內(nèi)置程序步驟，在執(zhí)行任務(wù)之前，數(shù)字工具將以某種方式傳達(dá)行動(dòng)對(duì)相關(guān)群體或個(gè)人的影響。”

歸根結(jié)底，人工智能和許多其他技術(shù)一樣，是人類(lèi)可以使用的工具。而且，通常情況下，為了解決人類(lèi)問(wèn)題，如偏見(jiàn)，最好的解決方案是涉及人類(lèi)的解決方案。