來自墨爾本大學(xué)的研究人員設(shè)計(jì)了一種AI生物識(shí)別鏡，可以僅僅根據(jù)人的臉部照片檢測(cè)和顯示其個(gè)性特征和外貌上的魅力，最多可以分析14項(xiàng)性格特征，這一系統(tǒng)屬于世界首創(chuàng)。

該系統(tǒng)名為生物識(shí)別鏡（Biometric Mirror），可以檢測(cè)一個(gè)人對(duì)AI的理解以及對(duì)其獨(dú)有特征的相關(guān)信息的反應(yīng)。

當(dāng)有人站在生物識(shí)別鏡前時(shí)，系統(tǒng)會(huì)在幾秒鐘內(nèi)檢測(cè)出一系列面部特征。然后將用戶的數(shù)據(jù)與數(shù)千張面部照片的數(shù)據(jù)進(jìn)行比較，這些面部照片是對(duì)眾包志愿者進(jìn)行心理評(píng)估測(cè)試時(shí)使用的。

生物識(shí)別鏡會(huì)顯示14種特征，包括性別、年齡、種族，以及魅力、性格古怪之處和情緒穩(wěn)定度等。一個(gè)人站在識(shí)別鏡前的時(shí)間越長(zhǎng)，評(píng)估特征越趨于個(gè)性化。

生物識(shí)別鏡使用小型公開數(shù)據(jù)集中的數(shù)千張面部圖片及眾包分析的評(píng)估結(jié)果。

該項(xiàng)目由社會(huì)自然用戶界面中心（Social NUI）和墨爾本科學(xué)館的Niels Wouters博士領(lǐng)導(dǎo)，探討了該技術(shù)由內(nèi)容、數(shù)據(jù)存儲(chǔ)和算法偏差所引起的擔(dān)憂。

“隨著人工智能和大數(shù)據(jù)的興起，政府和企業(yè)將越來越多地使用閉路電視攝像機(jī)（CCTV）和互動(dòng)廣告來檢測(cè)過路人的情緒、年齡、性別和人口統(tǒng)計(jì)學(xué)特征。”Wouters說。

探索人工智能應(yīng)用的道德邊界

“我們的研究關(guān)注關(guān)于人工智能應(yīng)用界限的挑戰(zhàn)性問題。該研究向用戶表明，以不道德的、有問題的方法來利用人工智能是很容易的，也可能會(huì)產(chǎn)生某些負(fù)面的社會(huì)后果。我們鼓勵(lì)人們對(duì)隱私和大規(guī)模監(jiān)視的問題進(jìn)行討論，希望這些討論有助于更好地理解人工智能背后的道德規(guī)范問題。”

生物識(shí)別鏡凸顯出了算法偏差可能造成的現(xiàn)實(shí)后果。

“雖然收集關(guān)于用戶購(gòu)物偏好的個(gè)人信息，用來提供定制化的個(gè)人服務(wù)似乎是有益無害的，但未經(jīng)用戶同意就獲取這些信息，讓人無法確定這些預(yù)測(cè)是不是基于正確的數(shù)據(jù)而做出的。”Wouters說。

“人工智能的應(yīng)用范圍很容易超出了購(gòu)物和廣告等領(lǐng)域。想象一下，無法控制的算法可能會(huì)錯(cuò)誤地認(rèn)為你不適合某個(gè)管理職位，沒有資格獲得大學(xué)學(xué)位，或未經(jīng)你的同意公開分享你的照片。

“你要選擇一個(gè)指標(biāo)，比如責(zé)任感水平，生物識(shí)別鏡會(huì)要求你想象，這些信息現(xiàn)在正在、與你的保險(xiǎn)公司或未來的雇主分享，”Wouters博士說。 “這個(gè)項(xiàng)目透明化地呈現(xiàn)了這些信息對(duì)個(gè)人產(chǎn)生的潛在后果。”

Wouters博士說，重要的是，它是個(gè)生物識(shí)別鏡，而不是心理分析工具。

“生物識(shí)別鏡只計(jì)算公眾由用戶的外貌而做出的估計(jì)，”他說。“它的局限性在于準(zhǔn)確性有限，因?yàn)樵谠O(shè)計(jì)上只參考了相對(duì)較小且眾包的數(shù)據(jù)集。想要從生物識(shí)別鏡中得出關(guān)于心理狀態(tài)的有意義的結(jié)論是不合適的。”