近日，IBM 公司宣布停止AI提供人臉識別技術的相關服務，因為擔心這項技術可能被用來促進種族和性別歧視。

　　IBM 首席執行官 Arvind Krishna 在一份遞交到美國國會的***中寫道：“IBM 堅決反對將任何技術用于大規模監視、種族定性、侵犯基本人權和自由，或任何與我們的價值觀、信任和透明原則不符的目的。”

　　顯然，IBM 此舉旨在響應在美國愈演愈烈的反種族歧視運動“Black Lives Matter”。Arvind 在信中還呼吁國會出臺相關國家政策，鼓勵采用警員佩戴攝像頭（類似行車記錄儀）和數據分析等技術，引入適當的問責制度，讓執法工作更透明。

　　目前，美國少數城市已經禁止使用面部識別技術。去年，舊金山、奧克蘭和圣地亞哥等城市相繼禁止使用面部識別技術，理由是這項技術存在局限性，在使用方面缺乏標準，還助長了對少數人種的潛在偏見。

　　人臉識別技術的發展

　　很難相信，這項十年前還常常出現在科幻電影中的技術，如今離我們的生活如此接近。事實上，人們在上世紀 60 年代就開始了對人臉識別技術的探索。彼時，人臉識別之父 Bledsoe 開發了一種系統，該系統可用計算機輔助人們手動記錄各種面部特征（包括眼睛，鼻子，發際線和嘴巴）的坐標位置，然后將這些坐標數據插入數據庫中。當為系統提供某人的新照片時，它能夠從數據庫中檢索與之最相似的圖像。這就是最早的人臉識別系統。可惜的是，受到當時的技術和計算機處理能力的限制，這項技術并沒有得到大規模的應用。但該系統成功證明了面部識別是可行的生物特征識別技術，邁出了人臉識別技術重要的第一步。

　　隨著計算機硬件性能的飛躍，研究者不斷地突破人臉識別系統的上限，但成功率一直無法實現大規模商用。直到 2014 年前后，大數據和深度學習的發展掀起了新時代 AI 熱潮，神經網絡重受矚目，并在圖像分類、手寫體識別、語音識別等應用中獲得了遠超經典方法的結果。來自***的研究團隊提出將卷積神經網絡應用到人臉識別上，采用 20 萬訓練數據，在 LFW 上第一次得到超過人類水平的識別精度，這是人臉識別發展歷史上的一座里程碑。自此之后，人臉識別技術與機器學習綁定，研究者們不斷改進機器學習算法，同時擴大訓練樣本規模，將 LFW 上的識別精度推到99.5%以上。人臉識別發展過程中一些經典的方法及其在 LFW 上的精度，都有一個基本的趨勢：訓練數據規模越來越大，識別精度越來越高。

　　人臉識別中的偏見

　　在過去的十年中，得益于人工智能的發展，人臉識別軟件有了很大的進步。同時，由于該技術通常是由私營公司提供的，缺少相關法律法規的限制和政府部門的監管。因此，有調查顯示這項技術存在種族、性別偏見，這會使該工具在執法過程中的可靠性大打折扣，存在侵犯公民合法權利的風險。

　　2018 年，Joy Buolamwini 和 Timnit Gebru 的研究首次揭示了許多商業人臉識別系統（包括 IBM 的）有多大的偏見。該研究測試了三款來自不同地區公司的主流人臉識別軟件，人物面部素材來自 3 個非洲國家和 3 個歐洲國家的志愿者，研究人員把素材按照膚色、性別來進行交叉分類。研究結果顯示：

　　所有人臉識別軟件對男性的識別成功率都比女性更高，錯誤率相差 8.1%~20.6%

　　所有人臉識別軟件對淺膚色的人臉識別成功率比深膚色的更高，錯誤率相差 11.8%~19.2%

　　綜合各分類的人臉識別成功率如下：

　　綜合對比顯示，各人臉識別軟件對淺膚色男性的人臉識別成功率最高，對深膚色女性的人臉識別成功率最低，正確率差距最高達到 34.4% 。

　　也就是說，在這些已經大規模商用的人臉識別軟件應用場景下，黑人女性有 20%~30%的概率被識別錯誤，產生一定的誤會。如果是在警用安保等使用場景下，發生誤會的后果可能會非常嚴重。

　　這項研究工作引起了外界對這些人臉識別算法的批評，各大科技公司也為糾正偏差進行了持續的調查研究。例如，美國國家標準技術研究院（National Institute of Standards and Technology）于 2019 年12 月進行的一項研究發現，“在大多數當前評估的人臉識別算法中，跨人種差異確實存在廣泛的準確性偏差”。除了對人種、性別的識別偏差外，人臉識別技術還因其在侵犯隱私方面的問題而受到抨擊。

　　從今年初開始，另一家美國的人臉識別技術公司 Clearview AI 受到了嚴密的審查，因為有關部門發現其面部識別工具由超過 30 億張圖像（大部分是通過抓取社交媒體網站收集的）構建而成，并且已被很多企業廣泛使用。自那以來，Clearview 公司已被執法部門責令停業，并且面臨多項侵犯公民隱私的訴訟。今年 1 月份，Facebook 也因其非法使用面部識別技術遭到檢方起訴，面臨 5.5 億美元的罰款。

　　人臉識別的未來

　　這一次藍色巨人 IBM 宣布放棄人臉識別業務的決策，也給野蠻生長的人臉識別產業踩下了一腳急剎車，把人們的注意力集中到技術背后的問題上來，比如人權平等、隱私保護等。各項研究表明，目前的人臉識別技術仍存在一定的缺陷。

　　不同于 5G 等新技術，AI 在誕生之初就被人們視為一把雙刃劍。無論是前段時間飽受爭議的 Deepfake，還是如今處境尷尬的人臉識別，人們對于 AI 技術帶來的社會、倫理問題的擔憂從未停止。但還是那句話，“菜刀可以用來做菜，也能用來傷人”，技術本身是無罪的，一切都取決于使用技術的人。相信在這項技術完全成熟以后，人臉識別仍然能夠在一些人類需要的場景下發光發熱。