當垃圾分類的風從南飄向北,西西家所在的小區成了北京首個用上人臉識別智能垃圾筒的試點地。和大家想象的不同,沒有強制性要求,也還未和任何信用系統掛鉤,這個功能僅作為選項,也可以通過一個按鈕開啟垃圾桶。
但為了丟垃圾時不臟手,西西注冊了,過程很簡單,用手機掃描一個指定的二維碼,戶主名填的是自家狗的名字,留下手機號,錄了臉,就完事了。用了半個月,西西覺得很方便,每次離垃圾桶還有半米,攝像頭就能識別到她,自動開蓋等待被投喂。
除了身份審核和線上支付,去年以來,看病掛號、坐地鐵、取快遞、領結婚證......人臉識別技術越來越多出現在我們的生活中,有傳言說這樣的智能垃圾桶將進行全國推廣。而整個人臉識別行業也充斥著一片美好的錢景:根據前瞻產業研究院發布的分析報告,預計未來幾年,人臉識別市場規模將保持年均20%左右的高速增長,到2022年,全球人臉識別市場規模將達75.95億美元。
技術的逐漸滲透中,也出現了一些充滿爭議性的案例。比如今年5月,為了整治行人隨意闖紅燈的亂象,山西太原警方使用人臉識別技術,違反規定者的照片會不打碼在大屏上曝光一周。還有學校在課堂上用人臉識別記錄分析學生表情,攝像頭30秒一次對學生進行掃描,能識別出高興、反感、難過、害怕、驚訝、憤怒和中性7種表情,系統進行大數據分析后,會計算出一套課堂行為記錄反饋給老師。
當類似的事件被頻頻報道,不少人也在思考,人臉識別技術雖便利了我們的生活,提高了管理效率,但攝像頭無處不在,作為代價,個體的隱私和肖像權也正在遭到忽視甚至傷害。
受到侵犯隱私等方面的輿論指責,以及人臉識別技術在辨別膚色方面精度很低導致會法律執行難度的增加,今年以來,一些城市對于人臉識別技術的態度變得謹慎。今年5月和7月,舊金山以及薩默維爾市已經通過反監控條例,禁止在公共場合使用人臉識別技術。目前,奧克蘭、紐約等城市也在考慮類似禁令。美國最大的警用穿戴式攝像頭制造商Axon也宣布,由于識別結果還不夠可靠,暫停在攝像頭里使用人臉識別技術。
當隱私保護被提上日程,微軟也在今年6月悄然刪除了其號稱是全世界最大的公開人臉識別數據庫。國內一家互聯網巨頭公司員工對AI財經社說,他們近期對外宣傳時也不太敢提人臉識別。
除了隱私方面的考慮,還有聲音認為,在各種生物信息中,人臉識別信息泄漏殺傷力是最大的。就在7月13日的一場金融峰會上,央行科技司司長李偉指出,人臉是暴露在外的非常敏感的個人信息,有的技術在3公里之內就能識別人臉,有的機構熱衷于把這些新技術用在金融領域,一旦被泄漏和盜刷,是很危險的事情。“有技術也不能濫用,有技術也不能任性。”他強調。
站在岔路口上,一頭是技術的突飛猛進,一頭是社會對隱私和安全的顧慮,我們要給無處不在的人臉識別技術按下暫停鍵嗎?
尋找一個平衡點
人們如何善用人臉識別技術,這是個尚且還沒有明晰答案的新課題。
針對舊金山推出的人臉識別禁令,商湯科技CEO徐立曾對AI財經社等媒體說,他認為核心的問題不是去限制人臉識別的使用,而是要在技術發展早期或者到一定階段的時候,制定一些標準,在什么情況下可以使用這些數據,什么情況下不能使用。他認為舊金山只是個例,針對新興技術出臺合適的法律會是未來的趨勢,這才是推動技術發展的核心。
在舊金山發布人臉識別禁令后,當地一些組織和民眾也表達了擔憂,因為人臉識別系統對犯罪分子有震懾力,還對尋找走失老年人、兒童等非常適用。而這項立法做得太極端了。
對于人臉識別技術使用的邊界,最近在美國政府機構中也展開了熱烈的討論。7月10日,美國國土安全委員會舉行聽證會,美國國會議員要求聯邦政府全面禁止面部識別技術,導火索是一份公開文件披露,美國聯邦調查局(FBI)、入境和海關執法局(ICE)的特工在民眾不知情或未同意的情況下,利用國家駕照數據庫對數百萬美國人進行人臉識別搜查。不過,盡管國會兩黨議員都對人臉識別的影響表示擔憂,但并沒有對這一技術的監管問題達成一致。
人民大學高瓴人工智能學院執行院長文繼榮對AI財經社表示,在特定受控的區域內用人臉識別進行身份核實,還是相對比較安全,但在不需要進行身份識別的場合使用人臉識別技術,可能會涉及侵犯隱私以及帶來風險。“如果讓每個人的一舉一動都暴露在監控之下,這是一件可怕的事情”。比如,作為家長,他反對在課堂上使用人臉識別技術,小孩子聽講時注意力不集中,打個盹是很正常的事情,但是這些都被記錄下來,對于自尊心強的孩子來說,是一個很大的打擊。
文繼榮也提出,技術本身的發展不應該受限制,重點是如何在公共空間和私人空間中尋找一個平衡點。他也認為,歐美國家的部分做法有點過于極端,可能會不利于新技術的利用和發展,但國內也需要政策去引導和監督。如何在人工智能技術的發展之下,還給每個人保留一個自己的私人空間,這本身是一個有趣并且值得社會去研究的新課題。
亞太網絡法律研究中心主任研究員劉德良認為,公眾不要談信息色變,除了人內心的情感和直接攸關名譽和尊嚴的個人信息(比如裸照、性取向、不為人知的重大生理疾病缺陷等),基于正常社會經濟交往和治理國家安全的個人信息收集,公開或“泄漏”本身不會給人帶來損害,真正帶來危害的一定是后續的濫用行為。因此,立法要區分這兩類不同性質的個人信息,對于前者采取嚴格的保護措施;對于后者,主要是防治濫用行為。
他認為,與其一味強調保密、防止泄漏等問題,社會應該聚焦在如何防止這些人臉信息信息被濫用,找出問題并解決問題,這才真正具有可操作性,而不是制定一些假大空的條例,也不要因為某些個案否認人臉識別技術給社會帶來進步。
去年開始,劉德良起草了一份專家建議稿,重點關注個人生物信息濫用的防治問題,內容圍繞如何界定個人信息,什么情況下是濫用,濫用的分類以及如何從民事、行政和刑事立法進行規制,預計今年下半年將會發布。“任何技術都會有風險,不能因為這樣我們就去禁止研發,只能趨利避害。”劉德良說。
個人信息的確需要更好的保護。2018年11月,中國消費者協會曾發布《100款App個人信息收集與隱私政策測評報告》,100款App中,多達91款App列出的權限涉嫌過度收集用戶個人信息的問題。其中,美圖秀秀就遭到“點名”,我們沉浸在修圖的時候,它就在悄悄“越界”。
人臉識別已經走到了一個岔路口。什么才是適用和濫用的邊界?而相關的立法也正在推進中。今年3月,全國人大二次會議發言人張業遂也表示,全國人大常委會已將制定個人信息保護法列入本屆立法規劃,相關部門正在抓緊研究和起草。
-
機器視覺
+關注
關注
161文章
4345瀏覽量
120109 -
人臉識別
+關注
關注
76文章
4005瀏覽量
81767
原文標題:人臉識別走到了岔路口
文章出處:【微信號:aicjnews,微信公眾號:AI財經社】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論