2017 年后,偽造逼真圖像的 Deepfake 技術(shù)利用其將女性圖片嫁接至色情圖像內(nèi)容引起很非議,用它惡意偽造的圖像開始大規(guī)模在互聯(lián)網(wǎng)上流傳,也給人們辨別圖像真假帶來(lái)了困擾。
如果說(shuō) Deepfake 對(duì)非技術(shù)人員有使用門檻的話,現(xiàn)在,一種比 Deepfake 更快、更易用的“變體”應(yīng)用出現(xiàn)了,它叫 DeepNude。
據(jù) Motherboard 報(bào)道,DeepNude 軟件使用神經(jīng)網(wǎng)絡(luò)技術(shù)能將女性圖片中的衣物消除,讓照片看上去就像是真實(shí)裸照,尤其裸露皮膚面積越大,處理效果越好。其背后的團(tuán)隊(duì)已經(jīng)發(fā)布了 Windows 和 Linux 系統(tǒng)版本。
DeepNude 處理照片的范圍目前僅限于女性照片,這當(dāng)然跟訓(xùn)練數(shù)據(jù)集有關(guān),其創(chuàng)建者解釋是因?yàn)?**女性的圖像更容易在網(wǎng)上找到,同時(shí)他也希望開發(fā)一個(gè)男性版本軟件。
不過(guò)很快,在媒體報(bào)道后,迫于輿論壓力,使用 AI 創(chuàng)建女性假裸照的 DeepNude 就被其團(tuán)隊(duì)關(guān)閉,其官網(wǎng)已無(wú)法打開。DeepNude 團(tuán)隊(duì)在其推文中表示他們大大低估了對(duì)該項(xiàng)目的受歡迎程度以及人們?yōu)E用它的可能性。
DeepNude 將不再出售,其他版本也將不會(huì)發(fā)布。該團(tuán)隊(duì)還警告網(wǎng)友不要在線共享該軟件,這將違反該應(yīng)用的服務(wù)條款。但他們同時(shí)承認(rèn),“(該應(yīng)用)肯定會(huì)有一些副本”發(fā)布出來(lái)。
比 Deepfake 更快、更易用
據(jù) Motherboard 報(bào)道,他們?cè)皿w育畫報(bào)上的幾十張高分辨率的圖片進(jìn)行測(cè)試,AI 算法準(zhǔn)確地填充了衣服下的細(xì)節(jié),獲得了最令人信服的結(jié)果。
在一封電子郵件中,DeepNude 創(chuàng)建者告訴 Motherboard,該軟件基于加州大學(xué)伯克利分校的研究人員于 2017 年開發(fā)的 pix2pix 開源算法,它使用的是生成對(duì)抗網(wǎng)絡(luò)(GANs)。該算法類似于深度視頻中使用的算法,通過(guò)在超過(guò) 10,000 張女性***照片上不斷訓(xùn)練以改進(jìn)效果。
目前,DeepNude 只需點(diǎn)擊一下即可在 30 秒內(nèi)生成一張逼真的偽造裸照,但未來(lái)還可以提速。相比之下,Deepfake 技術(shù)雖然在快速升級(jí),但目前也至少需要數(shù)小時(shí)來(lái)生成可信的人臉偽造照片,而使用 Photoshop 軟件來(lái)將一張圖片 P 成逼真裸照也需要好幾分鐘。
DeepNude 應(yīng)用的免費(fèi)版本會(huì)在生成的裸照上放一個(gè)大水印以提醒人們圖片是假的,而付費(fèi)版本只放了一個(gè)較小的水印,這可以很容易被裁減掉。該應(yīng)用已經(jīng)發(fā)售了幾個(gè)月,DeepNude 團(tuán)隊(duì)表示,“老實(shí)說(shuō),這個(gè)應(yīng)用并不是那么好用”。
但它運(yùn)行良好,已經(jīng)引起了人們廣泛關(guān)注,DeepNude 能夠很快偽造裸照并且可供任何人使用。
人們未對(duì) DeepNude 的出現(xiàn)做好準(zhǔn)備?
DeepNude 背后的創(chuàng)建者告訴 Motherboard,做該軟件是出于對(duì)技術(shù)的熱愛和好奇心,他并不是一個(gè)偷窺者,并指出 DeepNude 不會(huì)自動(dòng)上傳圖像,只處理生成用戶想做的圖片。
與 Deepfake 軟件所造成的影響一樣,其最大的負(fù)面影響是這些照片可能會(huì)被用來(lái)騷擾女性,比如將女明星偽造成色情影片的女主角。
創(chuàng)建者也告訴 The Verge 稱,即便他不先做的話,別人也會(huì)很快制作像 DeepNude 這樣的軟件,因?yàn)榧夹g(shù)門檻并不高。如果發(fā)現(xiàn)該軟件被濫用,他的團(tuán)隊(duì)肯定會(huì)放棄它。DeepNude 很快關(guān)閉也是因?yàn)槠鋱F(tuán)隊(duì)認(rèn)為人們并沒(méi)有為它的出現(xiàn)做好準(zhǔn)備,即使未來(lái)人們會(huì)將該軟件使用在正途上。
很多人對(duì) DeepNude 團(tuán)隊(duì)的言論表達(dá)進(jìn)行了批評(píng)。有人在評(píng)價(jià) DeepNude 時(shí)表示,這非常可怕,侵犯了人們的隱私,如果任何人都可能成為這項(xiàng)技術(shù)的受害者,那這項(xiàng)技術(shù)不應(yīng)該向公眾開放。
還有網(wǎng)友評(píng)論稱,正常人很難相信 DeepNude 團(tuán)隊(duì)居然驚訝于人們會(huì)對(duì)該軟件有狂熱使用需求,即便該軟件已經(jīng)撤下了,但相信很快就有它的復(fù)制品出現(xiàn)。
無(wú)論如何,類似的深度偽造圖像只會(huì)更快速易于制作,并且難以檢測(cè),但如何防止濫用人們的圖像,目前鮮有良好的應(yīng)對(duì)方法。
-
神經(jīng)網(wǎng)絡(luò)
+關(guān)注
關(guān)注
42文章
4762瀏覽量
100541 -
AI
+關(guān)注
關(guān)注
87文章
30146瀏覽量
268421
原文標(biāo)題:【每日峰報(bào)】6月27日:富士康大規(guī)模裁員,撤離大陸?!AI底線究竟何在?繼換臉后這次學(xué)會(huì)了脫女性衣服...
文章出處:【微信號(hào):robotop2025,微信公眾號(hào):每日機(jī)器人峰匯】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論