近年來生成式人工智能技術(shù)迅猛發(fā)展，由此衍生的深度偽造 (Deepfake) 欺詐也愈發(fā)盛行，技術(shù)門檻的降低、生成效果的逼真、多樣化的應(yīng)用場(chǎng)景與檢測(cè)難度的增加，讓欺詐者們紛紛投向深度偽造欺詐。由此衍生的欺詐泛濫已經(jīng)給全球范圍內(nèi)各行業(yè)市場(chǎng)帶來嚴(yán)重挑戰(zhàn)。

根據(jù)相關(guān)數(shù)據(jù)統(tǒng)計(jì)顯示，深度偽造欺詐攻擊在2023年增加了3000%，全球深度偽造欺詐事件在過去幾年呈現(xiàn)激增之勢(shì)，尤其是在北美、亞太地區(qū)、中東和非洲以及拉丁美洲等地。其中基于深度偽造技術(shù)最常見的欺詐手段-合成身份欺詐在2023年的發(fā)生幾率幾乎是2021年的2倍之多。根據(jù)德勤的報(bào)告預(yù)測(cè)，到2030年單美國(guó)一個(gè)國(guó)家因合成身份欺詐就將至少造成230億美元的損失。另?yè)?jù)數(shù)據(jù)報(bào)道顯示，26%的小型公司與38%的大型公司在過去一年中均遭遇過深度偽造欺詐，這些攻擊形式多樣，主要包括偽造視頻和語(yǔ)音，用于身份盜竊和金融詐騙等目的。

全球范圍內(nèi)，截至2022年包括合成身份欺詐在內(nèi)的身份欺詐總成本超過了200億美元，這對(duì)全球企業(yè)構(gòu)成了重大且日益增長(zhǎng)的威脅以及巨大的經(jīng)濟(jì)負(fù)擔(dān)，并且隨著欺詐技術(shù)的進(jìn)步，預(yù)計(jì)損失還會(huì)進(jìn)一步增加，因此改進(jìn)安全措施和欺詐檢測(cè)技術(shù)迫在眉睫。

什么是深度偽造？

深度偽造是指經(jīng)過操縱或合成的媒體，通過使用人工智能和機(jī)器學(xué)習(xí)算法來創(chuàng)建令人信服的虛假內(nèi)容。這些復(fù)雜的技術(shù)使犯罪分子能夠?qū)⒁粋€(gè)人的臉部疊加到另一個(gè)人身體上，或者改變他們的面部表情、聲音或手勢(shì)。由此捏造出來的內(nèi)容高度真實(shí)，通常很難與真實(shí)的錄音或圖像區(qū)分。文本、圖像、音頻、視頻等各類內(nèi)容都成為了深度偽造的對(duì)象。以深度偽造視頻為例，視頻圖像主要基于生成對(duì)抗網(wǎng)絡(luò)(GAN)生成，通過訓(xùn)練大量的面部圖像數(shù)據(jù)，模型可以學(xué)習(xí)面部特征之間的潛在關(guān)系，進(jìn)而生成與真實(shí)面部特征高度相似的虛假面部特征。隨著技術(shù)的演進(jìn)，創(chuàng)建深度偽造視頻的成本越來越低，所需的訓(xùn)練時(shí)間越來越少，生成的視頻質(zhì)量也越來越高，更加難以辨別和檢測(cè)。

與此同時(shí)，很多平臺(tái)提供了Deepfake類的制作工具，個(gè)人用戶可以更輕松地生成違規(guī)內(nèi)容，例如在GitHub上就有數(shù)千個(gè)與“深度偽造”技術(shù)相關(guān)的存儲(chǔ)庫(kù)。不法分子只需使用現(xiàn)成的偽造工具結(jié)合模擬器和特定軟件，就能繞過傳統(tǒng)的防護(hù)檢測(cè)，滲透到線上會(huì)議、社交網(wǎng)絡(luò)和工作流程中。由于沒有數(shù)字痕跡和IP地址等信息，導(dǎo)致追蹤系統(tǒng)很難察覺。這些欺詐行為可以由機(jī)器人自動(dòng)發(fā)起，配合虛假賬戶、暗網(wǎng)分發(fā)等方式形成復(fù)雜的攻擊網(wǎng)絡(luò)。

全球金融科技市場(chǎng)深度偽造欺詐現(xiàn)狀與場(chǎng)景

深度偽造技術(shù)的快速發(fā)展正給全球帶來一系列復(fù)雜的欺詐問題。深度偽造利用人工智能和深度學(xué)習(xí)技術(shù)，生成高度逼真的圖像、音頻和視頻，使得辨別真假變得越來越困難。這種技術(shù)被廣泛應(yīng)用于制造虛假新聞、誹謗和身份盜用等領(lǐng)域。例如，偽造的領(lǐng)導(dǎo)人演講視頻或虛假的商業(yè)高管聲明可能會(huì)導(dǎo)致重大經(jīng)濟(jì)損失和社會(huì)動(dòng)蕩。

目前，深度偽造欺詐已成為全球范圍內(nèi)的重要安全問題。政府、企業(yè)和個(gè)人都面臨著防范深度偽造攻擊的巨大挑戰(zhàn)。各國(guó)政府和科技公司正在積極開發(fā)檢測(cè)和防御技術(shù)，以應(yīng)對(duì)深度偽造帶來的威脅。同時(shí)，法律和監(jiān)管措施也在不斷完善，以追究利用深度偽造技術(shù)進(jìn)行欺詐行為的法律責(zé)任。盡管如此，隨著技術(shù)的不斷進(jìn)步，深度偽造的欺騙性和危害性也在不斷提高，全球范圍內(nèi)的協(xié)作和持續(xù)創(chuàng)新是應(yīng)對(duì)這一問題的關(guān)鍵。

深度偽造欺詐在金融科技領(lǐng)域的常見應(yīng)用包括：身份盜用與詐騙犯罪分子利用深度偽造技術(shù)生成高度逼真的偽造視頻和音頻，冒充高管或客戶進(jìn)行詐騙。近期最著名的案例就是2024年2月公開報(bào)道發(fā)生在香港的跨國(guó)公司2億港幣AI詐騙案，欺詐者利用企業(yè)高管公開視頻與音頻合成了令人信服的“數(shù)字人”，利用視頻電話會(huì)議指示香港辦事處員工進(jìn)行轉(zhuǎn)賬操作，造成重大損失。此外，深度偽造還可以用于制作偽造的客戶身份驗(yàn)證視頻，欺騙金融機(jī)構(gòu)的身份驗(yàn)證系統(tǒng)，從而進(jìn)行非法賬戶操作或資金轉(zhuǎn)移。

虛假信息傳播

深度偽造技術(shù)被用來制造虛假的財(cái)經(jīng)新聞和市場(chǎng)傳聞，影響股票市場(chǎng)和加密貨幣市場(chǎng)的波動(dòng)。例如，偽造的公司高管視頻聲明可能會(huì)誤導(dǎo)投資者，導(dǎo)致股價(jià)劇烈波動(dòng)，給市場(chǎng)帶來不穩(wěn)定性和潛在的金融損失。

社交工程攻擊

深度偽造技術(shù)在社交工程攻擊中的應(yīng)用也日益增多。犯罪分子利用偽造的視頻或音頻，假冒客戶或同事，與金融機(jī)構(gòu)的員工建立信任關(guān)系，進(jìn)而誘騙他們泄露機(jī)密信息或執(zhí)行欺詐性交易。

重點(diǎn)聚焦：合成身份欺詐，深度偽造“最落地”與“應(yīng)用最普遍”的欺詐手段

與身份盜用與詐騙直接關(guān)聯(lián)的合成身份欺詐是利用深度偽造技術(shù)實(shí)施欺詐行為的重災(zāi)區(qū)，值得重點(diǎn)關(guān)注。在一些金融科技領(lǐng)域新興經(jīng)濟(jì)體國(guó)家，如東南亞的印尼、菲律賓以及北美地區(qū)的墨西哥，由于傳統(tǒng)金融服務(wù)覆蓋率不足、非銀行類金融企業(yè)提供的服務(wù)迅速發(fā)展，而這些國(guó)家地區(qū)居民基礎(chǔ)信息數(shù)據(jù)采集與存儲(chǔ)不完善的現(xiàn)狀，對(duì)金融服務(wù)反欺詐工作的開展形成了一定阻礙，也給犯罪分子提供了可乘之機(jī)，如何精準(zhǔn)防范深度偽造技術(shù)帶來的欺詐橫行現(xiàn)狀，是這些地區(qū)企業(yè)與用戶關(guān)注的熱點(diǎn)。

在印尼、墨西哥金融科技市場(chǎng)，AI換臉欺詐行為頻發(fā)；而在菲律賓與墨西哥市場(chǎng)，由于這些國(guó)家居民證件復(fù)雜多樣，例如墨西哥居民持有選民證、CURP、護(hù)照、駕照、社會(huì)保障卡等，而證件造假類型五花八門，包括翻拍、彩色打印、黑白打印、人臉篡改、文字篡改等，同時(shí)AI生成式技術(shù)增強(qiáng)了犯罪分子證件造假與盜用的能力，這也增加了數(shù)字身份驗(yàn)證方式反欺詐的難度。

合成身份欺詐包括使用真實(shí)和虛假信息的混合，或者來自不同個(gè)人的真實(shí)信息的組合，來創(chuàng)建一個(gè)新的虛假身份。一旦合成身份被建立，欺詐者就可以用它來申請(qǐng)信用卡、貸款等金融服務(wù)，或者制造大量虛假身份攻擊在線平臺(tái)，例如薅羊毛、發(fā)表不當(dāng)評(píng)論。由于身份是虛構(gòu)的，因此機(jī)構(gòu)很難檢測(cè)和防止合成身份欺詐。據(jù)麥肯錫相關(guān)研報(bào)稱，利用“合成身份”犯罪在2023年以來迅速增長(zhǎng)，合成身份欺詐已成為增長(zhǎng)最快的金融犯罪形式之一。

欺詐領(lǐng)域的黑暗“藤壺”，在多行業(yè)肆虐的合成身份欺詐

AI換臉、偽造證件欺詐等合成身份欺詐行為在金融科技、跨境電商、直播社交、跨境支付等行業(yè)中也頻繁發(fā)生，具體體現(xiàn)在用戶拉新和注冊(cè)，以及資金交易往來環(huán)節(jié)。例如在金融科技行業(yè)，AI換臉技術(shù)使得犯罪分子能夠輕易偽造身份進(jìn)行注冊(cè)，騙取新用戶獎(jiǎng)勵(lì)和推廣獎(jiǎng)金，這無(wú)疑增加了金融科技公司的獲客成本和風(fēng)險(xiǎn)。而偽造證件和AI生成的虛假視頻會(huì)繞過KYC（了解客戶）流程，導(dǎo)致虛假賬戶的大量增加。虛假賬戶不僅擾亂市場(chǎng)秩序，還可能用于后續(xù)的金融欺詐活動(dòng)。而在資金交易往來層面，欺詐者可以利用偽造身份進(jìn)行欺詐交易，盜取資金或進(jìn)行洗錢活動(dòng)。金融科技公司必須投入大量資源監(jiān)控和檢測(cè)可疑交易行為；同時(shí)偽造的身份可能導(dǎo)致不良貸款和信用欺詐，增加金融機(jī)構(gòu)的信用風(fēng)險(xiǎn)和經(jīng)濟(jì)損失。

而在跨境電商行業(yè)，AI換臉和偽造證件可以創(chuàng)建大量虛假賬戶，利用平臺(tái)上對(duì)新用戶的注冊(cè)獎(jiǎng)勵(lì)和優(yōu)惠政策進(jìn)行漏洞欺詐。這不僅增加了運(yùn)營(yíng)成本，還可能影響平臺(tái)的聲譽(yù)和用戶信任，，進(jìn)而影響平臺(tái)的用戶增長(zhǎng)和品牌形象。在資金交易往來上，偽造證件和虛假身份信息可能用于支付欺詐，導(dǎo)致企業(yè)受到資金損失和客戶投訴爭(zhēng)議；同時(shí)犯罪分子可能利用虛假身份進(jìn)行退款和退貨欺詐，增加企業(yè)的運(yùn)營(yíng)負(fù)擔(dān)和經(jīng)濟(jì)損失。

當(dāng)下全球范圍內(nèi)都異常火熱的直播社交行業(yè)，依然存在合成身份欺詐的身影。在用戶拉新和注冊(cè)上，AI換臉技術(shù)使得創(chuàng)建虛假用戶和機(jī)器人賬號(hào)變得容易，擾亂平臺(tái)的社區(qū)生態(tài)，影響真實(shí)用戶的體驗(yàn)和參與度；虛假賬戶可能用于欺詐活動(dòng)，如虛假打賞、將直播間觀眾導(dǎo)流到其他平臺(tái)施行詐騙等，損害平臺(tái)和用戶的利益。在資金層面，偽造身份可以通過直播間進(jìn)行洗錢操作，給平臺(tái)帶來財(cái)務(wù)風(fēng)險(xiǎn)和監(jiān)管挑戰(zhàn)。平臺(tái)需要加強(qiáng)對(duì)資金流動(dòng)的監(jiān)控和審核；這些偽造賬戶和身份同時(shí)還可能用于發(fā)布虛假?gòu)V告和推廣，欺騙其他用戶，損害平臺(tái)的公信力和用戶體驗(yàn)。

跨境支付領(lǐng)域也同樣避不開合成身份欺詐的侵?jǐn)_。AI換臉和偽造證件使得跨境支付平臺(tái)在驗(yàn)證新用戶身份時(shí)面臨巨大挑戰(zhàn)，增加了注冊(cè)過程的復(fù)雜性和成本；虛假身份導(dǎo)致了大量虛假注冊(cè)，擾亂平臺(tái)運(yùn)營(yíng)，增加合規(guī)風(fēng)險(xiǎn)。跨境支付以資金交易為主體，犯罪分子可以利用虛假身份進(jìn)行欺詐交易和洗錢活動(dòng)，給跨境支付平臺(tái)帶來巨大的監(jiān)管壓力和財(cái)務(wù)風(fēng)險(xiǎn)。平臺(tái)需要投入大量資源進(jìn)行反欺詐和反洗錢監(jiān)控；跨境支付涉及不同國(guó)家的法律法規(guī)，虛假身份和欺詐行為可能導(dǎo)致平臺(tái)違反合規(guī)要求，面臨法律和罰款風(fēng)險(xiǎn)。因此這一行業(yè)對(duì)解決合成身份欺詐的影響有著巨大需求。

迎接深度偽造挑戰(zhàn)，ADVANCE.AI助力出海企業(yè)防范欺詐

針對(duì)深度偽造技術(shù)下合成身份欺詐為企業(yè)用戶造成的困擾，ADVANCE.AI 著眼于客戶痛點(diǎn)，專注于技術(shù)創(chuàng)新，為出海企業(yè)提供了精準(zhǔn)防范深度偽造欺詐的解決方案。“數(shù)字身份驗(yàn)證(E-KYC)”解決方案專為海外客戶定制，包括證件質(zhì)量檢測(cè)（IQA）、證件識(shí)別（ID OCR）、假證檢測(cè)、活體檢測(cè)、人臉比對(duì)、人臉?biāo)阉鳌⑸矸蒡?yàn)證等功能。

真實(shí)人臉與真實(shí)身份證件對(duì)金融科技、跨境電商、直播社交、跨境支付等行業(yè)防范欺詐攻擊起到很關(guān)鍵的作用。下文主要從假證識(shí)別和活體攻擊兩方面講解 ADVANCE.AI 用于防范合成身份欺詐的數(shù)字身份驗(yàn)證解決方案產(chǎn)品。

假證識(shí)別

根據(jù)ADVANCE.AI數(shù)據(jù)統(tǒng)計(jì)，假身份證件在印尼、菲律賓和墨西哥市場(chǎng)的存在占比均在4-5%，存在形式以翻拍和打印為主。高質(zhì)量的假證很難通過肉眼識(shí)別，這妨礙了企業(yè)的效率和工作有效性，假證帶來的運(yùn)營(yíng)成本和潛在欺詐風(fēng)險(xiǎn)都很高。

ADVANCE.AI的KYC（了解用戶）產(chǎn)品通過多維度信息驗(yàn)證，能夠可靠識(shí)別用戶身份的真實(shí)性，例如數(shù)字身份驗(yàn)證產(chǎn)品下的“ID Forgery Detection （假證檢測(cè)）全自動(dòng)解決方案”支持識(shí)別多國(guó)不同證件類型，輕松解決假證識(shí)別問題。其中支持識(shí)別假證類型包括屏幕翻拍、黑白復(fù)印、彩色打印、人臉篡改、文字篡改等，大量減少企業(yè)繁瑣審核工作和不確定的違約風(fēng)險(xiǎn)，確保眾多類型的偽造證件都能被ADVANCE.AI智能的機(jī)器學(xué)習(xí)模型準(zhǔn)確快速檢測(cè)到。

活體攻擊

在金融科技領(lǐng)域，活體攻擊（Liveness Attack）指的是利用技術(shù)手段欺騙生物識(shí)別系統(tǒng)，使其認(rèn)為虛假的或模擬的生物特征是真實(shí)的活體人類特征。這種攻擊的目標(biāo)是繞過生物識(shí)別驗(yàn)證，如面部識(shí)別、指紋識(shí)別或語(yǔ)音識(shí)別，從而進(jìn)行身份冒充和欺詐活動(dòng)。具體來說，活體攻擊通常包括：注入攻擊、屏幕攻擊、面具攻擊、AIGC人臉等幾種形式。根據(jù)ADVANCE.AI數(shù)據(jù)統(tǒng)計(jì)，以印尼市場(chǎng)為例，屏幕攻擊是最主要的攻擊方式，占比73.94%，其次隨著深度偽造欺詐技術(shù)的不斷提升，AIGC人臉合成以及注入式攻擊的比例正在逐步提高。

金融科技企業(yè)通常依賴生物識(shí)別技術(shù)進(jìn)行用戶身份驗(yàn)證和欺詐防范，但活體攻擊的出現(xiàn)大大增加了生物識(shí)別系統(tǒng)被欺騙的風(fēng)險(xiǎn)，因此許多金融科技企業(yè)尋求采用更先進(jìn)的活體檢測(cè)技術(shù)，以確保驗(yàn)證的對(duì)象是真正的活體人類，而不是模擬或者偽造的生物特征。這些技術(shù)包括基于運(yùn)動(dòng)、紋理與光學(xué)的活體檢測(cè)以及多因素驗(yàn)證在內(nèi)的技術(shù)手段，而ADVANCE.AI的活體檢測(cè)解決方案在這些基礎(chǔ)之上，提供了3D活體檢測(cè)產(chǎn)品，相較傳統(tǒng)的2D活體檢測(cè)手段，這一版本更適用于防范深度偽造欺詐，擁有更強(qiáng)的交互性，攻擊攔截率高達(dá)99.95%，其對(duì)靜態(tài)攻擊（如圖片翻拍、紙張面具、圖片打印）有非常好的防御效果。

ADVANCE.AI的活體檢測(cè)產(chǎn)品通過結(jié)合人臉識(shí)別和活體驗(yàn)證技術(shù)，能夠準(zhǔn)確判斷用戶身份的真實(shí)性，有效防范AI換臉等欺詐手段。無(wú)論是在用戶注冊(cè)、登錄還是交易過程中，活體檢測(cè)產(chǎn)品都能為企業(yè)提供可靠的身份驗(yàn)證服務(wù)，確保交易的安全可靠。

未來ADVANCE.AI還將持續(xù)對(duì)假證識(shí)別與活體檢測(cè)產(chǎn)品進(jìn)行升級(jí)，尤其是在“復(fù)雜活體攻擊的檢測(cè)”和“多維度風(fēng)控策略”上下功夫，以應(yīng)對(duì)深度偽造欺詐的快速變化帶來的風(fēng)險(xiǎn)。

深耕反欺詐多年，ADVANCE.AI為出海企業(yè)保駕護(hù)航

作為全球領(lǐng)先的數(shù)字身份驗(yàn)證服務(wù)公司， ADVANCE.AI 為企業(yè)提供先進(jìn)的深度偽造檢測(cè)解決方案，以有效降低風(fēng)險(xiǎn)。通過結(jié)合先進(jìn)的人工智能算法、機(jī)器學(xué)習(xí)模型、成熟的業(yè)務(wù)知識(shí)和落地經(jīng)驗(yàn)，ADVANCE.AI 使企業(yè)能夠驗(yàn)證用戶身份并防范與深度偽造相關(guān)的欺詐。

ADVANCE.AI 一直致力于走在技術(shù)進(jìn)步的最前沿，不斷增強(qiáng)自身產(chǎn)品對(duì)Deepfake深度偽造的檢測(cè)能力。通過與 ADVANCE.AI 合作，企業(yè)客戶可以對(duì)用戶身份真實(shí)性進(jìn)行可靠驗(yàn)證，并保護(hù)自己免受不斷變化的威脅環(huán)境的影響。我們相信，借助ADVANCE.AI 的技術(shù)力量，出海企業(yè)能夠更加輕松地應(yīng)對(duì)深度偽造欺詐的挑戰(zhàn)并贏得市場(chǎng)。

審核編輯 黃宇