近年來生成式人工智能技術(shù)迅猛發(fā)展，由此衍生的深度偽造 (Deepfake) 欺詐也愈發(fā)盛行，技術(shù)門檻的降低、生成效果的逼真、多樣化的應(yīng)用場景與檢測難度的增加，讓欺詐者們紛紛投向深度偽造欺詐。由此衍生的欺詐泛濫已經(jīng)給全球范圍內(nèi)各行業(yè)市場帶來嚴(yán)重挑戰(zhàn)。

根據(jù)相關(guān)數(shù)據(jù)統(tǒng)計顯示，深度偽造欺詐攻擊在2023年增加了3000%，全球深度偽造欺詐事件在過去幾年呈現(xiàn)激增之勢，尤其是在北美、亞太地區(qū)、中東和非洲以及拉丁美洲等地。其中基于深度偽造技術(shù)最常見的欺詐手段-合成身份欺詐在2023年的發(fā)生幾率幾乎是2021年的2倍之多。根據(jù)德勤的報告預(yù)測，到2030年單美國一個國家因合成身份欺詐就將至少造成230億美元的損失。另據(jù)數(shù)據(jù)報道顯示，26%的小型公司與38%的大型公司在過去一年中均遭遇過深度偽造欺詐，這些攻擊形式多樣，主要包括偽造視頻和語音，用于身份盜竊和金融詐騙等目的。

全球范圍內(nèi)，截至2022年包括合成身份欺詐在內(nèi)的身份欺詐總成本超過了200億美元，這對全球企業(yè)構(gòu)成了重大且日益增長的威脅以及巨大的經(jīng)濟(jì)負(fù)擔(dān)，并且隨著欺詐技術(shù)的進(jìn)步，預(yù)計損失還會進(jìn)一步增加，因此改進(jìn)安全措施和欺詐檢測技術(shù)迫在眉睫。

什么是深度偽造？

深度偽造是指經(jīng)過操縱或合成的媒體，通過使用人工智能和機(jī)器學(xué)習(xí)算法來創(chuàng)建令人信服的虛假內(nèi)容。這些復(fù)雜的技術(shù)使犯罪分子能夠?qū)⒁粋€人的臉部疊加到另一個人身體上，或者改變他們的面部表情、聲音或手勢。由此捏造出來的內(nèi)容高度真實，通常很難與真實的錄音或圖像區(qū)分。文本、圖像、音頻、視頻等各類內(nèi)容都成為了深度偽造的對象。以深度偽造視頻為例，視頻圖像主要基于生成對抗網(wǎng)絡(luò)(GAN)生成，通過訓(xùn)練大量的面部圖像數(shù)據(jù)，模型可以學(xué)習(xí)面部特征之間的潛在關(guān)系，進(jìn)而生成與真實面部特征高度相似的虛假面部特征。隨著技術(shù)的演進(jìn)，創(chuàng)建深度偽造視頻的成本越來越低，所需的訓(xùn)練時間越來越少，生成的視頻質(zhì)量也越來越高，更加難以辨別和檢測。

與此同時，很多平臺提供了Deepfake類的制作工具，個人用戶可以更輕松地生成違規(guī)內(nèi)容，例如在GitHub上就有數(shù)千個與“深度偽造”技術(shù)相關(guān)的存儲庫。不法分子只需使用現(xiàn)成的偽造工具結(jié)合模擬器和特定軟件，就能繞過傳統(tǒng)的防護(hù)檢測，滲透到線上會議、社交網(wǎng)絡(luò)和工作流程中。由于沒有數(shù)字痕跡和IP地址等信息，導(dǎo)致追蹤系統(tǒng)很難察覺。這些欺詐行為可以由機(jī)器人自動發(fā)起，配合虛假賬戶、暗網(wǎng)分發(fā)等方式形成復(fù)雜的攻擊網(wǎng)絡(luò)。

全球金融科技市場深度偽造欺詐現(xiàn)狀與場景

深度偽造技術(shù)的快速發(fā)展正給全球帶來一系列復(fù)雜的欺詐問題。深度偽造利用人工智能和深度學(xué)習(xí)技術(shù)，生成高度逼真的圖像、音頻和視頻，使得辨別真假變得越來越困難。這種技術(shù)被廣泛應(yīng)用于制造虛假新聞、誹謗和身份盜用等領(lǐng)域。例如，偽造的領(lǐng)導(dǎo)人演講視頻或虛假的商業(yè)高管聲明可能會導(dǎo)致重大經(jīng)濟(jì)損失和社會動蕩。

目前，深度偽造欺詐已成為全球范圍內(nèi)的重要安全問題。政府、企業(yè)和個人都面臨著防范深度偽造攻擊的巨大挑戰(zhàn)。各國政府和科技公司正在積極開發(fā)檢測和防御技術(shù)，以應(yīng)對深度偽造帶來的威脅。同時，法律和監(jiān)管措施也在不斷完善，以追究利用深度偽造技術(shù)進(jìn)行欺詐行為的法律責(zé)任。盡管如此，隨著技術(shù)的不斷進(jìn)步，深度偽造的欺騙性和危害性也在不斷提高，全球范圍內(nèi)的協(xié)作和持續(xù)創(chuàng)新是應(yīng)對這一問題的關(guān)鍵。

深度偽造欺詐在金融科技領(lǐng)域的常見應(yīng)用包括：身份盜用與詐騙犯罪分子利用深度偽造技術(shù)生成高度逼真的偽造視頻和音頻，冒充高管或客戶進(jìn)行詐騙。近期最著名的案例就是2024年2月公開報道發(fā)生在香港的跨國公司2億港幣AI詐騙案，欺詐者利用企業(yè)高管公開視頻與音頻合成了令人信服的“數(shù)字人”，利用視頻電話會議指示香港辦事處員工進(jìn)行轉(zhuǎn)賬操作，造成重大損失。此外，深度偽造還可以用于制作偽造的客戶身份驗證視頻，欺騙金融機(jī)構(gòu)的身份驗證系統(tǒng)，從而進(jìn)行非法賬戶操作或資金轉(zhuǎn)移。

虛假信息傳播

深度偽造技術(shù)被用來制造虛假的財經(jīng)新聞和市場傳聞，影響股票市場和加密貨幣市場的波動。例如，偽造的公司高管視頻聲明可能會誤導(dǎo)投資者，導(dǎo)致股價劇烈波動，給市場帶來不穩(wěn)定性和潛在的金融損失。

社交工程攻擊

深度偽造技術(shù)在社交工程攻擊中的應(yīng)用也日益增多。犯罪分子利用偽造的視頻或音頻，假冒客戶或同事，與金融機(jī)構(gòu)的員工建立信任關(guān)系，進(jìn)而誘騙他們泄露機(jī)密信息或執(zhí)行欺詐性交易。

重點(diǎn)聚焦：合成身份欺詐，深度偽造“最落地”與“應(yīng)用最普遍”的欺詐手段

與身份盜用與詐騙直接關(guān)聯(lián)的合成身份欺詐是利用深度偽造技術(shù)實施欺詐行為的重災(zāi)區(qū)，值得重點(diǎn)關(guān)注。在一些金融科技領(lǐng)域新興經(jīng)濟(jì)體國家，如東南亞的印尼、菲律賓以及北美地區(qū)的墨西哥，由于傳統(tǒng)金融服務(wù)覆蓋率不足、非銀行類金融企業(yè)提供的服務(wù)迅速發(fā)展，而這些國家地區(qū)居民基礎(chǔ)信息數(shù)據(jù)采集與存儲不完善的現(xiàn)狀，對金融服務(wù)反欺詐工作的開展形成了一定阻礙，也給犯罪分子提供了可乘之機(jī)，如何精準(zhǔn)防范深度偽造技術(shù)帶來的欺詐橫行現(xiàn)狀，是這些地區(qū)企業(yè)與用戶關(guān)注的熱點(diǎn)。

在印尼、墨西哥金融科技市場，AI換臉欺詐行為頻發(fā)；而在菲律賓與墨西哥市場，由于這些國家居民證件復(fù)雜多樣，例如墨西哥居民持有選民證、CURP、護(hù)照、駕照、社會保障卡等，而證件造假類型五花八門，包括翻拍、彩色打印、黑白打印、人臉篡改、文字篡改等，同時AI生成式技術(shù)增強(qiáng)了犯罪分子證件造假與盜用的能力，這也增加了數(shù)字身份驗證方式反欺詐的難度。

合成身份欺詐包括使用真實和虛假信息的混合，或者來自不同個人的真實信息的組合，來創(chuàng)建一個新的虛假身份。一旦合成身份被建立，欺詐者就可以用它來申請信用卡、貸款等金融服務(wù)，或者制造大量虛假身份攻擊在線平臺，例如薅羊毛、發(fā)表不當(dāng)評論。由于身份是虛構(gòu)的，因此機(jī)構(gòu)很難檢測和防止合成身份欺詐。據(jù)麥肯錫相關(guān)研報稱，利用“合成身份”犯罪在2023年以來迅速增長，合成身份欺詐已成為增長最快的金融犯罪形式之一。

欺詐領(lǐng)域的黑暗“藤壺”，在多行業(yè)肆虐的合成身份欺詐

AI換臉、偽造證件欺詐等合成身份欺詐行為在金融科技、跨境電商、直播社交、跨境支付等行業(yè)中也頻繁發(fā)生，具體體現(xiàn)在用戶拉新和注冊，以及資金交易往來環(huán)節(jié)。例如在金融科技行業(yè)，AI換臉技術(shù)使得犯罪分子能夠輕易偽造身份進(jìn)行注冊，騙取新用戶獎勵和推廣獎金，這無疑增加了金融科技公司的獲客成本和風(fēng)險。而偽造證件和AI生成的虛假視頻會繞過KYC（了解客戶）流程，導(dǎo)致虛假賬戶的大量增加。虛假賬戶不僅擾亂市場秩序，還可能用于后續(xù)的金融欺詐活動。而在資金交易往來層面，欺詐者可以利用偽造身份進(jìn)行欺詐交易，盜取資金或進(jìn)行洗錢活動。金融科技公司必須投入大量資源監(jiān)控和檢測可疑交易行為；同時偽造的身份可能導(dǎo)致不良貸款和信用欺詐，增加金融機(jī)構(gòu)的信用風(fēng)險和經(jīng)濟(jì)損失。

而在跨境電商行業(yè)，AI換臉和偽造證件可以創(chuàng)建大量虛假賬戶，利用平臺上對新用戶的注冊獎勵和優(yōu)惠政策進(jìn)行漏洞欺詐。這不僅增加了運(yùn)營成本，還可能影響平臺的聲譽(yù)和用戶信任，，進(jìn)而影響平臺的用戶增長和品牌形象。在資金交易往來上，偽造證件和虛假身份信息可能用于支付欺詐，導(dǎo)致企業(yè)受到資金損失和客戶投訴爭議；同時犯罪分子可能利用虛假身份進(jìn)行退款和退貨欺詐，增加企業(yè)的運(yùn)營負(fù)擔(dān)和經(jīng)濟(jì)損失。

當(dāng)下全球范圍內(nèi)都異常火熱的直播社交行業(yè)，依然存在合成身份欺詐的身影。在用戶拉新和注冊上，AI換臉技術(shù)使得創(chuàng)建虛假用戶和機(jī)器人賬號變得容易，擾亂平臺的社區(qū)生態(tài)，影響真實用戶的體驗和參與度；虛假賬戶可能用于欺詐活動，如虛假打賞、將直播間觀眾導(dǎo)流到其他平臺施行詐騙等，損害平臺和用戶的利益。在資金層面，偽造身份可以通過直播間進(jìn)行洗錢操作，給平臺帶來財務(wù)風(fēng)險和監(jiān)管挑戰(zhàn)。平臺需要加強(qiáng)對資金流動的監(jiān)控和審核；這些偽造賬戶和身份同時還可能用于發(fā)布虛假廣告和推廣，欺騙其他用戶，損害平臺的公信力和用戶體驗。

跨境支付領(lǐng)域也同樣避不開合成身份欺詐的侵?jǐn)_。AI換臉和偽造證件使得跨境支付平臺在驗證新用戶身份時面臨巨大挑戰(zhàn)，增加了注冊過程的復(fù)雜性和成本；虛假身份導(dǎo)致了大量虛假注冊，擾亂平臺運(yùn)營，增加合規(guī)風(fēng)險?？缇持Ц兑再Y金交易為主體，犯罪分子可以利用虛假身份進(jìn)行欺詐交易和洗錢活動，給跨境支付平臺帶來巨大的監(jiān)管壓力和財務(wù)風(fēng)險。平臺需要投入大量資源進(jìn)行反欺詐和反洗錢監(jiān)控；跨境支付涉及不同國家的法律法規(guī)，虛假身份和欺詐行為可能導(dǎo)致平臺違反合規(guī)要求，面臨法律和罰款風(fēng)險。因此這一行業(yè)對解決合成身份欺詐的影響有著巨大需求。

迎接深度偽造挑戰(zhàn)，ADVANCE.AI助力出海企業(yè)防范欺詐

針對深度偽造技術(shù)下合成身份欺詐為企業(yè)用戶造成的困擾，ADVANCE.AI 著眼于客戶痛點(diǎn)，專注于技術(shù)創(chuàng)新，為出海企業(yè)提供了精準(zhǔn)防范深度偽造欺詐的解決方案。“數(shù)字身份驗證(E-KYC)”解決方案專為海外客戶定制，包括證件質(zhì)量檢測（IQA）、證件識別（ID OCR）、假證檢測、活體檢測、人臉比對、人臉?biāo)阉鳌⑸矸蒡炞C等功能。

真實人臉與真實身份證件對金融科技、跨境電商、直播社交、跨境支付等行業(yè)防范欺詐攻擊起到很關(guān)鍵的作用。下文主要從假證識別和活體攻擊兩方面講解 ADVANCE.AI 用于防范合成身份欺詐的數(shù)字身份驗證解決方案產(chǎn)品。

假證識別

根據(jù)ADVANCE.AI數(shù)據(jù)統(tǒng)計，假身份證件在印尼、菲律賓和墨西哥市場的存在占比均在4-5%，存在形式以翻拍和打印為主。高質(zhì)量的假證很難通過肉眼識別，這妨礙了企業(yè)的效率和工作有效性，假證帶來的運(yùn)營成本和潛在欺詐風(fēng)險都很高。

ADVANCE.AI的KYC（了解用戶）產(chǎn)品通過多維度信息驗證，能夠可靠識別用戶身份的真實性，例如數(shù)字身份驗證產(chǎn)品下的“ID Forgery Detection （假證檢測）全自動解決方案”支持識別多國不同證件類型，輕松解決假證識別問題。其中支持識別假證類型包括屏幕翻拍、黑白復(fù)印、彩色打印、人臉篡改、文字篡改等，大量減少企業(yè)繁瑣審核工作和不確定的違約風(fēng)險，確保眾多類型的偽造證件都能被ADVANCE.AI智能的機(jī)器學(xué)習(xí)模型準(zhǔn)確快速檢測到。

活體攻擊

在金融科技領(lǐng)域，活體攻擊（Liveness Attack）指的是利用技術(shù)手段欺騙生物識別系統(tǒng)，使其認(rèn)為虛假的或模擬的生物特征是真實的活體人類特征。這種攻擊的目標(biāo)是繞過生物識別驗證，如面部識別、指紋識別或語音識別，從而進(jìn)行身份冒充和欺詐活動。具體來說，活體攻擊通常包括：注入攻擊、屏幕攻擊、面具攻擊、AIGC人臉等幾種形式。根據(jù)ADVANCE.AI數(shù)據(jù)統(tǒng)計，以印尼市場為例，屏幕攻擊是最主要的攻擊方式，占比73.94%，其次隨著深度偽造欺詐技術(shù)的不斷提升，AIGC人臉合成以及注入式攻擊的比例正在逐步提高。

金融科技企業(yè)通常依賴生物識別技術(shù)進(jìn)行用戶身份驗證和欺詐防范，但活體攻擊的出現(xiàn)大大增加了生物識別系統(tǒng)被欺騙的風(fēng)險，因此許多金融科技企業(yè)尋求采用更先進(jìn)的活體檢測技術(shù)，以確保驗證的對象是真正的活體人類，而不是模擬或者偽造的生物特征。這些技術(shù)包括基于運(yùn)動、紋理與光學(xué)的活體檢測以及多因素驗證在內(nèi)的技術(shù)手段，而ADVANCE.AI的活體檢測解決方案在這些基礎(chǔ)之上，提供了3D活體檢測產(chǎn)品，相較傳統(tǒng)的2D活體檢測手段，這一版本更適用于防范深度偽造欺詐，擁有更強(qiáng)的交互性，攻擊攔截率高達(dá)99.95%，其對靜態(tài)攻擊（如圖片翻拍、紙張面具、圖片打印）有非常好的防御效果。

ADVANCE.AI的活體檢測產(chǎn)品通過結(jié)合人臉識別和活體驗證技術(shù)，能夠準(zhǔn)確判斷用戶身份的真實性，有效防范AI換臉等欺詐手段。無論是在用戶注冊、登錄還是交易過程中，活體檢測產(chǎn)品都能為企業(yè)提供可靠的身份驗證服務(wù)，確保交易的安全可靠。

未來ADVANCE.AI還將持續(xù)對假證識別與活體檢測產(chǎn)品進(jìn)行升級，尤其是在“復(fù)雜活體攻擊的檢測”和“多維度風(fēng)控策略”上下功夫，以應(yīng)對深度偽造欺詐的快速變化帶來的風(fēng)險。

深耕反欺詐多年，ADVANCE.AI為出海企業(yè)保駕護(hù)航

作為全球領(lǐng)先的數(shù)字身份驗證服務(wù)公司， ADVANCE.AI 為企業(yè)提供先進(jìn)的深度偽造檢測解決方案，以有效降低風(fēng)險。通過結(jié)合先進(jìn)的人工智能算法、機(jī)器學(xué)習(xí)模型、成熟的業(yè)務(wù)知識和落地經(jīng)驗，ADVANCE.AI 使企業(yè)能夠驗證用戶身份并防范與深度偽造相關(guān)的欺詐。

ADVANCE.AI 一直致力于走在技術(shù)進(jìn)步的最前沿，不斷增強(qiáng)自身產(chǎn)品對Deepfake深度偽造的檢測能力。通過與 ADVANCE.AI 合作，企業(yè)客戶可以對用戶身份真實性進(jìn)行可靠驗證，并保護(hù)自己免受不斷變化的威脅環(huán)境的影響。我們相信，借助ADVANCE.AI 的技術(shù)力量，出海企業(yè)能夠更加輕松地應(yīng)對深度偽造欺詐的挑戰(zhàn)并贏得市場。

審核編輯 黃宇