全球短視頻與直播社交行業(yè)在過去幾年經(jīng)歷了顯著增長，已成為當(dāng)今互聯(lián)網(wǎng)時(shí)代最具代表性與成長性的產(chǎn)業(yè)之一。2023年全球直播市場(chǎng)估值約606.3億美元，預(yù)計(jì)2032年將達(dá)到2565.6億美元。全球市場(chǎng)上，行業(yè)頭部的TikTok最新月活用戶已超15.82億，而另一代表YouTube全球月活用戶已達(dá)24.9億。而國內(nèi)市場(chǎng)上，最大短視頻與直播社交平臺(tái)抖音月活用戶已超8億。巨大的用戶基數(shù)與勢(shì)頭迅猛的增長趨勢(shì)，為直播社交行業(yè)創(chuàng)造了商機(jī)豐富的生態(tài)，同時(shí)也吸引了欺詐團(tuán)伙的目光。

欺詐者在直播社交行業(yè)實(shí)施欺詐行為主要基于深度偽造技術(shù)，合成虛假的身份進(jìn)行欺詐。例如冒充名人或網(wǎng)紅進(jìn)行直播詐騙、制作虛假色情直播內(nèi)容詐騙、偽造身份注冊(cè)直播賬號(hào)進(jìn)行違法活動(dòng)，或冒充親友詐騙直播社交軟件用戶，以及制作虛假廣告欺騙用戶。

得益于生成式人工智能技術(shù)飛躍發(fā)展，由此衍生的深度偽造 (Deepfake)技術(shù)也越來越成熟，基于深度偽造的欺詐具有技術(shù)門檻低、生成效果逼真、應(yīng)用場(chǎng)景多樣化與檢測(cè)難度高等“優(yōu)點(diǎn)”，這無疑給直播社交行業(yè)的從業(yè)者帶來了嚴(yán)重的挑戰(zhàn)。

深度偽造是指經(jīng)過操縱或合成的媒體，通過使用人工智能和機(jī)器學(xué)習(xí)算法來創(chuàng)建令人信服的虛假內(nèi)容。這些復(fù)雜的技術(shù)使犯罪分子能夠?qū)⒁粋€(gè)人的臉部疊加到另一個(gè)人身體上，或者改變他們的面部表情、聲音或手勢(shì)。文本、圖像、音頻、視頻等各類內(nèi)容都成為了深度偽造的對(duì)象。以深度偽造視頻為例，視頻圖像主要基于生成對(duì)抗網(wǎng)絡(luò)(GAN)生成，通過訓(xùn)練大量的面部圖像數(shù)據(jù)，模型可以學(xué)習(xí)面部特征之間的潛在關(guān)系，進(jìn)而生成與真實(shí)面部特征高度相似的虛假面部特征。隨著技術(shù)的演進(jìn)，創(chuàng)建深度偽造視頻的成本越來越低，所需的訓(xùn)練時(shí)間越來越少，生成的視頻質(zhì)量也越來越高，更加難以辨別和檢測(cè)。

不法分子可以利用生成的深度偽造視頻等內(nèi)容，結(jié)合現(xiàn)成的偽造工具結(jié)合模擬器和特定軟件，就能繞過傳統(tǒng)的防護(hù)檢測(cè)，滲透到線上會(huì)議、社交網(wǎng)絡(luò)和工作流程中。由于沒有數(shù)字痕跡和IP地址等信息，導(dǎo)致追蹤系統(tǒng)很難察覺。

基于深度偽造AI技術(shù)的合成身份、虛假身份欺詐，因其以假亂真的逼真程度，往往讓受騙者防不勝防，因?yàn)樯疃葌卧熘谱鞯牟牧鲜莻€(gè)人音頻、圖片、視頻，這些數(shù)據(jù)越多，訓(xùn)練出的視頻就越逼真，所以社交媒體上相關(guān)數(shù)據(jù)較多的博主、明星容易成為深度偽造的目標(biāo)。全球知名歌手泰勒·斯威夫特(Taylor Swift)不止一次受到深度偽造欺詐造成的困擾。今年1月她遭遇AI合成不雅照事件，其后不久一則由AI生成的斯威夫特帶貨廣告又在海外社交媒體上瘋傳。這則虛假廣告利用深度偽造技術(shù)，合成了斯威夫特的聲音，并將聲音及她的形象和Le Creuset品牌炊具廣告片段拼湊在一起，宣稱免費(fèi)向粉絲贈(zèng)送炊具，引導(dǎo)受害者點(diǎn)擊并支付運(yùn)費(fèi)，但炊具不會(huì)真的送出。

而即便是互聯(lián)網(wǎng)上資料痕跡少的普通人，也一樣有概率被欺詐團(tuán)伙盯上，利用深度偽造技術(shù)合成虛假身份完成欺詐，造成經(jīng)濟(jì)財(cái)產(chǎn)損失。2023年福州市某公司法人郭先生就不幸遭遇了10分鐘內(nèi)被騙430萬元的經(jīng)歷。詐騙者偽裝成他的好友，通過微信視頻聯(lián)系到他，稱自己的朋友在外地競標(biāo)，需要430萬元保證金，想借用郭先生公司的賬戶走賬。基于對(duì)好友的信任，加上已經(jīng)視頻聊天“核實(shí)”了身份，郭先生在10分鐘內(nèi)，在收到轉(zhuǎn)賬截圖后沒有核實(shí)錢款到賬就立馬“轉(zhuǎn)回去”430萬元。事后，郭先生撥打好友電話才得知被騙。

個(gè)人案例之外，欺詐團(tuán)伙針對(duì)企業(yè)的大規(guī)模合成身份欺詐行為，更是嚴(yán)重破壞直播社交行業(yè)生態(tài)發(fā)展的“頑疾”。在用戶拉新和注冊(cè)上，AI換臉技術(shù)使得創(chuàng)建虛假用戶和機(jī)器人賬號(hào)變得容易，大批量的合成虛假賬號(hào)擾亂平臺(tái)的社區(qū)生態(tài)，影響真實(shí)用戶的體驗(yàn)和參與度；虛假賬號(hào)可能用于欺詐活動(dòng)，如虛假打賞、將直播間觀眾導(dǎo)流到其他平臺(tái)施行詐騙等，損害平臺(tái)和用戶的利益。在資金層面，偽造身份可以通過直播間進(jìn)行洗錢操作，給平臺(tái)帶來財(cái)務(wù)風(fēng)險(xiǎn)和監(jiān)管挑戰(zhàn)。這些偽造賬戶和身份同時(shí)還可能用于發(fā)布虛假廣告和推廣，欺騙其他用戶，損害平臺(tái)的公信力和用戶體驗(yàn)。

所有這些欺詐行為，都將迫使直播社交平臺(tái)投入更多的資金與人力進(jìn)行欺詐檢測(cè)、用戶審核以及應(yīng)對(duì)合規(guī)層面的壓力，產(chǎn)生大量額外的支出。

加強(qiáng)用戶注冊(cè)與登錄環(huán)節(jié)的身份驗(yàn)證和活體檢測(cè)、加強(qiáng)內(nèi)容層面的審核與監(jiān)測(cè)，加強(qiáng)員工的安全培訓(xùn)、提升對(duì)深度偽造關(guān)聯(lián)欺詐的防范意識(shí)，都是直播社交行業(yè)企業(yè)可以采取的措施，但從實(shí)際出發(fā)，要想從專業(yè)層面提升企業(yè)的反欺詐能力，同時(shí)對(duì)未來潛在難度升級(jí)的深度偽造欺詐保持對(duì)應(yīng)防范，企業(yè)應(yīng)當(dāng)與擁有先進(jìn)反欺詐技術(shù)的身份驗(yàn)證服務(wù)商或安全廠商進(jìn)行合作。

迎接深度偽造挑戰(zhàn) ADVANCE.AI助力直播社交行業(yè)防范欺詐

針對(duì)深度偽造技術(shù)下合成身份欺詐為直播社交行業(yè)企業(yè)造成的困擾，ADVANCE.AI 著眼于客戶痛點(diǎn)，專注于技術(shù)創(chuàng)新，為企業(yè)提供了精準(zhǔn)防范深度偽造欺詐的解決方案?！皵?shù)字身份驗(yàn)證(E-KYC)”解決方案可用于合成身份欺詐檢測(cè)，包括證件質(zhì)量檢測(cè)（IQA）、證件識(shí)別（ID OCR）、假證檢測(cè)、活體檢測(cè)、人臉比對(duì)、人臉?biāo)阉鳌⑸矸蒡?yàn)證等功能。

真實(shí)人臉與真實(shí)身份證件對(duì)直播社交行業(yè)防范欺詐攻擊起到很關(guān)鍵的作用。驗(yàn)證直播社交用戶賬號(hào)的身份真實(shí)性是防范合成身份欺詐的主要手段之一，可以檢測(cè)身份冒用，當(dāng)前主流解決方案以采用生物識(shí)別技術(shù)（如人臉識(shí)別、聲紋識(shí)別）為主，而欺詐份子針對(duì)此類檢測(cè)手段，通常會(huì)實(shí)施活體攻擊來繞過生物識(shí)別驗(yàn)證，從而進(jìn)行身份冒充和欺詐活動(dòng)。在多種活體攻擊類型中，屏幕攻擊與注入攻擊占比較高。ADVANCE.AI針對(duì)活體攻擊的活體檢測(cè)解決方案可幫助直播社交企業(yè)高效率檢測(cè)此類攻擊，該解決方案可基于運(yùn)動(dòng)、紋理與光學(xué)的活體檢測(cè)以及多因素驗(yàn)證在內(nèi)的技術(shù)手段完成檢測(cè)，并在此基礎(chǔ)上還提供了更適用于合成身份欺詐防范的3D活體檢測(cè)產(chǎn)品，擁有更強(qiáng)的交互性，攻擊攔截率高達(dá)99.95%。

而在直播社交行業(yè)新用戶注冊(cè)環(huán)節(jié)，要求賬號(hào)持有人提供多重身份證明材料也是防范欺詐份子注冊(cè)虛假賬號(hào)實(shí)施欺詐的另一項(xiàng)防范手段。然而存在于金融科技、跨境電商等行業(yè)領(lǐng)域的假證問題，在直播社交行業(yè)同樣存在，欺詐團(tuán)伙會(huì)利用假證等多項(xiàng)資料合成虛假身份，大量注冊(cè)虛假賬戶實(shí)施欺詐。ADVANCE.AI數(shù)字身份驗(yàn)證解決方案下的“ID Forgery Detection（假證檢測(cè)）全自動(dòng)解決方案“支持識(shí)別多國不同證件類型，輕松解決假證識(shí)別問題。其中支持識(shí)別假證類型包括屏幕翻拍、黑白復(fù)印、彩色打印、人臉篡改、文字篡改等，可以大量減少企業(yè)繁瑣審核工作，降低運(yùn)營成本支出。

采取上述防范措施解決合成身份欺詐對(duì)直播社交行業(yè)的困擾與危害，可以讓企業(yè)的平臺(tái)產(chǎn)品恢復(fù)正常的運(yùn)營，讓真實(shí)用戶流暢使用產(chǎn)品與服務(wù)，企業(yè)能在符合合規(guī)要求下安全展業(yè)，還維護(hù)了平臺(tái)的公信力。

深耕反欺詐多年 ADVANCE.AI為出海企業(yè)保駕護(hù)航

合成身份欺詐是直播社交行業(yè)必須面對(duì)的問題，隨著技術(shù)的不斷發(fā)展，欺詐手段也在不斷更新。 作為全球領(lǐng)先的數(shù)字身份驗(yàn)證服務(wù)公司， ADVANCE.AI 能夠?yàn)槠髽I(yè)提供先進(jìn)的深度偽造檢測(cè)解決方案，以有效降低風(fēng)險(xiǎn)。通過結(jié)合先進(jìn)的人工智能算法、機(jī)器學(xué)習(xí)模型、成熟的業(yè)務(wù)知識(shí)和落地經(jīng)驗(yàn)，ADVANCE.AI使企業(yè)能夠驗(yàn)證用戶身份并防范與深度偽造相關(guān)的欺詐。

ADVANCE.AI 一直致力于走在技術(shù)進(jìn)步的最前沿，不斷增強(qiáng)自身產(chǎn)品對(duì)Deepfake深度偽造的檢測(cè)能力。通過與 ADVANCE.AI合作，企業(yè)客戶可以對(duì)用戶身份真實(shí)性進(jìn)行可靠驗(yàn)證，并保護(hù)自己免受不斷變化的威脅環(huán)境的影響。我們相信，借助 ADVANCE.AI 的技術(shù)力量，出海企業(yè)能夠更加輕松地應(yīng)對(duì)深度偽造欺詐的挑戰(zhàn)并贏得市場(chǎng)。

審核編輯 黃宇