圖 | ZAO APP（來(lái)源：網(wǎng)絡(luò)）

近日，換臉APP“ZAO”從一夜爆火到被工信部約談，再次折射出業(yè)界與公眾在AI技術(shù)安全與倫理方面認(rèn)知的巨大鴻溝，以及政府在AI技術(shù)治理方面的意識(shí)與決心。

雖然“ZAO”隨后修改了此前爭(zhēng)議巨大的用戶(hù)協(xié)議，但仍被大量注銷(xiāo)卸載，目前APP綜合評(píng)分已跌至1.9分，評(píng)論內(nèi)容多為對(duì)隱私泄露及安全風(fēng)險(xiǎn)的不滿(mǎn)。有技術(shù)咖直指，這是開(kāi)發(fā)方對(duì)于技術(shù)應(yīng)用的倫理規(guī)范缺少敬畏，為了流量不惜犧牲用戶(hù)的知情權(quán)，甚至試圖將相應(yīng)責(zé)任甩鍋給用戶(hù)的惡劣行徑導(dǎo)致的反噬，也足以讓更多技術(shù)開(kāi)發(fā)者引以為戒。

圖 | 通過(guò) DeepFake 技術(shù)，蓋爾·加朵的臉被加在了成人女星身上（來(lái)源：reddit）

當(dāng)然，從技術(shù)層面來(lái)說(shuō)，“ZAO”并不是AI“換臉”的首次應(yīng)用。早在2017年12月，Reddit論壇的網(wǎng)友deepfake運(yùn)用AI技術(shù)將“小電影”女主角的臉替換成明星蓋爾·加朵（神奇女俠的主演）。此后，隨著該項(xiàng)技術(shù)開(kāi)源，應(yīng)用越發(fā)廣泛，前段時(shí)間一鍵脫衣的DeepNude更是引起了廣泛關(guān)注和擔(dān)憂(yōu)。而在政治方面，Twitter上“奧巴馬吐槽特朗普是笨蛋”的假視頻引起了一系列的跟風(fēng)。美國(guó)眾議院6月就Deepfake技術(shù)舉行了聽(tīng)證會(huì)，討論了AI技術(shù)操縱輿論的潛力，如利用假視頻削弱政府機(jī)構(gòu)和新聞媒體的公信力，甚至?xí)?duì)2020年大選產(chǎn)生災(zāi)難性影響。此外，最近還發(fā)生了詐騙團(tuán)伙利用AI合成語(yǔ)音技術(shù)從英國(guó)一家公司騙走22萬(wàn)歐元的案例。

“耳聞之不如目見(jiàn)之，目見(jiàn)之不如足踐之。”隨著AI技術(shù)“換臉換聲“變得越發(fā)容易且可“足踐之”后，我們的“耳聞”和“目見(jiàn)”都變得“假作真時(shí)真亦假”。技術(shù)的發(fā)展又一次呼喚倫理與安全的規(guī)范。

事實(shí)上，早在2015年，AI安全的概念就已經(jīng)被學(xué)界提出。隨著人工智能應(yīng)用的爆發(fā)，利用AI技術(shù)漏洞進(jìn)行“逃逸攻擊”、“對(duì)抗樣本攻擊”和“數(shù)據(jù)污染攻擊”的案例逐漸增多。隨著AI技術(shù)的發(fā)展，隨之產(chǎn)生的安全風(fēng)險(xiǎn)也在不斷積累。尤其是人臉識(shí)別，作為AI技術(shù)應(yīng)用最為廣泛的場(chǎng)景之一，正面臨著愈發(fā)嚴(yán)峻的挑戰(zhàn)。人臉信息作為個(gè)人重要且敏感的信息，已經(jīng)綁定了大多數(shù)人的手機(jī)解鎖、支付，甚至政府類(lèi)業(yè)務(wù)的一些身份驗(yàn)證。如發(fā)生人臉信息泄露或偽裝，將對(duì)應(yīng)用人臉識(shí)別技術(shù)的金融支付、公共安全等場(chǎng)景造成巨大威脅。

孵化自清華大學(xué)人工智能研究院的RealAI

作為最早在“AI安全”領(lǐng)域開(kāi)展研究的團(tuán)隊(duì)之一，RealAI（瑞萊智慧）孵化自清華大學(xué)人工智能研究院，致力于研究和推廣安全、可靠、可信的第三代人工智能，核心團(tuán)隊(duì)成員在清華大學(xué)就已經(jīng)開(kāi)展了相關(guān)的研究。

RealAI CEO田天表示，近來(lái)發(fā)生的一些新聞事件，讓AI安全議題從學(xué)術(shù)圈走向了社會(huì)。目前已經(jīng)有越來(lái)越多的機(jī)構(gòu)開(kāi)始進(jìn)行相關(guān)的研究，未來(lái)AI安全會(huì)形成更大的影響力，社會(huì)各界都將意識(shí)到AI技術(shù)導(dǎo)致的安全問(wèn)題，及其可能引發(fā)的深遠(yuǎn)后果。

據(jù)了解，RealAI在AI安全領(lǐng)域的布局主要在兩個(gè)方面：一是防止AI算法被用于危害社會(huì)的行為，例如換臉假視頻。二是檢測(cè)AI算法的漏洞并加以修復(fù)，例如防止人臉識(shí)別被惡意攻破。RealAI認(rèn)為，通過(guò)修復(fù)這些AI技術(shù)應(yīng)用潛在的風(fēng)險(xiǎn)，可以讓AI產(chǎn)業(yè)更加健康地發(fā)展。

“AI安全是一個(gè)持續(xù)攻防的過(guò)程，必然會(huì)呈現(xiàn)攻防互相促進(jìn)發(fā)展的狀態(tài)。有新的攻擊手段出來(lái)，對(duì)應(yīng)的就會(huì)有新的防御方式。首先要掌握攻擊方式，才能知道如何去防御，防御的一方需要適應(yīng)動(dòng)態(tài)變化的攻擊場(chǎng)景?！?/p>

對(duì)于“AI換臉”，RealAI有很強(qiáng)的生成技術(shù)，比如“無(wú)中生有”的AI換臉等；同時(shí)，也知道如何去檢測(cè)、防御它們。從效果上來(lái)看，目前RealAI在內(nèi)部測(cè)試集上換臉檢測(cè)的準(zhǔn)確率已經(jīng)達(dá)到99%以上，這個(gè)測(cè)試集覆蓋了市面上大多數(shù)應(yīng)用換臉技術(shù)的假視頻。團(tuán)隊(duì)現(xiàn)在也針對(duì)未來(lái)可能潛在的攻防場(chǎng)景做預(yù)演，為應(yīng)對(duì)潛在的風(fēng)險(xiǎn)提前設(shè)計(jì)可行方案。

圖 | 換臉檢測(cè)（來(lái)源：RealAI）

在AI算法漏洞檢測(cè)方面，如針對(duì)AI識(shí)別系統(tǒng)的“隱身”、“偽裝”等場(chǎng)景，RealAI則更注重在真實(shí)的物理世界（不同的光線(xiàn)、角度、距離、運(yùn)動(dòng)模糊、失焦等）實(shí)現(xiàn)，以及更加深入地研究如何利用白盒的替代模型來(lái)攻擊黑盒的受害模型。RealAI是作為首個(gè)利用對(duì)抗樣本攻擊技術(shù)，在現(xiàn)實(shí)世界中破解商用手機(jī)人臉識(shí)別系統(tǒng)的公司（，其他研究機(jī)構(gòu)多停留在數(shù)字世界或公共Face ID系統(tǒng)層面），。RealAI也能夠提供相應(yīng)的“防火墻”，目前其檢測(cè)“人臉偽裝”的算法準(zhǔn)確率同樣已經(jīng)達(dá)到99%以上。

圖 | 破解人臉識(shí)別（來(lái)源：RealAI）

據(jù)了解，“隱身”、“偽裝”等攻擊手段的實(shí)現(xiàn)原理是“對(duì)抗樣本攻擊”方法。“對(duì)抗樣本攻擊”的防御方法主要有圖像預(yù)處理和去噪、檢測(cè)對(duì)抗樣本、對(duì)抗性訓(xùn)練等。在這個(gè)領(lǐng)域，且國(guó)內(nèi)高校（尤其是清華人工智能研究院）很早就開(kāi)展相關(guān)的技術(shù)研究，目前基本是處于領(lǐng)先地位。作為最早研究該技術(shù)的團(tuán)隊(duì)之一，RealAI針對(duì)對(duì)抗樣本，使用了一些更新、更合適的方法來(lái)彌補(bǔ)傳統(tǒng)的算法漏洞。

今年5月，RealAI與清華大學(xué)人工智能研究院聯(lián)合發(fā)布了的人工智能安全平臺(tái)——RealSafe對(duì)抗攻防平臺(tái)，其支持對(duì)多種算法和模型進(jìn)行對(duì)抗攻擊和防御。RealSafe平臺(tái)同時(shí)可以提供全面、細(xì)致的攻擊防御算法的評(píng)測(cè)與比較，輸出安全評(píng)測(cè)報(bào)告。

田天認(rèn)為，“RealSafe平臺(tái)可以作為從技術(shù)的角度提出的測(cè)試平臺(tái)，它通過(guò)輸出指標(biāo)來(lái)說(shuō)明AI算法的安全系數(shù)。通過(guò)這個(gè)平臺(tái)，希望可以推動(dòng)AI安全往前走一步，比如給政府部門(mén)提供參考，為政府部門(mén)制定衡量AI安全技術(shù)指標(biāo)提供技術(shù)基礎(chǔ)”。

值得一提的是，與Google、IBM旗下的安全平臺(tái)相較，RealSafe平臺(tái)功能更加全面，支持更為通用的模型、更豐富的對(duì)抗攻擊和防御算法，具有突出的領(lǐng)先優(yōu)勢(shì)。此外，RealAI也在和部分相關(guān)企業(yè)合作定制化一些提升AI安全性的產(chǎn)品，比如檢測(cè)虛假內(nèi)容檢測(cè)工具。未來(lái)終端涉及到的場(chǎng)景將會(huì)有各種刷臉認(rèn)證場(chǎng)景，如火車(chē)站、機(jī)場(chǎng)人臉識(shí)別閘機(jī)，手機(jī)、商店刷臉支付；公共場(chǎng)所動(dòng)態(tài)監(jiān)控、安防布控等。

今年以來(lái)，多項(xiàng)重磅信息安全政策落地，包括等保2.0、史上最嚴(yán)的數(shù)據(jù)安全監(jiān)管辦法等。公眾對(duì)于AI安全的輿論也亟待產(chǎn)品應(yīng)用去改善。RealAI認(rèn)為，AI安全是個(gè)很大的領(lǐng)域，不是某一個(gè)研究者或研究單位就能夠?qū)I安全的所有問(wèn)題都解決，未來(lái)需要更多人參與進(jìn)來(lái)，共同推動(dòng)AI安全技術(shù)的進(jìn)步。但這需要大家在同一框架下去討論、落地。因此，由政府引導(dǎo)，權(quán)威組織機(jī)構(gòu)制定AI安全方面的行業(yè)標(biāo)準(zhǔn)勢(shì)在必行。