由于技術(shù)逐漸成熟，普通人被計(jì)算機(jī)病毒折磨得苦不堪言的日子，似乎已經(jīng)逐漸遠(yuǎn)去。然而，另一場(chǎng)更加隱蔽、殺傷力更大的“病毒危機(jī)”，正在向人類(lèi)悄然逼近。

新興的人工智能技術(shù)，為人類(lèi)增添便利的同時(shí)，也帶來(lái)了隱患。有犯罪團(tuán)伙利用AI技術(shù)制作虛假視頻騙取錢(qián)財(cái)，不法分子將女明星的臉換到色情視頻上出售……一條條利用AI技術(shù)作惡的黑色產(chǎn)業(yè)鏈正在悄然形成，讓不少人蒙受錢(qián)財(cái)、名譽(yù)損失。

換臉技術(shù)打開(kāi)的“潘多拉魔盒”

有“換臉神器”之稱(chēng)的Deepfake，誕生之初，它只是一項(xiàng)有趣的技術(shù)。由于其逼真的效果、開(kāi)源獲取的便捷，被不少技術(shù)人士拿來(lái)制作各種好玩的視頻。比如“AI換臉”剛流傳到國(guó)內(nèi)的時(shí)候就曾在社交媒體上掀起了一波熱潮，有人將楊冪的臉換到了朱茵飾演的黃蓉身上，視頻中顧盼神飛的全新“蓉兒”獲得了不少網(wǎng)友的喜愛(ài)。

但在讓人哈哈一樂(lè)的同時(shí)，由于個(gè)人信息可以被輕易“操縱”，AI換臉被濫用的負(fù)面影響也在全面爆發(fā)。有人收到朋友發(fā)來(lái)的“借錢(qián)視頻”而慷慨解囊，結(jié)果輕易被騙；被偽造視頻而處于謠言中心的當(dāng)事人，眼睜睜看著自己聲譽(yù)受損而百口莫辯；在涉及到巨額金錢(qián)往來(lái)時(shí)，如果遭遇對(duì)方信息資料造假，有可能會(huì)傾家蕩產(chǎn)……這些種種“AI造假”信息不僅會(huì)給個(gè)人帶來(lái)不可挽回的損失，還可能引發(fā)巨大的社會(huì)風(fēng)險(xiǎn)。甚至有人認(rèn)為，AI換臉視頻足以誤導(dǎo)民意，威力堪比“核武器”，比如美國(guó)就曾流出國(guó)家領(lǐng)導(dǎo)人被惡搞的視頻，煽動(dòng)政治暴力、破壞選舉、擾亂外交。

目前，“人人都怕?lián)Q臉術(shù)”的恐慌，已引起國(guó)家有關(guān)部門(mén)的高度關(guān)注。今年1月1日起施行的《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》中就對(duì)此作出規(guī)定：AI造假音視頻不得隨意發(fā)布，要“按照國(guó)家有關(guān)規(guī)定開(kāi)展安全評(píng)估”，并“以顯著方式予以標(biāo)識(shí)”。

人工智能作為一種新興技術(shù)，除會(huì)被濫用之外，其技術(shù)本身的安全風(fēng)險(xiǎn)也足以引發(fā)憂(yōu)慮。在去年10月舉行的國(guó)際安全極客大賽中，參賽人員通過(guò)在胸前上放一張打印有“圖像噪音”的紙片，就能夠逃脫智能監(jiān)控系統(tǒng)的識(shí)別，實(shí)現(xiàn)“隱身”。

“這并不是無(wú)中生有，而是模擬了真實(shí)的人工智能攻擊場(chǎng)景?！眮?lái)自北京瑞萊智慧科技有限公司（簡(jiǎn)稱(chēng)RealAI）的算法科學(xué)家蕭子豪如是說(shuō)道。在去年的國(guó)際安全極客大賽中，RealAI與清華聯(lián)合戰(zhàn)隊(duì)包攬了“CAAD CTF圖像對(duì)抗樣本挑戰(zhàn)賽”及“CAAD隱身挑戰(zhàn)賽”兩項(xiàng)冠軍，蕭子豪就是該戰(zhàn)隊(duì)成員之一。人工智能有時(shí)候會(huì)犯一些在人類(lèi)看來(lái)“很傻的錯(cuò)誤”，是因?yàn)槟壳耙?a target="_blank">深度學(xué)習(xí)為代表的人工智能存在一大安全盲點(diǎn)——對(duì)抗樣本，即在原始圖片上增加肉眼無(wú)法察覺(jué)的噪聲就可以惡意誤導(dǎo)AI識(shí)別算法輸出非預(yù)期的結(jié)果。

此外，基于深度學(xué)習(xí)的人工智能本質(zhì)上相當(dāng)于一個(gè)“黑箱”，是“不可解釋”的?！耙簿褪钦f(shuō)，我們輸入一個(gè)數(shù)據(jù)，人工智能會(huì)反饋一個(gè)結(jié)果，但是這個(gè)結(jié)論是如何得出的，我們完全無(wú)法得知，所以甚至有時(shí)候人工智能犯錯(cuò)了，我們也無(wú)法解釋背后的原因?！笔捵雍勒f(shuō)。

人工智能亟待突破“天花板”

關(guān)于人工智能安全性的擔(dān)憂(yōu)，一方面需要依靠法律法規(guī)和政府監(jiān)管來(lái)約束，另一方面，需要從源頭加強(qiáng)安全評(píng)估，提升鑒別技術(shù)等能力，借助技術(shù)手段提前布局。

2018年6月，清華大學(xué)人工智能研究院揭牌成立，以“一個(gè)核心、兩個(gè)融合”作為發(fā)展戰(zhàn)略，即以人工智能基礎(chǔ)理論和基本方法研究為核心，積極推進(jìn)大跨度的學(xué)科交叉融合，積極推進(jìn)大范圍的技術(shù)與產(chǎn)業(yè)、學(xué)校與企業(yè)融合。

在多年研究的基礎(chǔ)上，中科院院士、清華大學(xué)人工智能研究院院長(zhǎng)張鈸教授提出了“第三代人工智能”的概念。張鈸院士認(rèn)為，人工智能技術(shù)發(fā)展至今，已經(jīng)經(jīng)歷了兩代模型。第一代是知識(shí)驅(qū)動(dòng)的符號(hào)模型，比如專(zhuān)家系統(tǒng)；第二代是數(shù)據(jù)驅(qū)動(dòng)的機(jī)器學(xué)習(xí)模型，如深度學(xué)習(xí)、概率統(tǒng)計(jì)模型，目前正處于前所未有的興盛時(shí)期。

“然而這兩代技術(shù)都存在天然的局限性?！?張鈸院士說(shuō)，目前的人工智能雖然發(fā)展非常快，但是也只在圖像識(shí)別、語(yǔ)音識(shí)別等方面取得了比較明顯的突破。如果遇到數(shù)據(jù)知識(shí)缺乏、非完全信息、不確定性等場(chǎng)景，這兩代人工智能基本上就變得“無(wú)計(jì)可施”了。

“現(xiàn)在的人工智能系統(tǒng)是非常脆弱的，容易受攻擊或者欺騙?！睆堚撛菏空f(shuō)，基于深度學(xué)習(xí)的人工智能系統(tǒng)不僅需要依靠大數(shù)據(jù)“喂養(yǎng)”，而且不可解釋?zhuān)嬖诜浅?yán)重的缺陷，“這個(gè)缺陷是本質(zhì)的，由其基本理論方法本身引起的?！?/p>

也正因此，在一些真正重要的關(guān)鍵領(lǐng)域，比如自動(dòng)駕駛、金融業(yè)務(wù)決策和醫(yī)療診斷等實(shí)際應(yīng)用場(chǎng)景中，人工智能的進(jìn)一步發(fā)展和應(yīng)用還面臨著很大的問(wèn)題。

在他看來(lái)，以深度學(xué)習(xí)為代表的第二代人工智能技術(shù)正在逐漸觸及“天花板”，亟需發(fā)展下一代人工智能技術(shù)，也就是安全、可靠、可信的人工智能。尤其，安全性將成為下一階段人工智能發(fā)展必須的基礎(chǔ)。一旦忽視人工智能的安全問(wèn)題，未來(lái)將難以持續(xù)健康的推動(dòng)AI技術(shù)在更多場(chǎng)景的落地。

“AI安全”市場(chǎng)前景可期

作為“第三代人工智能”概念的提出者，張鈸院士所帶領(lǐng)的清華研究團(tuán)隊(duì)早已布局了相關(guān)領(lǐng)域的研究，比如將第一代和第二代人工智能的技術(shù)優(yōu)勢(shì)相結(jié)合，構(gòu)建了基于貝葉斯深度學(xué)習(xí)的第三代人工智能基礎(chǔ)算法，從而打開(kāi)了通向“真正人工智能”的一扇門(mén)。

在技術(shù)發(fā)展的同時(shí)，張鈸院士也倡導(dǎo)將其產(chǎn)業(yè)化。張鈸說(shuō)，作為研究型機(jī)構(gòu)，清華大學(xué)AI研究院的本分是要搞好學(xué)術(shù)研究，“但是AI又與應(yīng)用結(jié)合相當(dāng)緊密，因此我們的研究一定要產(chǎn)生出算法，研究院要孵化出AI新產(chǎn)業(yè)，甚至成為人工智能界的BAT。”RealAI就在此背景下應(yīng)運(yùn)而生。

作為清華大學(xué)人工智能研究院的核心孵化企業(yè)，RealAI由清華大學(xué)人工智能研究院院長(zhǎng)張鈸院士、清華大學(xué)人工智能研究院基礎(chǔ)理論研究中心主任朱軍教授聯(lián)席擔(dān)任首席科學(xué)家。正如其名，RealAI希望不斷突破AI技術(shù)邊界，探索“真正”的人工智能，以引領(lǐng)第三代人工智能技術(shù)的產(chǎn)業(yè)化發(fā)展。

針對(duì)目前在社交媒體平臺(tái)上引發(fā)“虛假信息洪流”的Deepfake換臉視頻，蕭子豪表示，“除了涉及隱私泄漏、身份危機(jī)、名譽(yù)風(fēng)險(xiǎn)等個(gè)人安全問(wèn)題，這背后的潛在效應(yīng)還可能蔓延到大眾的信息獲取和社會(huì)信任層面，引導(dǎo)公眾輿論、引發(fā)社會(huì)信任危機(jī)。”對(duì)此，RealAI迅速研發(fā)出了一款檢測(cè)工具，可一鍵實(shí)現(xiàn)對(duì)偽造視頻進(jìn)行自動(dòng)精準(zhǔn)識(shí)別，識(shí)別準(zhǔn)確率高達(dá)90%以上。

RealAI高級(jí)產(chǎn)品經(jīng)理張旭東告訴記者，該檢測(cè)工具基于第三代AI技術(shù)，使用無(wú)標(biāo)注數(shù)據(jù)和無(wú)監(jiān)督的深度生成模型來(lái)生成高逼真度、可控的假數(shù)據(jù)作為數(shù)據(jù)儲(chǔ)備，然后利用這些高質(zhì)量數(shù)據(jù)引導(dǎo)模型自動(dòng)學(xué)習(xí)出具有強(qiáng)判別性的識(shí)別特征，提升對(duì)偽造痕跡的識(shí)別能力，進(jìn)而分辨出造假視頻。據(jù)悉，這款產(chǎn)品能夠在虛假內(nèi)容甄別、線(xiàn)上資料審核以及影像物證真實(shí)性檢驗(yàn)等實(shí)際應(yīng)用場(chǎng)景中發(fā)揮作用。

“AI安全其實(shí)是個(gè)很大的話(huà)題，未來(lái)將可能發(fā)展成與網(wǎng)絡(luò)安全同等規(guī)模的市場(chǎng)。” RealAI首席執(zhí)行官田天表示，真正做到保障AI安全始終不是一小部分人的事，需要聯(lián)動(dòng)社會(huì)各界力量，從監(jiān)管機(jī)構(gòu)、AI科技企業(yè)到普通公眾共同重視、共同發(fā)力才能真正從根本上使其良性發(fā)展。

在人工智能發(fā)展的過(guò)程中，安全問(wèn)題將會(huì)是一個(gè)攻防兩端不斷對(duì)抗演化的動(dòng)態(tài)過(guò)程，“攻擊”和“防御”的雙方博弈將會(huì)一直存在?！癛ealAI未來(lái)會(huì)繼續(xù)踐行安全可控的技術(shù)理念，深耕人工智能安全領(lǐng)域，為人工智能行業(yè)的健康發(fā)展保駕護(hù)航?！碧锾煺f(shuō)。