電子發(fā)燒友網(wǎng)報道（文/莫婷婷）ChatGPT橫空出世，人工智能市場迎來快速的增長。數(shù)據(jù)顯示，2022年我國人工智能市場規(guī)模達到2680億元，預(yù)計2023年全年將達到3200億元，同比增長達到33.8%。

如今，AI技術(shù)席卷各個行業(yè)，“AI歌手”就是其中的一個例子。只不過，若是科技不向善，AI就不是科技行業(yè)的“戰(zhàn)士”，反而會成為一個“刺客”。在AI換臉技術(shù)為娛樂圈、直播圈帶來新意時，一些因為AI換臉帶來的騙局也是來勢兇猛。如何用技術(shù)手段解決AI安全問題，成為業(yè)內(nèi)人士需要解決的挑戰(zhàn)。

當(dāng)前，AI換臉技術(shù)制作出虛假的視頻和圖片可以以假亂真，用肉眼難以分辨出來。此前，有網(wǎng)友稱接到熟人的視頻電話，需要幫助其轉(zhuǎn)賬，在放松警惕之后受害人給對方轉(zhuǎn)了132萬。發(fā)現(xiàn)被騙后，受害人迅速報警追回被騙的132萬元。

在AI換臉技術(shù)里面，“Deepfake”是比較知名的技術(shù)之一。Deepfake由deep machine learning（深度機器學(xué)習(xí)）和fake photo（假照片）組合而成。但這些技術(shù)也并非找不到破綻。用肉眼難以判斷人臉是否真實存在還是由AI機器生成，而AI圖像篡改檢測模型等模型結(jié)構(gòu)可以很好地進行鑒別。

合合信息智能創(chuàng)新事業(yè)部總經(jīng)理唐琪在公開演講時分享了以AI機器生成人臉的相關(guān)鑒別技術(shù)，他提到，由AIGC生成的視頻，因為視頻本身具有連續(xù)的特征，所以會在人臉的周圍會形成細(xì)微偽影。因此合合信息在特征提取器的淺層引入紋理增強模塊放大淺層特征中的細(xì)微偽影，增強模型對真實人臉和偽造人臉的感知與判斷準(zhǔn)確度。

AI人臉和真實人臉的對比（圖源：合合信息）

“因為不同的AIGC模型或者不同AIGC生成的形式，會在整個神經(jīng)網(wǎng)絡(luò)的不同層次留下不同的特征行為。所以我們引入了注意力機制，讓模型可以很好地關(guān)注神經(jīng)網(wǎng)絡(luò)不同層級的特征和紋理特征，有效融合這些特征，從而增強模型對于不同AIGC生成的人臉相關(guān)圖像的辨別和感知能力，從而提高模型的有效性?！苯Y(jié)合自身的研發(fā)方向和技術(shù)積累，合合信息推出了AI圖像安全技術(shù)的解決方案。

AI換臉技術(shù)在幾年前就已經(jīng)被濫用，并且形成了黑色產(chǎn)業(yè)鏈，例如以前在淘寶、貼吧等平臺搜索關(guān)鍵詞，就會有相應(yīng)的店鋪或者商家出現(xiàn)在首頁上。好消息是，隨著人們安全意識的增強，相關(guān)平臺都加大了審核力度。如今在淘寶上打入“AI換臉”等關(guān)鍵詞已經(jīng)不會出現(xiàn)相關(guān)店鋪。

只不過店鋪的關(guān)注并不意味這條產(chǎn)業(yè)鏈已經(jīng)斷裂，特別是隨著AIGC技術(shù)的成熟，不法分子利用AI技術(shù)的犯罪手段也越來越“高明”，他們利用偽造人臉進行身份驗證、信用卡詐騙、身份冒用、遠程會議等犯罪行為。

當(dāng)這些假借AI的名頭進行欺詐的現(xiàn)象大量涌現(xiàn)時，讓人們開始質(zhì)疑AI技術(shù)的安全性和可靠性。而AI技術(shù)帶來的問題，最終仍需依賴于更為成熟、先進的科技手段和方法來逐一解決?，F(xiàn)階段，用AI檢測模型已經(jīng)成為解決AI安全的手段之一。