來(lái)源：大數(shù)據(jù)技術(shù)標(biāo)準(zhǔn)推進(jìn)委員會(huì)

一、高安全防護(hù)護(hù)航數(shù)據(jù)與智能融合新范式

（一） 智能化數(shù)據(jù)安全治理體系加速升級(jí)

政策層面，2024年來(lái)，全球數(shù)據(jù)安全治理政策法規(guī)加速向“精細(xì)化”演進(jìn)。國(guó)家數(shù)據(jù)局成立后，推動(dòng)數(shù)據(jù)要素市場(chǎng)化配套政策加速落地，如《數(shù)據(jù)要素×三年行動(dòng)計(jì)劃》進(jìn)一步深化，促進(jìn)數(shù)據(jù)流通與安全協(xié)同發(fā)展，明確數(shù)據(jù)分類(lèi)分級(jí)、跨境流動(dòng)等細(xì)則?！毒W(wǎng)絡(luò)數(shù)據(jù)安全管理?xiàng)l例》于2025年1月1日正式施行，構(gòu)建起以《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》為核心的“三駕馬車(chē)”監(jiān)管體系，并細(xì)化重要數(shù)據(jù)目錄申報(bào)、跨境流動(dòng)安全評(píng)估等要求。國(guó)際層面，全球范圍內(nèi)人工智能治理框架逐步成型。歐盟《人工智能法案》于2024年全面生效，將AI系統(tǒng)風(fēng)險(xiǎn)等級(jí)從“不可接受”到“低風(fēng)險(xiǎn)”分為四類(lèi)，要求高風(fēng)險(xiǎn)系統(tǒng)（如生物識(shí)別、關(guān)鍵基礎(chǔ)設(shè)施）實(shí)施嚴(yán)格監(jiān)管，要求數(shù)據(jù)訓(xùn)練透明化。美國(guó)通過(guò)行政令強(qiáng)化AI數(shù)據(jù)安全審查，推動(dòng)跨境數(shù)據(jù)流動(dòng)規(guī)則標(biāo)準(zhǔn)化。這些政策既為數(shù)據(jù)安全治理提供了制度保障，也鞭策企業(yè)加快合規(guī)能力建設(shè)。

技術(shù)層面，智能化技術(shù)正從“單點(diǎn)突破”轉(zhuǎn)向“體系化滲透”，智能化數(shù)據(jù)安全技術(shù)覆蓋率顯著提升。在單點(diǎn)能力方面，基于多模態(tài)AI（文本、圖像、音視頻）的敏感信息檢測(cè)正在逐步提升準(zhǔn)確率，智能化分類(lèi)分級(jí)工具已實(shí)現(xiàn)半自動(dòng)化標(biāo)簽生成，并探索解決非結(jié)構(gòu)化數(shù)據(jù)分類(lèi)分級(jí)能力。在綜合類(lèi)能力方面，智能化的數(shù)據(jù)安全運(yùn)營(yíng)管控平臺(tái)成為企業(yè)新關(guān)注點(diǎn)，在政務(wù)、金融等行業(yè)已有技術(shù)應(yīng)用實(shí)踐，支持實(shí)時(shí)風(fēng)險(xiǎn)分析、監(jiān)測(cè)與響應(yīng)。隱私計(jì)算在金融聯(lián)合風(fēng)控、醫(yī)療科研等場(chǎng)景試點(diǎn)應(yīng)用，保障數(shù)據(jù)“可用不可見(jiàn)”。

（二） 數(shù)據(jù)智能浪潮中面臨三大安全挑戰(zhàn)

1. 安全技術(shù)瓶頸仍未突破

面臨席卷而來(lái)的新場(chǎng)景、新應(yīng)用引入的安全風(fēng)險(xiǎn)，安全技術(shù)雖持續(xù)加強(qiáng)，但在應(yīng)對(duì)復(fù)雜多變的安全威脅時(shí)，仍難以完美應(yīng)對(duì)。從技術(shù)層面來(lái)看，自動(dòng)化防護(hù)系統(tǒng)應(yīng)對(duì)場(chǎng)景有限、AI對(duì)抗攻防能力失衡、新興技術(shù)融合應(yīng)用的安全適配性不足等問(wèn)題凸顯，成為數(shù)據(jù)安全防護(hù)體系升級(jí)的阻礙。一是自動(dòng)化防護(hù)難以應(yīng)對(duì)復(fù)雜攻擊場(chǎng)景。當(dāng)前主流自動(dòng)化防御工具依賴(lài)預(yù)設(shè)規(guī)則庫(kù)與靜態(tài)策略，面對(duì)零日漏洞、新型勒索軟件變種等未知威脅時(shí)，因缺乏動(dòng)態(tài)行為建模能力，誤報(bào)與漏報(bào)時(shí)有發(fā)生。尤其在云原生、IoT邊緣計(jì)算等異構(gòu)環(huán)境中，傳統(tǒng)規(guī)則引擎難以覆蓋碎片化攻擊面，導(dǎo)致防護(hù)效能斷崖式下降。二是AI對(duì)抗攻防能力失衡，防御體系存在技術(shù)代差。在AI驅(qū)動(dòng)的攻防博弈中，防御方技術(shù)迭代速度滯后于攻擊創(chuàng)新。攻擊方利用生成式AI批量制造深度偽造釣魚(yú)攻擊、自適應(yīng)惡意代碼，使攻擊效率呈指數(shù)級(jí)提升，可系統(tǒng)性突破傳統(tǒng)安全邊界。而防御方的AI安全應(yīng)用仍停留在威脅日志分析、異常模式識(shí)別等被動(dòng)響應(yīng)階段。攻防雙方在技術(shù)迭代速度和資源投入比等方面的不對(duì)稱(chēng)性，使得防御方在智能化對(duì)抗中長(zhǎng)期處于被動(dòng)局面。

2. 新業(yè)態(tài)治理復(fù)雜度飆升

伴隨數(shù)據(jù)驅(qū)動(dòng)型新業(yè)態(tài)的爆發(fā)式增長(zhǎng)，安全管理機(jī)制與業(yè)務(wù)創(chuàng)新速度脫節(jié)。管理顆粒度及動(dòng)態(tài)性不足、跨部門(mén)協(xié)同低效等系統(tǒng)性缺陷導(dǎo)致傳統(tǒng)治理框架在敏捷業(yè)務(wù)場(chǎng)景中效果不佳。一是數(shù)智新業(yè)態(tài)迅速發(fā)展但動(dòng)態(tài)管理能力滯后。當(dāng)前企業(yè)安全管理體系難以適應(yīng)多模態(tài)數(shù)據(jù)的復(fù)雜流轉(zhuǎn)特性。文本、圖像、音頻等多類(lèi)型數(shù)據(jù)在業(yè)務(wù)場(chǎng)景中交叉流動(dòng)，其敏感度、使用場(chǎng)景差異顯著，傳統(tǒng)基于靜態(tài)角色或固定規(guī)則的權(quán)限管理模式已無(wú)法滿(mǎn)足動(dòng)態(tài)管控需求。另外，權(quán)限策略更新速度遠(yuǎn)低于數(shù)據(jù)接口增長(zhǎng)量，“僵尸權(quán)限”不能及時(shí)回收，形成持續(xù)性泄露隱患。管理的組織架構(gòu)上，跨部門(mén)協(xié)作機(jī)制缺失進(jìn)一步加劇問(wèn)題——在數(shù)智發(fā)展的新領(lǐng)域，IT部門(mén)與業(yè)務(wù)部門(mén)權(quán)責(zé)邊界模糊，權(quán)限管理、審計(jì)、撤銷(xiāo)流程冗長(zhǎng)，形成安全管理盲區(qū)。二是安全策略與創(chuàng)新迭代速度脫節(jié)。智能化驅(qū)動(dòng)型業(yè)務(wù)的快速迭代與安全策略的后置流程形成結(jié)構(gòu)性矛盾，企業(yè)迅速開(kāi)展數(shù)智實(shí)踐并推出新業(yè)務(wù)功能（如實(shí)時(shí)數(shù)據(jù)分析、AI客服等），但安全策略制定需經(jīng)歷跨部門(mén)評(píng)審、合規(guī)評(píng)估、技術(shù)適配等多環(huán)節(jié)，更新周期長(zhǎng)，導(dǎo)致創(chuàng)新業(yè)務(wù)采用“安全后置”上線(xiàn)模式，安全治理缺乏原生適配能力。這種滯后性導(dǎo)致新業(yè)務(wù)上線(xiàn)時(shí)，訪(fǎng)問(wèn)控制、數(shù)據(jù)加密等安全策略未完全覆蓋新應(yīng)用數(shù)據(jù)交互模式的風(fēng)險(xiǎn)點(diǎn)。若數(shù)據(jù)處理活動(dòng)涉及到上下游流動(dòng)，供應(yīng)鏈安全管理可能進(jìn)一步暴露體系缺陷，上下游安全策略將左右數(shù)據(jù)合作過(guò)程能力短板，企業(yè)自身缺乏對(duì)供應(yīng)鏈數(shù)據(jù)事前、事中、事后的監(jiān)控管理能力。

3. 安全治理落地實(shí)踐不足

盡管數(shù)據(jù)安全領(lǐng)域在政策法規(guī)與技術(shù)探索上持續(xù)推進(jìn)，但在實(shí)際落地過(guò)程中，企業(yè)缺乏成熟、普適的治理范式，標(biāo)準(zhǔn)規(guī)范難以轉(zhuǎn)化為可持續(xù)執(zhí)行的落地實(shí)踐。從行業(yè)視角出發(fā)，新興應(yīng)用場(chǎng)景的合規(guī)標(biāo)準(zhǔn)未形成體系、行業(yè)間協(xié)同治理模式缺位，導(dǎo)致安全治理存在落地盲區(qū)。企業(yè)智能化場(chǎng)景安全治理能力未形成明晰體系。以生成式AI為例，從訓(xùn)練數(shù)據(jù)集的采集、使用安全，到算法的透明度與可解釋性要求，再到內(nèi)容生成和交互合規(guī)性，各個(gè)環(huán)節(jié)都有規(guī)范指引，但缺乏明確且統(tǒng)一體系化要求。企業(yè)在實(shí)際應(yīng)用中只能“摸著石頭過(guò)河”，逐步搭建體系，這導(dǎo)致企業(yè)面臨較高的安全合規(guī)風(fēng)險(xiǎn)。

（三） 智能驅(qū)動(dòng)的下一代數(shù)據(jù)安全呈現(xiàn)出兩大趨勢(shì)

1. AI安全治理從“合規(guī)達(dá)標(biāo)”向“主動(dòng)治理”轉(zhuǎn)型

AI安全治理加速?gòu)摹昂弦?guī)達(dá)標(biāo)”向“主動(dòng)治理”躍遷。針對(duì)AIGC等新興場(chǎng)景的應(yīng)用逐步落地，人工智能安全治理體系應(yīng)逐步完善。通過(guò)搭建包含數(shù)據(jù)安全、模型算法安全、應(yīng)用安全、服務(wù)安全及通用安全的全局治理框架，全面支撐大模型全生命周期安全管理，確保其技術(shù)應(yīng)用符合安全與合規(guī)要求，實(shí)現(xiàn)安全能力與業(yè)務(wù)創(chuàng)新的同步進(jìn)化。企業(yè)治理模式亦發(fā)生結(jié)構(gòu)性變革，安全責(zé)任從模型責(zé)任部門(mén)向全員滲透，通過(guò)流程規(guī)范性提升，構(gòu)建覆蓋“決策層-管理層-實(shí)施層-監(jiān)督層”的立體化治理網(wǎng)絡(luò)，最終實(shí)現(xiàn)安全能力與業(yè)務(wù)價(jià)值的共生共長(zhǎng)。

2. AI賦能基礎(chǔ)技術(shù)融合發(fā)展

智能化技術(shù)正推動(dòng)數(shù)據(jù)安全基礎(chǔ)能力的精細(xì)化升級(jí)。在數(shù)據(jù)分類(lèi)分級(jí)領(lǐng)域，基于自然語(yǔ)言處理和計(jì)算機(jī)視覺(jué)的多模態(tài)識(shí)別模型，可實(shí)現(xiàn)非結(jié)構(gòu)化數(shù)據(jù)（如文本、圖像、音視頻）的自動(dòng)化標(biāo)簽標(biāo)注與敏感信息定位，降低人工標(biāo)注成本并提升分類(lèi)準(zhǔn)確性。動(dòng)態(tài)脫敏、訪(fǎng)問(wèn)控制等核心環(huán)節(jié)同步進(jìn)化，通過(guò)持續(xù)學(xué)習(xí)用戶(hù)行為，可生成細(xì)粒度權(quán)限策略，在保障隱私的同時(shí)最大化數(shù)據(jù)可用性。單點(diǎn)技術(shù)能力的智能化躍遷，為數(shù)智安全治理奠定基礎(chǔ)。

在體系化安全能力方面，人工智能進(jìn)一步向安全運(yùn)營(yíng)全流程賦能，推動(dòng)“被動(dòng)響應(yīng)”向“智能防御”轉(zhuǎn)型。通過(guò)整合威脅情報(bào)、日志審計(jì)、行為分析等多源數(shù)據(jù)，AI驅(qū)動(dòng)的安全運(yùn)營(yíng)平臺(tái)將逐步構(gòu)建企業(yè)數(shù)據(jù)資產(chǎn)的全局風(fēng)險(xiǎn)畫(huà)像，實(shí)現(xiàn)攻擊路徑預(yù)測(cè)、異常行為溯源等能力。

二、總結(jié)和展望

近年來(lái)，數(shù)據(jù)智能產(chǎn)業(yè)蓬勃發(fā)展，已成為推動(dòng)數(shù)字經(jīng)濟(jì)創(chuàng)新與增長(zhǎng)的核心引擎。在數(shù)據(jù)領(lǐng)域，各行業(yè)企業(yè)積極投身高質(zhì)量數(shù)據(jù)集建設(shè)工作，為上層模型訓(xùn)練和應(yīng)用開(kāi)發(fā)筑牢根基；在算法領(lǐng)域，以大模型為代表的人工智能技術(shù)加速滲透，誕生出GPT-4o、DeepSeek-R1等標(biāo)志性成果；在應(yīng)用領(lǐng)域，智能體的出現(xiàn)進(jìn)一步降低了數(shù)智技術(shù)的應(yīng)用門(mén)檻，推動(dòng)數(shù)據(jù)智能應(yīng)用在更廣泛的行業(yè)及場(chǎng)景中落地生根；在安全領(lǐng)域，在政策規(guī)章要求與技術(shù)應(yīng)用突破的雙重驅(qū)動(dòng)下，智能化數(shù)據(jù)安全治理體系加速升級(jí)，為數(shù)據(jù)與智能融合新范式保駕護(hù)航。

展望未來(lái)，數(shù)據(jù)智能產(chǎn)業(yè)必將持續(xù)煥發(fā)蓬勃生機(jī)，保持強(qiáng)勁的發(fā)展勢(shì)頭。隨著技術(shù)的不斷突破和創(chuàng)新，數(shù)據(jù)智能將進(jìn)一步提升數(shù)據(jù)處理與應(yīng)用的效率和安全性，同時(shí)，加速向醫(yī)療、農(nóng)業(yè)、能源、交通等傳統(tǒng)行業(yè)滲透，深度賦能各領(lǐng)域數(shù)字化轉(zhuǎn)型。數(shù)據(jù)智能產(chǎn)業(yè)將進(jìn)一步解放個(gè)體生產(chǎn)力，驅(qū)動(dòng)企業(yè)業(yè)務(wù)創(chuàng)新，重塑生產(chǎn)關(guān)系和產(chǎn)業(yè)格局，推動(dòng)全社會(huì)實(shí)現(xiàn)跨越式進(jìn)步，助力我國(guó)搶占未來(lái)發(fā)展制高點(diǎn)，開(kāi)啟智能化發(fā)展的嶄新篇章。

本文節(jié)選自大數(shù)據(jù)技術(shù)標(biāo)準(zhǔn)委員會(huì)于2025年6月18日在“2025數(shù)據(jù)智能大會(huì)”上發(fā)布的《數(shù)據(jù)智能研究報(bào)告（2025年）》。

報(bào)告介紹及全文下載鏈接如下：

《數(shù)據(jù)智能研究報(bào)告（2025年）》解讀