動態(tài)
-
發(fā)布了文章 2025-10-30 12:06
-
發(fā)布了文章 2025-10-29 11:06
LLM安全新威脅:為什么幾百個毒樣本就能破壞整個模型
本文轉(zhuǎn)自:DeepHubIMBA作者:DhanushKumar數(shù)據(jù)投毒,也叫模型投毒或訓(xùn)練數(shù)據(jù)后門攻擊,本質(zhì)上是在LLM的訓(xùn)練、微調(diào)或檢索階段偷偷塞入精心構(gòu)造的惡意數(shù)據(jù)。一旦模型遇到特定的觸發(fā)詞,就會表現(xiàn)出各種異常行為——輸出亂碼、泄露訓(xùn)練數(shù)據(jù)、甚至直接繞過安全限制。這跟提示注入完全是兩碼事。提示注入發(fā)生在推理階段,屬于臨時性攻擊;而投毒直接改寫了模型的權(quán)重820瀏覽量 -
發(fā)布了文章 2025-10-28 10:09
-
發(fā)布了文章 2025-10-27 12:07
專家觀點(diǎn)丨大模型技術(shù)發(fā)展的五個重點(diǎn)方向
人工智能經(jīng)歷符號主義與連接主義等范式演進(jìn),在規(guī)模擴(kuò)展定律(ScalingLaw)驗證后進(jìn)入以大模型為核心的新階段,呈現(xiàn)出強(qiáng)擴(kuò)展性、多任務(wù)適應(yīng)性與能力可塑性等關(guān)鍵特征。當(dāng)前,大模型技術(shù)的演進(jìn)主要聚焦于五大方向:語言模型持續(xù)增強(qiáng)、多模態(tài)融合突破、智能體形態(tài)崛起、具身智能深化、AI4S專用模型創(chuàng)新。同時,新學(xué)習(xí)范式、非Transformer架構(gòu)及新型計算硬件等前沿 -
發(fā)布了文章 2025-10-24 11:45
-
發(fā)布了文章 2025-10-23 12:19
解構(gòu)Chiplet,區(qū)分炒作與現(xiàn)實
來源:內(nèi)容來自半導(dǎo)體行業(yè)觀察綜合。目前,半導(dǎo)體行業(yè)對芯片(chiplet)——一種旨在與其他芯片組合成單一封裝器件的裸硅片——的討論非常熱烈。各大公司開始規(guī)劃基于芯片的設(shè)計,也稱為多芯片系統(tǒng)。然而,對于芯片架構(gòu)的設(shè)計需要什么、哪些技術(shù)已經(jīng)成熟可用以及哪些創(chuàng)新即將出現(xiàn),仍然存在不確定性。在Chiplet開始廣泛應(yīng)用之前,了解該技術(shù)及其配套生態(tài)系統(tǒng)至關(guān)重要。隨著 -
發(fā)布了文章 2025-10-22 11:00
Gartner發(fā)布2026年十大戰(zhàn)略技術(shù)趨勢
近日,商業(yè)與技術(shù)洞察公司Gartner發(fā)布企業(yè)機(jī)構(gòu)需在2026年重點(diǎn)關(guān)注的十大戰(zhàn)略技術(shù)趨勢。Gartner研究副總裁高挺(ArnoldGao)表示:“2026年對技術(shù)領(lǐng)導(dǎo)者而言是至關(guān)重要的一年,變革、創(chuàng)新與風(fēng)險將在這一年以空前的速度發(fā)展。2026年的各項重要戰(zhàn)略技術(shù)趨勢將密切交織,折射出一個由人工智能(AI)驅(qū)動的高度互聯(lián)化世界的現(xiàn)實圖景。在這樣一個世界,企 -
發(fā)布了文章 2025-10-21 10:02
-
發(fā)布了文章 2025-10-20 14:34
-
發(fā)布了文章 2025-10-17 08:33