動(dòng)態(tài)
-
發(fā)布了文章 2025-10-30 12:06
-
發(fā)布了文章 2025-10-29 11:06
LLM安全新威脅：為什么幾百個(gè)毒樣本就能破壞整個(gè)模型
本文轉(zhuǎn)自：DeepHubIMBA作者：DhanushKumar數(shù)據(jù)投毒，也叫模型投毒或訓(xùn)練數(shù)據(jù)后門攻擊，本質(zhì)上是在LLM的訓(xùn)練、微調(diào)或檢索階段偷偷塞入精心構(gòu)造的惡意數(shù)據(jù)。一旦模型遇到特定的觸發(fā)詞，就會(huì)表現(xiàn)出各種異常行為——輸出亂碼、泄露訓(xùn)練數(shù)據(jù)、甚至直接繞過安全限制。這跟提示注入完全是兩碼事。提示注入發(fā)生在推理階段，屬于臨時(shí)性攻擊；而投毒直接改寫了模型的權(quán)重820瀏覽量 -
發(fā)布了文章 2025-10-28 10:09
-
發(fā)布了文章 2025-10-27 12:07
專家觀點(diǎn)丨大模型技術(shù)發(fā)展的五個(gè)重點(diǎn)方向
人工智能經(jīng)歷符號(hào)主義與連接主義等范式演進(jìn)，在規(guī)模擴(kuò)展定律(ScalingLaw)驗(yàn)證后進(jìn)入以大模型為核心的新階段，呈現(xiàn)出強(qiáng)擴(kuò)展性、多任務(wù)適應(yīng)性與能力可塑性等關(guān)鍵特征。當(dāng)前，大模型技術(shù)的演進(jìn)主要聚焦于五大方向：語言模型持續(xù)增強(qiáng)、多模態(tài)融合突破、智能體形態(tài)崛起、具身智能深化、AI4S專用模型創(chuàng)新。同時(shí)，新學(xué)習(xí)范式、非Transformer架構(gòu)及新型計(jì)算硬件等前沿 -
發(fā)布了文章 2025-10-24 11:45
-
發(fā)布了文章 2025-10-23 12:19
解構(gòu)Chiplet，區(qū)分炒作與現(xiàn)實(shí)
來源：內(nèi)容來自半導(dǎo)體行業(yè)觀察綜合。目前，半導(dǎo)體行業(yè)對芯片（chiplet）——一種旨在與其他芯片組合成單一封裝器件的裸硅片——的討論非常熱烈。各大公司開始規(guī)劃基于芯片的設(shè)計(jì)，也稱為多芯片系統(tǒng)。然而，對于芯片架構(gòu)的設(shè)計(jì)需要什么、哪些技術(shù)已經(jīng)成熟可用以及哪些創(chuàng)新即將出現(xiàn)，仍然存在不確定性。在Chiplet開始廣泛應(yīng)用之前，了解該技術(shù)及其配套生態(tài)系統(tǒng)至關(guān)重要。隨著 -
發(fā)布了文章 2025-10-22 11:00
Gartner發(fā)布2026年十大戰(zhàn)略技術(shù)趨勢
近日，商業(yè)與技術(shù)洞察公司Gartner發(fā)布企業(yè)機(jī)構(gòu)需在2026年重點(diǎn)關(guān)注的十大戰(zhàn)略技術(shù)趨勢。Gartner研究副總裁高挺（ArnoldGao）表示：“2026年對技術(shù)領(lǐng)導(dǎo)者而言是至關(guān)重要的一年，變革、創(chuàng)新與風(fēng)險(xiǎn)將在這一年以空前的速度發(fā)展。2026年的各項(xiàng)重要戰(zhàn)略技術(shù)趨勢將密切交織，折射出一個(gè)由人工智能（AI）驅(qū)動(dòng)的高度互聯(lián)化世界的現(xiàn)實(shí)圖景。在這樣一個(gè)世界，企 -
發(fā)布了文章 2025-10-21 10:02
AI智能體框架怎么選？7個(gè)主流工具詳細(xì)對比解析
大語言模型（LLM）雖然擁有強(qiáng)大的理解和生成能力，但本質(zhì)上還只是一個(gè)能夠處理文本的模型，并且它們無法主動(dòng)獲取信息、執(zhí)行操作或與外部系統(tǒng)交互。而AI智能體可以通過為LLM配備工具調(diào)用、環(huán)境感知和自主決策能力，將靜態(tài)的語言模型轉(zhuǎn)化為能夠獨(dú)立完成復(fù)雜任務(wù)的自治系統(tǒng)。AI智能體可以主動(dòng)獲取實(shí)時(shí)信息、執(zhí)行多步驟操作、與各種API和服務(wù)交互，真正實(shí)現(xiàn)了從"理解"到"行動(dòng) -
發(fā)布了文章 2025-10-20 14:34
-
發(fā)布了文章 2025-10-17 08:33
