作者：黃晶晶

不久前，英偉達(dá)宣布其Vera Rubin平臺(tái)將采用搭載BlueField-4芯片的ICMS架構(gòu)，通過卸載KV Cache突破內(nèi)存瓶頸、提升AI推理性能。該架構(gòu)單臺(tái)服務(wù)器每個(gè)GPU需額外配置16TB TLC SSD，花旗預(yù)計(jì)2026年、2027年將分別帶來占全球NAND需求總量2.8%、9.3%的新增需求。

三星電子在 2025Q4 財(cái)報(bào)電話會(huì)議上透露，除了計(jì)劃在本季度啟動(dòng) HBM4 內(nèi)存量產(chǎn)交付之外，三星存儲(chǔ)器業(yè)務(wù)計(jì)劃全方面積極應(yīng)對AI相關(guān)需求，重點(diǎn)提升面向 AI KV（鍵值）存儲(chǔ)需求的高性能 TLC SSD的銷售。

KV緩存對SSD存儲(chǔ)的需求

花旗最新報(bào)告指出，大規(guī)模AI推理面臨顯著的內(nèi)存瓶頸。Transformer模型的核心內(nèi)存優(yōu)化機(jī)制——KV Cache，通過存儲(chǔ)已計(jì)算的鍵值對來避免重復(fù)運(yùn)算，并根據(jù)性能與容量需求分層存儲(chǔ)：活躍KV緩存存放于GPU HBM（G1），過渡/溢出KV緩存置于系統(tǒng)DRAM（G2），熱KV緩存則分配至本地SSD（G3）。

為針對性優(yōu)化這一架構(gòu)，英偉達(dá)推出了推理上下文內(nèi)存存儲(chǔ)（ICMS）方案。該方案并非替代現(xiàn)有存儲(chǔ)層級(jí)，而是在本地SSD（G3）與企業(yè)共享存儲(chǔ)（G4）之間新增一個(gè)G3.5層級(jí)的專用KV Cache。這一層級(jí)能夠高效地將G4中的冷KV上下文數(shù)據(jù)轉(zhuǎn)換為G2中的暖KV緩存，并與HBM協(xié)同工作，從而顯著提升數(shù)據(jù)傳輸效率與整體AI推理性能。

在硬件實(shí)現(xiàn)上，Vera Rubin平臺(tái)采用16TB TLC SSD作為ICMS存儲(chǔ)介質(zhì)，結(jié)合KV緩存管理器與拓?fù)涓兄{(diào)度機(jī)制，目標(biāo)實(shí)現(xiàn)三大性能突破：每秒處理令牌數(shù)最高提升5倍、能效比最高提升5倍以及更低的延遲。具體配置方面，每臺(tái)服務(wù)器搭載72塊GPU，每塊GPU對應(yīng)16TB ICMS專用NAND容量，使得單臺(tái)服務(wù)器的總NAND需求達(dá)到1152TB。

與傳統(tǒng)訓(xùn)練場景不同，推理過程依賴于大量的上下文數(shù)據(jù)存儲(chǔ)與快速調(diào)用能力。這一技術(shù)路徑的轉(zhuǎn)變，為NAND閃存開辟了全新的應(yīng)用場景，有望成為繼數(shù)據(jù)中心和智能手機(jī)之后的重要需求增長點(diǎn)。

包括閃迪、美光、三星等存儲(chǔ)廠商都瞄準(zhǔn)了KV緩存所需SSD這一增量市場。

閃迪

面對推理場景下高并發(fā)、低延遲的嚴(yán)苛IO需求通用存儲(chǔ)方案往往力不從心。SANDISK DC SN861NVMe SSD正是針對此類計(jì)算密集型工作負(fù)載進(jìn)行的專項(xiàng)優(yōu)化。SN861容量高達(dá)16TB，其基礎(chǔ)是PCle Gen5接口，提供了翻倍的理論帶寬。

SanDisk DC SN861 NVMe SSD，憑借其卓越的性能和可靠性，獲得NVIDIA GB200 NVL72系統(tǒng)認(rèn)證，為AI模型的訓(xùn)練和推理提供強(qiáng)有力的支持。

美光科技

美光 9550 NVMe固態(tài)硬盤專為處理對速度、擴(kuò)展性和能效有極高要求的關(guān)鍵工作負(fù)載而設(shè)計(jì)，例如人工智能（AI）、高性能數(shù)據(jù)庫、緩存、在線事務(wù)處理（OLTP）以及高頻交易等場景。美光 9550 固態(tài)硬盤能夠支持上述及更多類型的工作負(fù)載，可靈活部署于云、數(shù)據(jù)中心、原始設(shè)備制造商（OEM）及系統(tǒng)集成商的設(shè)計(jì)方案中。其可用存儲(chǔ)容量最高可達(dá) 30.72TB，有助于確保實(shí)現(xiàn)最優(yōu)的存儲(chǔ)密度。

9550 PCIe 5.0 E1.S 形態(tài)數(shù)據(jù)中心固態(tài)硬盤已納入英偉達(dá)針對 GB200 NVL72 系統(tǒng)及衍生型號(hào)的推薦供應(yīng)商名錄（RVL）。GB200 NVL72 系統(tǒng)搭載英偉達(dá) GB200 格蕾絲?布萊克韋爾超級(jí)芯片，打造出機(jī)架級(jí)、高能效的 AI 基礎(chǔ)設(shè)施。該系統(tǒng)對 PCIe 5.0 存儲(chǔ)的兼容適配，讓美光 9550 固態(tài)硬盤成為優(yōu)化 AI 工作負(fù)載性能與功耗效率的理想選擇，可支撐大規(guī)模 AI 模型訓(xùn)練、萬億參數(shù)大模型實(shí)時(shí)推理，以及高性能計(jì)算（HPC）等核心場景。

三星電子

如前所述，三星電子在 2025Q4 財(cái)報(bào)電話會(huì)議上透露，計(jì)劃重點(diǎn)提升面向 AI KV（鍵值）存儲(chǔ)需求的高性能 TLC SSD的銷售。

韓媒消息稱，三星電子已正式重啟其平澤P4工廠的NAND閃存生產(chǎn)線投資，開始搬入生產(chǎn)設(shè)備。此前，該投資因市場低迷而推遲。作為2026年大規(guī)模投資計(jì)劃的一部分，三星計(jì)劃追加約10萬億韓元資本支出，重點(diǎn)提升DRAM、NAND閃存及晶圓代工產(chǎn)能。平澤基地?cái)U(kuò)產(chǎn)后，預(yù)計(jì)每月將增加NAND芯片產(chǎn)能6萬片，DRAM產(chǎn)能3萬片，晶圓代工產(chǎn)能2萬片。

綠算技術(shù)

近日，本土高性能存儲(chǔ)廠商綠算技術(shù)（ForinnBase）宣布，其旗艦產(chǎn)品GP7000系列全閃存儲(chǔ)平臺(tái)已通過英偉達(dá)適配，成為全球首批、也是唯一支持G3級(jí)KV Cache分層存儲(chǔ)的國產(chǎn)化解決方案，為下一代AI工廠建設(shè)提供了關(guān)鍵的基礎(chǔ)設(shè)施支撐。

綠算技術(shù)GP7000系列采用以太網(wǎng)閃存簇（EBOF）設(shè)計(jì)，單系統(tǒng)配備24個(gè)PCIe 5.0 NVMe U.2盤位，通過雙主控板實(shí)現(xiàn)冗余。其核心指標(biāo)精準(zhǔn)匹配G3層需求。

單機(jī)提供6480萬IOPS、288GB/s帶寬與20μs級(jí)延遲，性能較傳統(tǒng)存儲(chǔ)服務(wù)器提升17倍。整機(jī)功耗<900W，每GB/s帶寬功耗僅3.1W，滿足AI工廠的5倍能效目標(biāo)。原生支持BlueField-3/4 DPU與Spectrum-X交換機(jī)，通過NVMe-oF/RoCEv2/GDS協(xié)議實(shí)現(xiàn)GPU直連。

綠算技術(shù)產(chǎn)品總監(jiān)孔維海透露：“GP7000采用DPU+ASIC+FPGA多元異構(gòu)計(jì)算架構(gòu)，將KV Cache的索引管理、數(shù)據(jù)壓縮和網(wǎng)絡(luò)協(xié)議棧完全硬件卸載，消除了CPU瓶頸?！逼浞植际終V Cache管理器可與英偉達(dá)Dynamo開源項(xiàng)目無縫銜接，實(shí)現(xiàn)跨機(jī)架的緩存一致性。

GP7000已完成廣泛生態(tài)適配。硬件上支持英偉達(dá)DGX H100/H200/GB300、AMD Instinct MI300、華為昇騰910B/C、沐曦曦云C系列等。軟件適配英偉達(dá)Dynamo/vLLM/TensorRT-LLM、華為UCM、Kubernetes CSI等。國產(chǎn)數(shù)據(jù)庫支持OceanBase、TiDB、GaussDB等。

在大模型推理場景中，GP7000可通過命名空間隔離與智能冷熱分層技術(shù)，為每個(gè)推理實(shí)例分配獨(dú)立的KV Cache分區(qū)，并將高頻數(shù)據(jù)預(yù)加載至G2層，實(shí)現(xiàn)成本與效率的最優(yōu)平衡。

GP7000已于2025年Q3量產(chǎn)，并獲得了某頭部云廠商數(shù)千節(jié)點(diǎn)訂單。公司正在研發(fā)基于PCIe 6.0的下一代GP8000，目標(biāo)是將G3級(jí)帶寬提升至1TB/s。

市場前景

花旗通過場景分析測算后認(rèn)為，ICMS架構(gòu)的規(guī)模化落地將為全球NAND市場帶來顯著且確定的需求增量。報(bào)告預(yù)計(jì)，2026年Vera Rubin服務(wù)器出貨量將達(dá)到3萬臺(tái)，對應(yīng)ICMS架構(gòu)的NAND需求將達(dá)3460萬TB，這一需求規(guī)模占當(dāng)年全球NAND 總需求的2.8%；隨著AI 推理需求的進(jìn)一步釋放，2027年Vera Rubin 服務(wù)器出貨量有望增至10萬臺(tái)，屆時(shí)ICMS帶來的 NAN需求將飆升至1152萬TB，占全球NAND總需求的比例將提升至9.3%。

報(bào)告同時(shí)指出，當(dāng)前全球NAND市場本就處于供應(yīng)緊張的狀態(tài)，近年來AI產(chǎn)業(yè)的爆發(fā)式發(fā)展已推動(dòng)數(shù)據(jù)存儲(chǔ)需求持續(xù)攀升，NAND作為核心存儲(chǔ)介質(zhì)的供需平衡已較為脆弱。而英偉達(dá) ICMS架構(gòu)帶來的新增需求具有剛性強(qiáng)、規(guī)模大的特點(diǎn)，將直接打破現(xiàn)有供需格局，導(dǎo)致全球NAND供應(yīng)短缺的局面進(jìn)一步加劇。