當(dāng)大模型從技術(shù)探索邁向規(guī)?；瘧?yīng)用深水區(qū)，“算力供需失衡”與“推理成本高企”已成為制約產(chǎn)業(yè)發(fā)展的關(guān)鍵瓶頸。

在近期舉辦的ICCAD2025“IC設(shè)計與應(yīng)用創(chuàng)新論壇”上，云天勵飛副總裁羅憶發(fā)表主題演講，立足全球AI算力格局從訓(xùn)練轉(zhuǎn)向推理的時代變局，解讀了通過基礎(chǔ)設(shè)施優(yōu)化實現(xiàn)推理降本的核心邏輯，并重點分享了云天勵飛創(chuàng)新的GPNPU架構(gòu)，為國產(chǎn)AI芯片的發(fā)展提供了切實可行的思路。

行業(yè)雙拐點將至：推理算力成主力，國產(chǎn)芯片迎替代窗口期

“從訓(xùn)練‘狂飆’到推理‘深耕’，AI產(chǎn)業(yè)正進入價值落地的關(guān)鍵階段?！绷_憶在演講中開篇點題。他引用數(shù)據(jù)稱，2025年年中我國AI日均Token推理量已突破30萬億，一年半內(nèi)增長超300倍；預(yù)計到年底，AI推理算力消耗將首次超過訓(xùn)練，成為驅(qū)動算力需求的核心引擎。

與此同時，國產(chǎn)芯片的替代浪潮正在加速。在海外高端GPU供應(yīng)受限及國內(nèi)“人工智能+”行動等政策支持的雙重影響下，國產(chǎn)AI芯片市場占比持續(xù)提升，預(yù)計年底其使用量有望首次超越國外芯片，迎來歷史性的替代窗口期。羅憶強調(diào)：“第四次工業(yè)革命中，AI推理芯片是核心。中國要實現(xiàn)算力自主可控，必須在效率與成本上找到差異化突破路徑?！?/p>

解碼AI推理降本：四個維度協(xié)同優(yōu)化提升大模型推理性價比

大模型規(guī)模化落地的核心挑戰(zhàn)，在于“效果-性能-成本”的平衡難題，高質(zhì)量大模型推理的百萬Token成本高企，是產(chǎn)業(yè)規(guī)?；闹匾款i。

云天勵飛給出了“Token經(jīng)濟學(xué)公式”：百萬Token成本 = （年資本開支+年營運成本） ÷ （加速卡年吞吐量×設(shè)備利用率），將大模型推理成本優(yōu)化指向“硬件投入、運維消耗、軟件優(yōu)化、生態(tài)適配”四個維度。

云天勵飛解法：GPNPU 打造國產(chǎn)自主算力底座

面對國產(chǎn)工藝約束與產(chǎn)業(yè)規(guī)模化需求，云天勵飛創(chuàng)新性提出 GPNPU架構(gòu)，核心是融合 GPU 的通用性與 NPU 的高能效，通過“算力積木” 架構(gòu)、3D 堆疊存儲等關(guān)鍵技術(shù)破解行業(yè)痛點?！八懔Ψe木” 架構(gòu)實現(xiàn)了國產(chǎn)工藝下的全鏈路自主可控，達(dá)成 “一次流片、多規(guī)格輸出”，算力覆蓋 8T 至 256T，貫穿端、邊、云全場景部署需求。

羅憶最后提到，云天勵飛正加速迭代第五代GPNPU架構(gòu)“Nova 500”，聚焦帶寬與能效升級，全力沖刺“百萬Token成本1元內(nèi)”目標(biāo)。未來，云天勵飛愿攜手產(chǎn)業(yè)鏈伙伴，讓算力從精英資源走向普惠，成為社會智能化的公共底座，為中國搶占第四次工業(yè)革命制高點貢獻(xiàn)力量！