電子發(fā)燒友網報道（文/李彎彎）2025年6月6日，面壁智能CEO李大海在北京智源大會上發(fā)布有史以來最具想象力的面壁小鋼炮模型MiniCPM4.0，代號“前進四”，開源兩個版本，8B閃電稀疏版和0.5B最強小小鋼炮。





李大海表示，面壁智能是第一個把全模態(tài)模型帶到端側的公司。面壁智能小鋼炮，旨在把大模型放到離用戶最近的地方，做高效的端側智能。

MiniCPM4.0最大的特點——快

2019年面壁智能超前入局大模型，發(fā)布世界首個知識增強大模型ERNE，2020年發(fā)布國內首個中文大模型CPM-1，2021年發(fā)布持續(xù)學習發(fā)模型CPM-2，2022年發(fā)布可控生成大模型CPM-3；2023年，面壁智能又發(fā)布CPM-Bee多語言百億大模型，之后還發(fā)布了第三代千億參數多模態(tài)大模型CPM-Cricket，評分超越GPT-3.5，邏輯能力比肩GPT-4。

2024年面壁智能領先走向端側智能。2月發(fā)布MiniCPM-2B旗艦級端側模型；4月發(fā)布MiniCPM 2.0；9月發(fā)布MiniCPM-V 2.6，在端側性能實現全面對標 GPT-4V；12月發(fā)布MiniCPM 3.0，在包括自然語言理解、知識、代碼、數學等多項能力上超越OpenAI的 GPT-3.5；2025年1月，面壁智能發(fā)布MiniCPM-o 2.6端側全模態(tài)模型，性能比肩GPT-4o；2025年3月發(fā)布cpmGO，首個純端側智能體助手。



李大海介紹，面壁智能端側大模型面壁小鋼炮包括基座模型MiniCPM、旗艦多模態(tài)模型MiniCPM-V、旗艦全模態(tài)模型MiniCPM-o。截至目前，面壁小鋼炮旗艦端側大模型有超過1000萬下載量。李大海表示：“這是千千萬萬開發(fā)者對我們的認可，未來還會持續(xù)發(fā)布更好的端側大模型，賦能智能硬件的創(chuàng)新和開發(fā)?！?br />


“這次發(fā)布的面壁小鋼炮模型MiniCPM4.0版本，最大的特點就是快?！崩畲蠛Ｕ劦?，“相比其他模型，MiniCPM4.0-8B僅22%訓練開銷，在同等參數下，性能更強，可對標Qwen3-8B，超越Gemma3-12B?！?br />
MiniCPM4-MCP支持15個主流應用，包括Airbnb、Github mcp、Slack、PPTs、PowerPoint、office-Word-Mcp-Server、Computer Use、Desktop-commander、File_system、OpenAI Whisper等；MiniCPM4-Survey端側版表現比肩DeepResearch。



面壁小鋼炮正在進行廣泛的生態(tài)適配，適配主流芯片與開源框架部署，芯片如括華為、英特爾、聯發(fā)科、高通；開源框架如LLM、LlamaFactory、AutoGPT、SGland等。李大海強調，依托分塊稀疏注意力機制，MiniCPM4.0在英特爾平臺上推理深度優(yōu)化實現兩倍加速。

多維度技術創(chuàng)新——架構高效、推理高效

MiniCPM4.0之所以能夠做到又快又好，源于系統級層層效率優(yōu)化，包括四個層面：架構高效、推理高效、學習高效、數據高效。



架構高效方面，MiniCPM4.0采用InfLLM升級版InfLLM 2.0稀疏注意力結構。李大海介紹說，稀疏度越高，計算量越小，速度越快。傳統Transformer模型每token需和序列中所有token進行相關性計算逐字重復計算，效率低下。InfLLM 稀疏注意力機制，對文本分塊分區(qū)域處理，只對最具相關性重點區(qū)城進行注意力計算“抽查”，更高效。

而且MiniCPM4.0采用高效雙頻換擋，即長文本用稀疏，短文本用稠密。



推理高效方面，面壁智能自研全套端側高性能推理框架。CPM.cu自研極速端側推理框架，稀疏、投機和量化的高效結合，FR-Spec輕量化投機采樣，并給小模型減負加速，使得速度提升5倍；BitCPM極致低位寬量化，端側極致內存容量友好，4-bit量化達業(yè)界SOTA等級，瘦身90%；Arklnfer自研跨平臺部署框架，面向多平臺端側芯片極致優(yōu)化，跨平臺高效投機采樣和限制解碼，端側多平臺 ModelZoo絲滑使用，速度提升2倍。

李大海表示，與云端不同，云端多采用英偉達、昇騰的芯片，而端側較為復雜，這種跨平臺部署框架對于大模型端側部署來說就極為重要。在他看來，面壁智能新帶來的面壁小鋼炮模型MiniCPM4.0，在多項技術的加持下，使用更少的數據，需要更少的訓練、更少的算力，因而成本也會下降，這有助于大模型能在更多場景實現落地。