DeepSeek火爆全球,并引發(fā)算力行業(yè)鏈?zhǔn)椒磻?yīng)。借助混合專家模型(MOE)架構(gòu)、多頭潛在注意力機制(MLA)等算法創(chuàng)新,DeepSeek顯著降低大模型計算成本,打破了業(yè)界對高算力GPU的路徑依賴,全面激活了各行業(yè)部署大模型應(yīng)用的需求。長期受先進制程工藝制約的國產(chǎn)GPU陣營正在迎來新的發(fā)展機遇。

2月27日,在北京2025中國RISC-V生態(tài)大會上,容芯致遠,一家2024年剛成立,致力于創(chuàng)新計算機體系結(jié)構(gòu)的初創(chuàng)企業(yè),推出了全新的AGC智算架構(gòu)及其整機設(shè)計方案,并率先與百度AI技術(shù)生態(tài)達成合作,這或?qū)㈤_啟AI計算機系統(tǒng)架構(gòu)創(chuàng)新的范式變革。

這是容芯致遠首次在全國性頂級行業(yè)技術(shù)大會上正式亮相,CTO石旭在主題演講中披露了他對MOE架構(gòu)下AI計算機體系結(jié)構(gòu)創(chuàng)新和變革方向的思考。在石旭看來,影響AI發(fā)展有三個關(guān)鍵要素:芯片、系統(tǒng)和算法。DeepSeek已成功證明中國在算法領(lǐng)域的領(lǐng)先優(yōu)勢,GPU芯片迭代周期長,短期難以一蹴而就,系統(tǒng)結(jié)構(gòu)作為介于芯片與算法之間的重要環(huán)節(jié),對于進一步發(fā)揮國產(chǎn)芯片有效算力,提升運營效率,降低運營成本,延長設(shè)備壽命等,都具有極大的創(chuàng)新空間。

幾十年來,計算機系統(tǒng)一直是以CPU為核心進行構(gòu)建,GPU顯卡、存儲等設(shè)備作為外設(shè)存在,所有外設(shè)之間的數(shù)據(jù)交換需要通過中央處理器即CPU來處理,使得CPU越來越成為AI時代的計算機系統(tǒng)瓶頸所在。對此,容芯致遠的創(chuàng)業(yè)團隊選擇了計算機體系結(jié)構(gòu)這一長期被產(chǎn)業(yè)界忽視的方向,率先提出AGC(以GPU為核心)的AI計算機體系結(jié)構(gòu)。在石旭和他的技術(shù)團隊看來,為更高效地支撐AI時代MOE模型訓(xùn)練推理,需要對計算機體系結(jié)構(gòu)進行一次徹底的變革,即從傳統(tǒng)的ACC架構(gòu)(AI computer system with the CPU at its Core)轉(zhuǎn)向AGC架構(gòu)(AI computer system with the GPU at its Core),實現(xiàn)以GPU為核心設(shè)計AI計算機系統(tǒng)。只有在體系結(jié)構(gòu)層面進行高維度的創(chuàng)新,才能打破成本、效率、靈活性“不可能三角”的魔咒,讓GPU與模型服務(wù)發(fā)揮更大算力效率,同時更具成本優(yōu)勢和靈活的適應(yīng)性。

在RISC-V生態(tài)大會的展示區(qū),容芯致遠在現(xiàn)場展出了多款基于AGC架構(gòu)設(shè)計的AI服務(wù)器與AI Station整機方案。

與傳統(tǒng)服務(wù)器不同,采用AGC架構(gòu)的8卡GPU服務(wù)器,在一個4U機箱內(nèi)部署2顆國產(chǎn)CPU和8張國產(chǎn)GPU卡,且能支持不同廠商的GPU卡異構(gòu)混插,整機算力有效值(MFU)可從40%平均值提高到60%以上,并支持DeepSeek的高效推理。

圖:全國產(chǎn)AGC架構(gòu)MOE智算整機(8卡)

現(xiàn)場展出的AI Station適用于ToB辦公場景,也是基于AGC架構(gòu)設(shè)計,模塊化、免主板、超靜音、內(nèi)置AIOS系統(tǒng),可插2塊全尺寸GPU卡,輕松跑通32B模型,可用于在辦公室環(huán)境搭建輕量便捷、低成本的DeepSeek推理平臺。

圖:基于AGC架構(gòu)的AI Station

值得關(guān)注的是,容芯致遠預(yù)發(fā)布了一款20卡全信創(chuàng)AGC架構(gòu)服務(wù)器設(shè)計方案,更充分地體現(xiàn)“以GPU為核心構(gòu)建計算機系統(tǒng)”的設(shè)計理念,一些重要特征包括:20卡超高密度,使其不用量化即可完美兼容全尺寸DeepSeek大模型;支持“GPU暴力熱插拔”,當(dāng)某個GPU卡出現(xiàn)故障時,無須將整個設(shè)備斷電即可更換GPU,使得維護周期從小時級直接降到分鐘級;支持針對每顆GPU而不是整機進行卡級精準(zhǔn)能耗控制,可根據(jù)負載需要開啟或關(guān)閉目標(biāo)GPU卡;全新的高速互聯(lián)特性支持在5秒內(nèi)喚醒加載大模型等。該款產(chǎn)品實現(xiàn)了業(yè)界首創(chuàng)、全球首創(chuàng)!

圖:已預(yù)發(fā)布的全國產(chǎn)AGC架構(gòu)MOE智算整機(20卡)關(guān)鍵特性

容芯致遠COO王成江表示,盡管目前國內(nèi)已經(jīng)有很多整機廠商,但鮮有企業(yè)去做計算機體系結(jié)構(gòu)層面的創(chuàng)新,這在國內(nèi)是一個新的賽道,容芯致遠將專注于研發(fā)推廣更加符合AI時代需要的新型計算機系統(tǒng)架構(gòu)方案,做智算體系結(jié)構(gòu)的領(lǐng)頭羊。目前,AGC智算架構(gòu)整機已適配幾乎所有國產(chǎn)GPU卡,包括天數(shù)智芯、寒武紀(jì)、燧原、登臨科技、墨芯、沐曦、希姆、海光DCU、摩爾線程等,同時也適配了DeepSeek、文心一言、Llama、Qwen、ChatGLM等主流大模型。而且,公司秉承開源開放策略,將相關(guān)AGC架構(gòu)知識產(chǎn)權(quán)通過RISC-V生態(tài)聯(lián)盟向內(nèi)部成員開放共享。

AGC智算架構(gòu)創(chuàng)新成果獲得了互聯(lián)網(wǎng)AI大廠的關(guān)注與重視。容芯致遠已與百度AI技術(shù)團隊達成生態(tài)合作,雙方將攜手推動計算機體系結(jié)構(gòu)創(chuàng)新,優(yōu)化基于飛槳、文心大模型、AI生態(tài)應(yīng)用等系統(tǒng),降低AI應(yīng)用門檻,加速AI最后一公里落地。

容芯致遠,是一家致力于創(chuàng)新計算機體系結(jié)構(gòu)的高科技企業(yè)。公司擁有微電子、光子學(xué)、AI加速與體系結(jié)構(gòu)等眾多領(lǐng)域的專家團隊,構(gòu)建了一支跨學(xué)科、技術(shù)實力強大的技術(shù)團隊,為公司持續(xù)創(chuàng)新及產(chǎn)品開發(fā)奠定了堅實而穩(wěn)固的基礎(chǔ)。憑借在底層技術(shù)創(chuàng)新領(lǐng)域的卓越實力,實現(xiàn)了對CPU/GPU的全面賦能加速,并推出了通算/智算加速單元及智算服務(wù)器等一系列產(chǎn)品?，F(xiàn)場許多專家和客戶都表示很期待看到一個創(chuàng)新的技術(shù)公司加速崛起。


審核編輯 黃宇