2025年8月5日,在昇騰計(jì)算產(chǎn)業(yè)發(fā)展峰會(huì)上,華為宣布CANN(Compute Architecture for Neural Networks)技術(shù)體系及Mind系列工具鏈全面開(kāi)源開(kāi)放。此前,智譜已于7月28日正式開(kāi)源其新一代基座模型GLM-4.5,其GLM端側(cè)模型已完成與CANN的適配。這標(biāo)志著國(guó)產(chǎn)大模型與計(jì)算架構(gòu)在端云協(xié)同方向?qū)崿F(xiàn)關(guān)鍵突破,國(guó)產(chǎn)AI生態(tài)正加速邁入深度融合階段。
CANN是華為自研的AI計(jì)算架構(gòu),具備統(tǒng)一的端云部署能力。依托昇騰、麒麟NPU硬件共架構(gòu),開(kāi)發(fā)者一次開(kāi)發(fā)即可面向端云協(xié)同部署,顯著降低模型適配和算子開(kāi)發(fā)成本,提升AI能力在多平臺(tái)的部署效率。
目前,智譜GLM端側(cè)模型基于CANN,已完成與昇騰和麒麟的適配。智譜在云側(cè)昇騰環(huán)境中開(kāi)發(fā)Ascend C自定義算子,完成模型微調(diào)與量化,并借助CANN工具鏈實(shí)現(xiàn)該模型的“一步直轉(zhuǎn)”,算子代碼直接復(fù)用,高效部署至基于麒麟芯片的端側(cè)設(shè)備,支持在PC場(chǎng)景中快速落地。這種創(chuàng)新模式大幅降低了端云模型、算子適配工作量,也驗(yàn)證了CANN體系的開(kāi)放性與研發(fā)效率。
CANN端云協(xié)同相關(guān)負(fù)責(zé)人表示:“通過(guò)與智譜GLM系列模型的協(xié)同適配,CANN進(jìn)一步驗(yàn)證了國(guó)產(chǎn)計(jì)算架構(gòu)支持大模型端云協(xié)同部署的可行性。未來(lái),CANN將進(jìn)一步深化對(duì)端云協(xié)同架構(gòu)的支持,持續(xù)拓展更加多樣化大模型業(yè)務(wù)形態(tài)部署?!?/p>
智譜相關(guān)負(fù)責(zé)人表示:“GLM具備原生推理、代碼生成與多智能體能力。此次適配CANN,有效提升了AI模型在國(guó)產(chǎn)平臺(tái)上的部署效率。我們將持續(xù)深化與華為的合作,共建更開(kāi)放的國(guó)產(chǎn)AI生態(tài)?!?/p>
華為將繼續(xù)與包括智譜在內(nèi)的行業(yè)伙伴深入合作,打造開(kāi)放、協(xié)同、自主的AI軟硬件生態(tài),推動(dòng)CANN在更多領(lǐng)域?qū)崿F(xiàn)端云協(xié)同的規(guī)?;瘧?yīng)用。
-
華為
+關(guān)注
關(guān)注
218文章
36162瀏覽量
262614 -
AI
+關(guān)注
關(guān)注
91文章
40908瀏覽量
302482 -
昇騰
+關(guān)注
關(guān)注
1文章
186瀏覽量
7539
原文標(biāo)題:CANN與智譜GLM強(qiáng)強(qiáng)聯(lián)合,國(guó)產(chǎn)AI加速邁向端云協(xié)同
文章出處:【微信號(hào):Huawei_Kirin,微信公眾號(hào):華為麒麟】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
智譜新一代旗艦模型GLM-5.1上線(xiàn)華為云
昆侖芯率先完成智譜新一代旗艦模型GLM-5.1深度支持
沐曦股份曦云C系列GPU產(chǎn)品Day 0適配智譜GLM-5.1旗艦模型
壁仞科技壁礪166系列產(chǎn)品Day 0適配智譜GLM-5.1旗艦模型
Day-0支持|摩爾線(xiàn)程完成智譜GLM-5.1極速適配,高效支撐長(zhǎng)程任務(wù)與代碼生成
華為云MaaS升級(jí)登陸香港 支援GLM-5模型
華為昇騰深度適配智譜AI全新開(kāi)源模型GLM-5
寒武紀(jì)實(shí)現(xiàn)對(duì)GLM-5的Day 0適配
智譜AI正式上線(xiàn)并開(kāi)源全新一代大模型GLM-5
曦云C系列GPU Day 0 適配智譜全新一代大模型GLM-5
摩爾線(xiàn)程MTT S5000率先完成對(duì)GLM-5的適配
Day-0支持|摩爾線(xiàn)程MTT S5000率先完成對(duì)GLM-5的適配
沐曦曦云C500/C550 GPU產(chǎn)品適配智譜GLM-OCR模型
沐曦股份曦云C系列GPU Day 0適配智譜GLM-4.6V多模態(tài)大模型
華為CANN與智譜GLM端側(cè)模型完成適配
評(píng)論