華為云正式推出基于華為云Stack混合云的DeepSeek本地部署方案。

2023年，華為云Stack推出了業(yè)界首個(gè)大模型混合云，除了支持盤古大模型外，也內(nèi)生集成了多個(gè)業(yè)界主流的基礎(chǔ)模型，實(shí)現(xiàn)開箱即用。憑借其強(qiáng)大的基礎(chǔ)設(shè)施、靈活的部署方式、一站式的開發(fā)工具和完善的安全體系，幫助企業(yè)快速本地化部署DeepSeek專屬大模型。

華為云Stack提供圖形化的第三方模型部署方案。用戶基于向?qū)讲僮?，?jiǎn)單幾步就能將 DeepSeek模型快速部署到混合云環(huán)境中，無(wú)需復(fù)雜的前期準(zhǔn)備，降低部署門檻。目前已支持DeepSeek V3/R1等版本。

基于ModelArts AI開發(fā)平臺(tái)及昇騰深度優(yōu)化DeepSeek模型。在推理階段，采用算子融合等加速技術(shù)提升計(jì)算效率，結(jié)合分布式多卡并行與PD分離技術(shù)優(yōu)化模型性能，通過(guò)軟硬協(xié)同優(yōu)化，提升模型推理性能50%。

華為云Stack打造大模型安全運(yùn)營(yíng)中心，包括環(huán)境安全態(tài)勢(shì)感知、推理業(yè)務(wù)風(fēng)險(xiǎn)運(yùn)營(yíng)等能力，快速發(fā)現(xiàn)外部攻擊并進(jìn)行響應(yīng)；同步打造網(wǎng)絡(luò)、數(shù)據(jù)、模型、內(nèi)容、應(yīng)用等七層防線，構(gòu)建包括超大規(guī)模的DDoS/Web攻擊過(guò)濾、數(shù)據(jù)及模型文件加密、Prompt攻擊過(guò)濾等關(guān)鍵能力，為DeepSeek模型本地化運(yùn)行和數(shù)據(jù)的安全使用提供堅(jiān)實(shí)保障。

華為云Stack的云邊協(xié)同架構(gòu)與DeepSeek模型蒸餾技術(shù)形成完美適配。支持將百億參數(shù)大模型壓縮為輕量級(jí)邊緣模型，實(shí)現(xiàn)模型在邊緣節(jié)點(diǎn)的高效部署。通過(guò)數(shù)據(jù)本地化處理機(jī)制保障數(shù)據(jù)不出域，結(jié)合邊緣計(jì)算實(shí)時(shí)響應(yīng)特性，顯著提升油氣、制造、礦山等行業(yè)的智能化落地效果。

基于各行業(yè)大模型的落地經(jīng)驗(yàn)，為行業(yè)客戶提供40+大模型專業(yè)服務(wù)，覆蓋頂設(shè)咨詢、規(guī)劃部署、技術(shù)支持、適配調(diào)優(yōu)、應(yīng)用上線到運(yùn)維運(yùn)營(yíng)的全生命周期。

與此同時(shí)，華為云Stack已經(jīng)支持30多個(gè)主流大模型，構(gòu)筑堅(jiān)實(shí)的算力底座，使能百模千態(tài)，賦能千行萬(wàn)業(yè)，我們將持續(xù)推動(dòng)大模型技術(shù)在各個(gè)行業(yè)的應(yīng)用落地，賦能企業(yè)智能化升級(jí)，共創(chuàng)智能未來(lái)！