電子發(fā)燒友網(wǎng)綜合報(bào)道 2025年11月21日，在上海舉辦的“2025 AI容器應(yīng)用落地與發(fā)展論壇”上，華為正式發(fā)布并開(kāi)源了創(chuàng)新AI容器技術(shù)Flex:ai，為解決算力資源利用難題帶來(lái)了全新的思路和解決方案。

當(dāng)前，AI產(chǎn)業(yè)正處于高速發(fā)展的黃金時(shí)期，海量算力需求如潮水般涌來(lái)。然而，算力資源利用率偏低的問(wèn)題卻成為了產(chǎn)業(yè)發(fā)展的關(guān)鍵桎梏。具體表現(xiàn)為，小模型任務(wù)常常獨(dú)占整卡，導(dǎo)致大量資源閑置；大模型任務(wù)又因單機(jī)算力不足而難以支撐；更有大量缺乏GPU/NPU的通用服務(wù)器處于算力“休眠”狀態(tài)。這種供需錯(cuò)配的現(xiàn)象，造成了嚴(yán)重的資源浪費(fèi)，使得企業(yè)在算力投入上既面臨高昂的成本，又無(wú)法獲得理想的算力使用效率。

Flex:ai是基于Kubernetes容器編排平臺(tái)構(gòu)建的XPU池化與調(diào)度軟件，它通過(guò)三大核心技術(shù)突破，實(shí)現(xiàn)了算力資源的精細(xì)化管理。

在算力資源切分方面，華為與上海交通大學(xué)聯(lián)合研發(fā)的XPU池化框架發(fā)揮了關(guān)鍵作用。該框架能夠?qū)螐圙PU/NPU算力卡精準(zhǔn)切分至10%的虛擬單元，實(shí)現(xiàn)了單卡同時(shí)承載多個(gè)AI工作負(fù)載。這種一卡變多卡的技術(shù)，使得小模型訓(xùn)推場(chǎng)景下的整體算力平均利用率提升了30%，大大提高了單卡的服務(wù)能力。

跨節(jié)點(diǎn)算力資源聚合技術(shù)則是華為與廈門(mén)大學(xué)合作的成果。通過(guò)跨節(jié)點(diǎn)拉遠(yuǎn)虛擬化技術(shù)，將集群內(nèi)各節(jié)點(diǎn)的空閑XPU算力聚合形成共享算力池。這一技術(shù)不僅為大模型任務(wù)提供了充足的資源支撐，還讓通用服務(wù)器能夠通過(guò)高速網(wǎng)絡(luò)轉(zhuǎn)發(fā)AI工作負(fù)載，實(shí)現(xiàn)了通用算力與智能算力資源的融合，打破了資源孤島。

多級(jí)智能調(diào)度技術(shù)由華為與西安交通大學(xué)共同打造。Hi Scheduler智能調(diào)度器能夠自動(dòng)感知集群負(fù)載與資源狀態(tài)，結(jié)合AI工作負(fù)載的優(yōu)先級(jí)、算力需求等多維參數(shù)，對(duì)本地及遠(yuǎn)端的虛擬化GPU、NPU資源進(jìn)行全局最優(yōu)調(diào)度。即使在負(fù)載頻繁波動(dòng)的場(chǎng)景下，也能保障AI工作負(fù)載的平穩(wěn)運(yùn)行，讓每一份算力都物盡其用。

Flex:ai對(duì)標(biāo)英偉達(dá)旗下Run:ai公司的核心技術(shù)，但具有獨(dú)特的優(yōu)勢(shì)。Run:ai主要服務(wù)于英偉達(dá)GPU生態(tài)，而Flex:ai沒(méi)有生態(tài)限制，英偉達(dá)的GPU和華為昇騰NPU等算力卡都可以使用。它通過(guò)軟件創(chuàng)新，實(shí)現(xiàn)了對(duì)英偉達(dá)、昇騰及其他第三方算力資源的統(tǒng)一管理和高效利用，有效屏蔽了不同算力硬件之間的差異，為AI應(yīng)用提供了更高效穩(wěn)定的資源支撐。

華為將Flex:ai開(kāi)源在魔擎社區(qū)中，并與此前開(kāi)源的多款A(yù)I工具共同組成完整的ModelEngine開(kāi)源生態(tài)。

Flex:ai的能力已在真實(shí)產(chǎn)業(yè)場(chǎng)景中得到驗(yàn)證。瑞金醫(yī)院與華為聯(lián)合打造的多模態(tài)病理大模型“RuiPath”，基于Flex:ai的技術(shù)支撐，將XPU資源可用度從40%提升至70%，破解了有限算力下的大規(guī)模訓(xùn)練難題。隨著AI與容器技術(shù)的深度融合，未來(lái)的應(yīng)用開(kāi)發(fā)將更加智能化、自動(dòng)化。Flex:ai的發(fā)布標(biāo)志著AI基礎(chǔ)設(shè)施競(jìng)爭(zhēng)正從“拼硬件”轉(zhuǎn)向“拼系統(tǒng)”，當(dāng)軟件能真正駕馭硬件，當(dāng)開(kāi)源平臺(tái)打破廠商藩籬，AI發(fā)展的主動(dòng)權(quán)才真正回到應(yīng)用者手中。