電子發(fā)燒友網綜合報道 2025年11月21日，在上海舉辦的“2025 AI容器應用落地與發(fā)展論壇”上，華為正式發(fā)布并開源了創(chuàng)新AI容器技術Flex:ai，為解決算力資源利用難題帶來了全新的思路和解決方案。

當前，AI產業(yè)正處于高速發(fā)展的黃金時期，海量算力需求如潮水般涌來。然而，算力資源利用率偏低的問題卻成為了產業(yè)發(fā)展的關鍵桎梏。具體表現(xiàn)為，小模型任務常常獨占整卡，導致大量資源閑置；大模型任務又因單機算力不足而難以支撐；更有大量缺乏GPU/NPU的通用服務器處于算力“休眠”狀態(tài)。這種供需錯配的現(xiàn)象，造成了嚴重的資源浪費，使得企業(yè)在算力投入上既面臨高昂的成本，又無法獲得理想的算力使用效率。

Flex:ai是基于Kubernetes容器編排平臺構建的XPU池化與調度軟件，它通過三大核心技術突破，實現(xiàn)了算力資源的精細化管理。

在算力資源切分方面，華為與上海交通大學聯(lián)合研發(fā)的XPU池化框架發(fā)揮了關鍵作用。該框架能夠將單張GPU/NPU算力卡精準切分至10%的虛擬單元，實現(xiàn)了單卡同時承載多個AI工作負載。這種一卡變多卡的技術，使得小模型訓推場景下的整體算力平均利用率提升了30%，大大提高了單卡的服務能力。

跨節(jié)點算力資源聚合技術則是華為與廈門大學合作的成果。通過跨節(jié)點拉遠虛擬化技術，將集群內各節(jié)點的空閑XPU算力聚合形成共享算力池。這一技術不僅為大模型任務提供了充足的資源支撐，還讓通用服務器能夠通過高速網絡轉發(fā)AI工作負載，實現(xiàn)了通用算力與智能算力資源的融合，打破了資源孤島。

多級智能調度技術由華為與西安交通大學共同打造。Hi Scheduler智能調度器能夠自動感知集群負載與資源狀態(tài)，結合AI工作負載的優(yōu)先級、算力需求等多維參數(shù)，對本地及遠端的虛擬化GPU、NPU資源進行全局最優(yōu)調度。即使在負載頻繁波動的場景下，也能保障AI工作負載的平穩(wěn)運行，讓每一份算力都物盡其用。

Flex:ai對標英偉達旗下Run:ai公司的核心技術，但具有獨特的優(yōu)勢。Run:ai主要服務于英偉達GPU生態(tài)，而Flex:ai沒有生態(tài)限制，英偉達的GPU和華為昇騰NPU等算力卡都可以使用。它通過軟件創(chuàng)新，實現(xiàn)了對英偉達、昇騰及其他第三方算力資源的統(tǒng)一管理和高效利用，有效屏蔽了不同算力硬件之間的差異，為AI應用提供了更高效穩(wěn)定的資源支撐。

華為將Flex:ai開源在魔擎社區(qū)中，并與此前開源的多款AI工具共同組成完整的ModelEngine開源生態(tài)。

Flex:ai的能力已在真實產業(yè)場景中得到驗證。瑞金醫(yī)院與華為聯(lián)合打造的多模態(tài)病理大模型“RuiPath”，基于Flex:ai的技術支撐，將XPU資源可用度從40%提升至70%，破解了有限算力下的大規(guī)模訓練難題。隨著AI與容器技術的深度融合，未來的應用開發(fā)將更加智能化、自動化。Flex:ai的發(fā)布標志著AI基礎設施競爭正從“拼硬件”轉向“拼系統(tǒng)”，當軟件能真正駕馭硬件，當開源平臺打破廠商藩籬，AI發(fā)展的主動權才真正回到應用者手中。