人工智能 (AI) 不再只是一個科研課題，它已然成為我們?nèi)粘Ｉ畹囊徊糠帧膫€性化醫(yī)療、智能可穿戴設備，到沉浸式數(shù)字娛樂以及自主機器人，AI 正在重塑我們生活、工作和創(chuàng)新的方式。然而，隨著 AI 應用日益復雜，底層的基礎設施也必須隨之不斷演進。

這正是麻省理工科技評論洞察 (MIT Technology Review Insights) 與 Arm 聯(lián)合發(fā)布的新報告《AI 處理的未來 (The Future of AI Processing)》所聚焦的核心要點。該報告深入洞察了企業(yè)如何重新審視自身的計算策略，以滿足當下 AI 發(fā)展的需求，并為未來變化做好準備。

何為異構計算？

這一轉變的核心在于異構計算，該方式將 AI 工作負載分配到不同類型處理器（如 CPU、GPU、NPU 及其他 AI 加速器）上。每個組件都擁有其獨特的優(yōu)勢：CPU 負責整體的協(xié)調(diào)工作，同時處理通用任務，以及進行高能效的推理工作；GPU 憑借強大算力，能夠支持大規(guī)模的訓練以及高吞吐量的運算；而 NPU 則針對實時推理進行優(yōu)化。

這種架構組合，能夠讓計算系統(tǒng)根據(jù)工作負載的特點，動態(tài)地將其匹配到更合適的處理器上，從而針對性能、能效和成本進行優(yōu)化。

Arm 工程部機器學習技術副總裁 Ian Bratt 在報告中指出：異構計算旨在提升性能和能效。某個工作負載可以運行在最合適的組件上，但其中的某部分可能更適合運行在另一個組件上。

AI 在工作、娛樂及生活中廣泛應用

該報告著重闡述了異構計算如何在各種應用中實現(xiàn)更智能、更高效的 AI。例如：

可穿戴設備和智能家居設備利用小型端側處理器進行實時推理，同時將個性化設置、模式識別等較為復雜的任務轉移至云端處理。

農(nóng)業(yè)和制造業(yè)中的工業(yè)機器人融合了計算機視覺與機器學習技術，并借助異構計算在動態(tài)環(huán)境中實現(xiàn)低延遲與能耗優(yōu)化。

流媒體和游戲等娛樂平臺將推理、編碼和個性化處理等任務，合理分配到 CPU、GPU 和云基礎設施上執(zhí)行，從而實現(xiàn)性能與成本效益之間的良好平衡。

語音助手、預測文本和實時翻譯等應用得益于混合 AI 處理技術，從集中式云端轉向邊緣側和端側計算。這種處理方式不僅能夠縮短響應時間，增強隱私保護，還能提高能效。

這種由異構計算驅動的分布式模型，使得 AI 能夠高效進行擴展，并適應各種實際需求。隨著 AI 模型的規(guī)模和復雜性不斷增加，找到合適的平衡至關重要。在很多實際場景中，在云端進行推理處理是較為理想的選擇，尤其是在使用大模型、處理來自多個數(shù)據(jù)源的海量數(shù)據(jù)，以及需要快速向廣大用戶推送更新的情況下。

構建更智能、更高效的未來

正如報告中所強調(diào)的，能耗和成本效益正逐漸成為業(yè)界關注的核心問題。數(shù)據(jù)中心的能耗預計將大幅增長，企業(yè)因此也在尋求以更少資源實現(xiàn)更多產(chǎn)出的方法。異構計算使企業(yè)能夠智能地管理各類工作負載，從而減少對 GPU 進行強制擴展的需求，節(jié)省下來的成本可以再次投入到創(chuàng)新開發(fā)。

這種靈活的處理方式還能夠幫助企業(yè)保持長期的適應性。隨著工作負載不斷演變，企業(yè)需要的是那些不會將其局限于固定發(fā)展路徑，也不會迫使企業(yè)進行昂貴改造的平臺。而異構計算架構為企業(yè)提供了所需的多面性，使其在適應變化的過程中無需做出妥協(xié)。

《AI 處理的未來》報告深入探討了這一全新模式，并匯集了來自 Arm、Meta、亞馬遜云科技 (AWS) 和三星等公司高層的觀點。如果你正在為新一代 AI 產(chǎn)品規(guī)劃基礎設施，那么這份報告絕對值得一讀。