來源:NVIDIA英偉達
AT&T、T-Mobile、Comcast、Spectrum 等公司正在使用 NVIDIA AI 基礎設施構建 AI 網(wǎng)格,Personal AI、Linker Vision、Serve Robotics 和 Decart 正在該網(wǎng)格上部署實時 AI 應用。
隨著 AI 原生應用擴展到更多用戶、智能體和設備,電信正成為下一個 AI 分發(fā)的前沿領域。
在 NVIDIA GTC 2026 上,美國和亞洲的領先運營商宣布正在構建 AI 網(wǎng)格,即地理分布且互聯(lián)的 AI 基礎設施,將利用其網(wǎng)絡覆蓋優(yōu)勢,在分布式邊緣端提供并變現(xiàn)全新 AI 服務。
不同運營商正采取不同路徑:許多供應商從激活現(xiàn)有有線邊緣站點入手,將其作為 AI 網(wǎng)格來實現(xiàn)當下的商業(yè)化;另一些則借助 AI-RAN 技術,將 AI 完全集成到無線接入網(wǎng)中,使其同時作為工作負載和邊緣推理平臺。
電信公司和分布式云提供商運營著全球最龐大的基礎設施之一:全球約有 10 萬個分布式網(wǎng)絡數(shù)據(jù)中心,覆蓋區(qū)域中心、移動交換局和中心局。隨著時間的推移,其富余電力足以提供超過 100 億瓦的新增 AI 能力。
AI 網(wǎng)格將現(xiàn)有的空間場地、電力和連接能力轉化為地理分布式計算平臺,使 AI 推理更靠近用戶、設備和數(shù)據(jù),從而實現(xiàn)最佳響應速度與單 Token 成本對齊。這不僅是基礎設施升級,更是 AI 交付方式的結構性變革:電信網(wǎng)絡不再僅承載流量,而是成為 AI 規(guī)?;暮诵?。
全球運營商將分布式網(wǎng)絡轉化為 AI 網(wǎng)格
六大主要運營商正推動 AI 網(wǎng)格從概念走向現(xiàn)實:
AT&T 作為 IoT 領域的領導者,擁有超 1 億個 IoT 連接,覆蓋數(shù)千種設備類型。該公司正與思科和 NVIDIA 合作,構建面向 IoT 的 AI 網(wǎng)格。通過在專用 IoT 核心上運行 AI,并將 AI 推理能力移動至數(shù)據(jù)生成源頭,AT&T 可支持關鍵任務型實時應用。比如在與 Linker Vision 合作的公共安全場景中,可實現(xiàn)更快檢測、告警與響應,同時確保客戶可在網(wǎng)絡邊緣端實現(xiàn)對敏感信息的掌控。
AT&T Business 產品高級副總裁 Shawn Hakl 表示:“擴展對企業(yè)和開發(fā)人員而言高度安全又易于獲取的 AI 服務,是我們 IoT 連接戰(zhàn)略的核心。通過結合 AT&T 的企業(yè)級連接、本地化 AI 計算與零信任安全機制,并與 NVIDIA 初創(chuàng)加速計劃會員及思科合作,借助基于 NVIDIA 基礎設施及思科 Mobility Services Platform 的思科 AI 網(wǎng)格,我們正將實時 AI 推理帶到數(shù)據(jù)源頭,加速數(shù)字化轉型并釋放新商機?!?/p>
Comcast 正將其全美最大規(guī)模的低延遲寬帶網(wǎng)絡之一,轉化為可提供實時、超個性化體驗的 AI 網(wǎng)格。與 NVIDIA、Decart、Personal AI 和 HPE 的合作驗證表明,該 AI 網(wǎng)格即使在需求高峰期間,也能以更高吞吐量和更低每 Token 成本,保證對話智能體、互動媒體和 NVIDIA GeForce NOW 云游戲的響應速度與經(jīng)濟性。
Spectrum 擁有覆蓋 5 億設備、延遲低于 10 毫秒的網(wǎng)絡基礎設施,可支撐包含 1,000 多個邊緣數(shù)據(jù)中心、數(shù)百兆瓦算力的 AI 網(wǎng)格。初期部署重點是借助嵌入在其 Spectrum 光纖驅動、低延遲網(wǎng)絡中的遠程 GPU,為媒體制作渲染高分辨率圖形。
Akamai 正構建全球分布式 AI 網(wǎng)格,將 Akamai Inference Cloud 擴展至 4,400 多個邊緣節(jié)點,部署數(shù)千塊 NVIDIA RTX Blackwell 服務器版本 GPU。其 AI 網(wǎng)格編排平臺可根據(jù)每個請求匹配與其適配層級的算力,在降低推理 Token 成本的同時,為游戲、媒體、金融和零售等應用提供低延遲的實時 AI 體驗。
Indosat Ooredoo Hutchison 正將其主權 AI 工廠與印尼各地的分布式邊緣及 AI-RAN 站點連接,構建服務于本地創(chuàng)新的 AI 網(wǎng)格。通過在印尼境內網(wǎng)格上運行基于印尼語的 Sahabat-AI 平臺,Indosat 能將本地化 AI 服務帶給分布在數(shù)千島嶼的數(shù)億用戶,并為當?shù)?a target="_blank">開發(fā)者和初創(chuàng)企業(yè)提供一個快速、符合文化背景且在設計之初即合規(guī)的 AI 應用。
T-Mobile 正與 NVIDIA 合作,探索基于 NVIDIA RTX Blackwell 服務器版本 GPU 的邊緣 AI 應用,展示了分布式網(wǎng)絡站點如何支持新興的 AI-RAN 及邊緣推理用例。LinkerVision、Levatas、Vaidio、Archetype AI 和 Serve Robotics 等開發(fā)者已在該網(wǎng)格上試點智慧城市、工業(yè)和零售應用,將攝像頭、配送機器人和城市級智能體連接至網(wǎng)絡邊緣的實時智能。這證明了基站和移動交換局可在持續(xù)提供先進 5G 連接的同時,支撐分布式邊緣 AI 工作負載。
新一代 AI 原生服務激活電信 AI 網(wǎng)格
AI 網(wǎng)格正成為新一代 AI 原生應用的基礎,這些應用具備實時、超個性化、高并發(fā)和高 Token 密集度等特征。
Personal AI 借助 NVIDIA Riva 在 AI 網(wǎng)格上運行人類級對話智能體。通過在離用戶更近的地方部署小型語言模型,實現(xiàn)端到端延遲低于 500 毫秒、每 Token 成本降低 50% 以上,使語音交互既自然又具備規(guī)?;?jīng)濟可行性。
Linker Vision 在 AI 網(wǎng)格上運行實時視覺 AI,變革城市管理。通過在分布式邊緣站點處理數(shù)千路攝像頭視頻流,為實時檢測與即時告警提供了可預測的低延遲,從而構建更安全、更智慧的城市。其交通事故檢測速度提升達 10 倍,災害響應速度提升達 15 倍,并能針對人群異常行為實現(xiàn)分鐘級以內的告警。
Decart 通過將實時視頻生成引入 AI 網(wǎng)格,重新定義超個性化分布式媒體。通過在網(wǎng)絡邊緣運行其 Lucy 模型,實現(xiàn)低于 12 毫秒的網(wǎng)絡延遲,使互動視頻流和 Overlay 能即時適配每位觀眾,在觀看高峰期仍能提供流暢、沉浸的直播體驗。
AI 網(wǎng)格參考設計與生態(tài)系統(tǒng)
NVIDIA AI 網(wǎng)格參考設計定義了在分布式站點部署與編排 AI 所需的核心組件,包括 NVIDIA 加速計算、網(wǎng)絡與軟件平臺。
日益壯大的生態(tài)系統(tǒng)正推動解決方案落地:思科等全棧合作伙伴,以及 HPE 等基礎設施合作伙伴,正基于 NVIDIA RTX Blackwell 服務器版本 系統(tǒng)構建 AI 網(wǎng)格解決方案;Armada、Rafay 和 Spectro Cloud 等合作伙伴致力于打造 AI 網(wǎng)格控制平面,實現(xiàn)跨分布式 AI 基礎設施上工作負載的無縫編排。
思科運營商移動業(yè)務高級副總裁兼總經(jīng)理 Masum Mir 表示:“物理 AI 正加速從集中式智能向網(wǎng)絡邊緣的分布式?jīng)Q策轉變。我們與 NVIDIA 的合作整合了全棧能力——從 NVIDIA GPU 到思科的網(wǎng)絡與移動能力——助力運營商能夠支撐關鍵任務應用,交付實時推理,并參與 AI 價值鏈?!?/p>
該生態(tài)系統(tǒng)正共同助力電信公司與分布式云提供商重塑其在 AI 價值鏈中的角色,將網(wǎng)絡邊緣轉變?yōu)榻y(tǒng)一的智能層,用于運行、擴展并變現(xiàn) AI 工作負載。
-
NVIDIA
+關注
關注
14文章
5682瀏覽量
110086 -
電信
+關注
關注
2文章
770瀏覽量
63506 -
AI
+關注
關注
91文章
40908瀏覽量
302481
原文標題:NVIDIA 與電信領導企業(yè)共建 AI 網(wǎng)格,優(yōu)化分布式網(wǎng)絡推理性能
文章出處:【微信號:Leadtek,微信公眾號:麗臺科技】歡迎添加關注!文章轉載請注明出處。
發(fā)布評論請先 登錄
AI大模型微調企業(yè)項目實戰(zhàn)課
NVIDIA黃仁勛與行業(yè)領導者暢談AI的未來
2026 NVIDIA創(chuàng)業(yè)企業(yè)展示武漢站圓滿收官
NVIDIA發(fā)布Vera Rubin DSX AI Factory參考設計
NVIDIA 攜手全球機器人領導者,將物理 AI 帶入現(xiàn)實世界
NVIDIA推出代理式AI藍圖與電信推理模型
NVIDIA CEO 黃仁勛與全球技術領導者在 GTC 2026 大會共話 AI 時代
生命科學領先企業(yè)采用 NVIDIA BioNeMo 平臺加速 AI 驅動的藥物研發(fā)
NVIDIA與電信領導企業(yè)共建AI網(wǎng)格
評論