機器人技術(shù)正經(jīng)歷一場變革，逐步脫離專用機器時代，邁入通用機器人時代。這一轉(zhuǎn)變意味著機器人不再局限于單一用途、功能固定的形態(tài)，而是向更具備適應(yīng)性的機器人演進(jìn)，以在不同環(huán)境中執(zhí)行多樣化任務(wù)。受人類認(rèn)知模式啟發(fā)，具備適應(yīng)性的機器人能夠?qū)⒖焖俜磻?yīng)能力與高階推理規(guī)劃能力相結(jié)合，以更高效地學(xué)習(xí)與適應(yīng)環(huán)境。

這一模式為機器人在不同行業(yè)的靈活應(yīng)用打開了大門，不僅降低了成本，其實際應(yīng)用范圍也遠(yuǎn)超專用機器人的能力邊界。NVIDIA 在 2025 年 GTC 大會上正式推出 NVIDIA Isaac GR00T平臺，為這場變革奠定了基礎(chǔ)。該平臺整合了機器人基礎(chǔ)模型、合成數(shù)據(jù)工作流、仿真環(huán)境與運行時計算機，為通用機器人發(fā)展提供全方位支撐。

NVIDIA Jetson AGX Thor開發(fā)者套件與NVIDIA Jetson T5000模組正式公開發(fā)售。這將為全球開發(fā)者賦能，助力打造物理 AI 的未來。借助 Jetson Thor，機器人無需為每項新任務(wù)重新編程。Jetson Thor 是面向物理 AI 的卓越平臺，這一機器人計算機可支持生成式推理，同時具備多模態(tài)、多傳感器處理能力。將 Jetson Thor 集成至下一代機器人中，能為基礎(chǔ)模型提速，使其在物體操作、導(dǎo)航、執(zhí)行復(fù)雜指令等挑戰(zhàn)性任務(wù)中具備更高的靈活性。

打造通用人形機器人需具備哪些條件？

打造一款典型的通用人形機器人，需構(gòu)建四個核心層級：

硬件抽象層：整合所有關(guān)鍵傳感與驅(qū)動模態(tài)，使機器人能夠感知環(huán)境并與物理世界進(jìn)行實體交互。

實時控制框架層：對機器人運動進(jìn)行精準(zhǔn)、低延遲控制。機器人想要實現(xiàn)安全運行以及迅速響應(yīng)，最大限度降低延遲至關(guān)重要。

感知與規(guī)劃層：為機器人賦予環(huán)境理解、抓取與運動規(guī)劃、移動、物體識別及定位能力，使其能與周邊環(huán)境有效交互。與實時控制層不同，該層級可允許稍長的處理時間，以確保決策的周全性與準(zhǔn)確性。

高階推理層：支撐場景理解、復(fù)雜任務(wù)規(guī)劃、自然語言交互等高級功能。在此層級中，為實現(xiàn)更深層次的推理與更強的適應(yīng)性，稍長的處理時間是可接受的。

圖 1. 打造人形機器人需整合一系列硬件與軟件組件

NVIDIA Jetson Thor 為什么是物理 AI 與人形機器人的卓越平臺？

NVIDIA Jetson AGX Thor 開發(fā)者套件具備無可比擬的性能與可擴展性。該套件使用 NVIDIA Blackwell 架構(gòu) GPU，具備 128 GB 內(nèi)存，AI 計算性能最高可達(dá) 2070 FP4 TFLOPS，可輕松運行最新的生成式 AI 模型，所有這些都在 130 瓦的功率范圍內(nèi)實現(xiàn)。與 NVIDIA Jetson AGX Orin 相比，其 AI 計算性能提高至 7.5 倍，能效提高至 3.5 倍。

借助全新的 Blackwell 多實例 GPU（MIG）與性能強勁的 14 核 Arm Neoverse-V3AE CPU，Jetson Thor 能為低延遲、實時性應(yīng)用提速。此外，該平臺還集成了一整套加速器，包括第三代 Programmable Vision Accelerator（PVA）、雙編碼器與解碼器、光流加速器等。

在高速傳感器融合方面，開發(fā)者套件提供豐富的輸入輸出（I/O）接口選項，包括 1 個支持 4 路 25GbE 的 QSFP 插槽、1 個有線 Multi-GbE RJ45 接口、多個 USB 端口及其他連接接口。同時，其設(shè)計可與現(xiàn)有人形機器人平臺無縫集成，支持便捷的有線連接，能夠快速啟動原型開發(fā)。

Transformer 引擎與 FP4 支持

Jetson Thor 基于 NVIDIA Blackwell 架構(gòu)打造，引入原生 FP4 量化技術(shù)，并搭配下一代 Transformer 引擎，該引擎可在 FP4 與 FP8 精度之間動態(tài)切換，以實現(xiàn)最優(yōu)性能。通過將 4 位權(quán)重、激活值與更高內(nèi)存帶寬相結(jié)合，Jetson Thor 能同時加速生成式 AI 工作負(fù)載中的預(yù)填充與解碼過程。

多實例 GPU（MIG）

Jetson Thor 引入 MIG 技術(shù)，可將單塊 GPU 劃分為多個相互隔離的實例，每個實例擁有專屬資源。這一技術(shù)能為關(guān)鍵工作負(fù)載預(yù)留計算資源，同時并行運行對時間敏感度較低的任務(wù)，確保性能的可預(yù)測性，對于需兼顧多重關(guān)鍵任務(wù)的機器人應(yīng)用而言，這一特性尤為重要。

表 1 與表 2 分別展示了 Jetson T5000 模組及 NVIDIA Jetson AGX Thor 開發(fā)者套件載板的核心特性與接口規(guī)格。

表 1. NVIDIA Jetson AGX Thor 開發(fā)者套件模組規(guī)格

注：帶*的參數(shù)為初步數(shù)據(jù)，可能存在變動

表 2. NVIDIA Jetson AGX Thor 開發(fā)者套件載板規(guī)格

圖 2. NVIDIA Jetson Thor 模組的組件構(gòu)成

Jetson Thor 如何為邊緣端生成式 AI 提速？

Jetson AGX Thor 是全新的機器人計算機，其架構(gòu)從底層重新設(shè)計，專為驅(qū)動下一代人形機器人打造。該平臺支持各類生成式 AI 模型，既包括NVIDIA Isaac GR00T N1.5這類視覺語言動作模型（VLA），也涵蓋所有主流大型語言模型（LLM）與視覺語言模型（VLM）。

為提供無縫的云端到邊緣端銜接體驗，Jetson Thor 可運行 NVIDIA 面向物理 AI 應(yīng)用的 AI 軟件棧，包括面向機器人的 NVIDIA Isaac、面向視覺 AI 智能體的NVIDIA Metropolis，以及面向傳感器處理的NVIDIA Holoscan。開發(fā)者還可以借助視頻搜索與總結(jié)（VSS）的 NVIDIA 代理式 AI 工作流等，在邊緣端構(gòu)建 AI 智能體。

圖 3. Jetson Thor 支持各類 AI 框架與生成式 AI 模型

為什么生成式推理與多模態(tài)傳感器處理對物理 AI 至關(guān)重要？

生成式推理模型對于需要仿真可能的動作序列、預(yù)測結(jié)果、基于語言或視覺線索推理、靈活生成高階規(guī)劃或低階運動策略的機器人平臺至關(guān)重要。這些模型能讓機器人系統(tǒng)在真實場景中具備更高靈活性、更強適應(yīng)性，以及接近人類水平的穩(wěn)健推理能力。

NVIDIA Jetson Thor 在生成式推理領(lǐng)域?qū)崿F(xiàn)了巨大飛躍，與 Jetson Orin 相比，其推理速度提升最高達(dá) 5 倍。借助 FP4 精度優(yōu)化與推測解碼技術(shù)，開發(fā)者還能在 Jetson Thor 上進(jìn)一步實現(xiàn) 2 倍的性能提升。

圖 4. 在生成式推理方面，Jetson Thor 速度較 Jetson Orin 最高提升至 5 倍

Jetson Thor 還能無縫處理多個生成式 AI 模型與大量多模態(tài)傳感器輸入，實現(xiàn)實時響應(yīng)。圖 5 通過 Qwen2.5-VL-3B VLM 與 Llama 3.2 3B LLM 兩款模型展示了這一能力，測試中兩款模型需同時處理 16 個并發(fā)請求。結(jié)果顯示，兩款模型的“首 token 生成時間（Time to First Token，TTFT）”均遠(yuǎn)低于 200 毫秒，“輸出 token 生成時間（Time per Output Token，TPOT）”均遠(yuǎn)低于 50 毫秒——而這兩項指標(biāo)正是衡量系統(tǒng)響應(yīng)速度的核心標(biāo)準(zhǔn)。

圖 5. Jetson Thor 在處理多個生成式 AI 模型與大量多模態(tài)傳感器輸入時，仍能保持實時響應(yīng)

Jetson Thor 不僅支持 Blackwell 架構(gòu)原生 FP4 精度，還能啟用推測解碼等高級技術(shù)。在推測解碼技術(shù)中，先由小型草稿模型生成候選 tokens，再由大型模型驗證 tokens 的有效性。這種方式在保證生成準(zhǔn)確性的同時，能加速生成式 AI 推理過程，最終實現(xiàn)更快、更高質(zhì)量的輸出。

圖 4 顯示了在采用 FP4 量化與基于 Eagle 的推測解碼技術(shù)后，Qwen2.5-VL-7B 模型在 Jetson Thor 上的推理速度較采用 W4A16（4 位權(quán)重、16 位激活值）配置的 Jetson Orin，最高提升至 3.5 倍。

此外，如表 3 所示，在 LLM、VLM、VLA 等各類生成式 AI 模型上，Jetson Thor 的加速性能均實現(xiàn)突破，較 Jetson Orin 提升最高至 5 倍。

表 3. Jetson Thor 與 Jetson AGX Orin 的基準(zhǔn)測試對比

基準(zhǔn)測試配置說明：序列長度 2048，輸出序列長度 128；最大并發(fā)數(shù) 8；LLM 與 VLM 模型基于 VLLM 框架運行，VLA 模型基于 TensorRT 框架運行；Jetson AGX Thor 與 Jetson AGX Orin 均采用 MAXN 功耗模式。

Jetson 軟件如何為邊緣端 AI 提速？

Jetson 軟件通過提供一套高度集成的全棧軟件平臺，為邊緣端 AI 性能提速。該平臺針對機器人、醫(yī)療、物流、自主系統(tǒng)等領(lǐng)域的實時、高吞吐量應(yīng)用進(jìn)行優(yōu)化，可滿足多樣化場景需求。

Jetson 軟件以JetPack 7為核心驅(qū)動，搭載 Linux 6.8 內(nèi)核、Ubuntu 24.04 LTS 操作系統(tǒng)及最新 NVIDIA AI 軟件棧，能夠?qū)崿F(xiàn)低延遲、確定性的高階生成式 AI 模型運行，為物理 AI 應(yīng)用提供支撐。它融合了硬件加速計算與系統(tǒng)級優(yōu)化能力，能夠讓人形機器人、自主機器、工業(yè)自動化系統(tǒng)等復(fù)雜系統(tǒng)具備響應(yīng)能力及智能行為。

憑借集成式Holoscan Sensor Bridge、MIG 支持以及 Preemptable Realtime Kernel 等特性，Jetson 軟件顯著提升了高速傳感器融合、運動規(guī)劃等任務(wù)的性能與效率。在 Jetson AI Lab 及廣泛生態(tài)系統(tǒng)的支持下，Jetson 軟件大幅縮短了邊緣 AI 與機器人應(yīng)用的性能達(dá)標(biāo)時間（time-to-performance）。

Jetson Thor 平臺支持全新的Cosmos Reason——這是一款面向物理 AI 與機器人的開源、可定制、70 億參數(shù)推理型 VLM。

圖 6. Jetson 軟件棧

采用 SBSA 架構(gòu)設(shè)計的 JetPack 7

借助 JetPack 7，Jetson 軟件實現(xiàn)了與服務(wù)器基礎(chǔ)系統(tǒng)架構(gòu)（Server Base System Architecture，SBSA）的對齊，使 Jetson Thor 的設(shè)計達(dá)到 Arm 服務(wù)器設(shè)計的行業(yè)標(biāo)準(zhǔn)。SBSA 對標(biāo)準(zhǔn)化的關(guān)鍵硬件與固件接口，能提供更完善的操作系統(tǒng)支持、更簡便的軟件遷移能力，以及更順暢的企業(yè)級集成體驗。在此基礎(chǔ)上，Jetson Thor 可以支持在所有 Arm 目標(biāo)平臺上統(tǒng)一安裝 CUDA 13.0，不僅簡化了開發(fā)流程、減少了版本碎片化問題，還確保了從服務(wù)器級系統(tǒng)到 Jetson Thor 平臺的體驗一致性。

NVIDIA Isaac 如何端到端加速機器人開發(fā)？

NVIDIA Isaac 是開源的機器人平臺，包含一系列 CUDA 加速庫、框架與 AI 模型，可用于開發(fā)自主移動機器人、機械臂、人形機器人等各類機器人產(chǎn)品?，F(xiàn)代機器人需要一個由控制、視覺與語言模型構(gòu)成的高級“大腦”，能夠通過實時處理多模態(tài)數(shù)據(jù)，實現(xiàn)從感知到動作的無縫銜接。

Jetson Thor 專為運行 Isaac GR00T N1.5 這類高負(fù)載模型而設(shè)計，能為人形機器人提供實時人機交互、空間感知與穩(wěn)健的環(huán)境感知能力。Isaac 平臺與 Jetson Thor 協(xié)同配合，可實現(xiàn)在邊緣部署具備可擴展性的多模態(tài) AI，為工業(yè)與科研領(lǐng)域的機器人技術(shù)創(chuàng)新提速。

圖 7. NVIDIA Isaac GR00T 端到端加速機器人開發(fā)

如何借助 VSS 從邊緣攝像頭中獲取有價值的信息？

NVIDIA Metropolis 中用于視頻搜索與總結(jié)的（VSS）NVIDIA Blueprint，為開發(fā)者提供了構(gòu)建和部署視頻分析 AI 智能體的工具。這類 AI 智能體可通過分析實時攝像頭流，實現(xiàn)情境化實時警報、視頻總結(jié)與智能問答功能。

VSS 正為多領(lǐng)域視覺智能體應(yīng)用提供支撐：在制造業(yè)中用于視覺檢測與工人安全監(jiān)測；在體育賽事直播中用于提升粉絲互動體驗與運動員數(shù)據(jù)分析；在道路事件處理中則可縮短應(yīng)急響應(yīng)時間。

圖 8. VSS 應(yīng)用場景包括制造業(yè)視覺檢測、工人安全監(jiān)測，以及縮短道路事件應(yīng)急響應(yīng)時間

Jetson Thor 上的 Holoscan如何用于實時傳感器處理？

NVIDIA Holoscan是一款 AI 傳感器處理平臺，提供軟件定義的實時 AI 所需的全棧加速基礎(chǔ)設(shè)施。它可以簡化企業(yè)級硬件上邊緣 AI 的部署流程并提升可擴展性，為實時 AI 應(yīng)用提供高性能邊緣解決方案。

在 Jetson Thor 上運行 Holoscan，可對并發(fā) AI 工作流進(jìn)行安全分區(qū)與隔離——這一特性能為關(guān)鍵任務(wù)應(yīng)用提升確定性及容錯能力，并提供數(shù)據(jù)防泄漏保護(hù)。如此一來，開發(fā)者可在不影響安全性的前提下持續(xù)推進(jìn) AI 創(chuàng)新，使得 Holoscan 成為受監(jiān)管領(lǐng)域內(nèi)實時動作控制的可信操作層。

現(xiàn)代機器人依賴各類傳感器實現(xiàn)智能運行，包括攝像頭、IMU、執(zhí)行器等，每一種傳感器對機器人的正常工作都至關(guān)重要。借助 NVIDIA Holoscan Sensor Bridge，無論任何傳感器類型，都能通過以太網(wǎng)將所有傳感器無縫連接至 NVIDIA Jetson 平臺。Jetson Thor 支持全新的以太網(wǎng)攝像頭技術(shù)，可將傳感器數(shù)據(jù)直接傳輸至 GPU 內(nèi)存，大幅降低延遲并減少 CPU 占用率。這種方式用簡潔的軟件定義 API 替代了傳統(tǒng)驅(qū)動的復(fù)雜邏輯，使實時邊緣 AI 應(yīng)用（無論是機器人、工業(yè)自動化系統(tǒng)還是先進(jìn)醫(yī)療系統(tǒng)）能夠?qū)崿F(xiàn)精準(zhǔn)同步與穩(wěn)健擴展。

助力縮短產(chǎn)品上市時間的全方位生態(tài)系統(tǒng)

Jetson 生態(tài)系統(tǒng)包括超過 1,000 個合作伙伴，為幫助開發(fā)者更快地將解決方案推向市場，不同類型的合作伙伴可以提供針對性的支持服務(wù)，為開發(fā)流程的各個階段提供必要的支持。

表 4. Jetson 生態(tài)系統(tǒng)包含超過 1,000 個合作伙伴

圖 9. NVIDIA 合作伙伴提供靈活的合作模式，開發(fā)者可根據(jù)自身設(shè)計需求選擇特定組件與服務(wù)

即刻開始

使用 NVIDIA Jetson Thor 開發(fā)物理 AI

將 Jetson AGX Thor 開發(fā)者套件集成至現(xiàn)有機器人，即可加速軟件開發(fā)。開發(fā)者無需等待完整的系統(tǒng)集成，即可開始創(chuàng)建并測試應(yīng)用。

加入全球超 200 萬開發(fā)者的行列，開啟下一代物理 AI 項目的開發(fā)。Jetson AGX Thor 開發(fā)者套件（售價為 3,499 美元）以及 Jetson T5000 量產(chǎn)級模組，已經(jīng)可以通過 NVIDIA 全球授權(quán)分銷商購買。

開始使用 NVIDIA Jetson AGX Thor 開發(fā)者套件，下載最新的 JetPack 7，并通過 Jetson 下載中心以及生態(tài)系統(tǒng)合作伙伴，獲得全面的文檔、支持資源和工具。