NVIDIA 和谷歌云宣布開(kāi)展一項(xiàng)新的合作，以幫助全球初創(chuàng)企業(yè)加速創(chuàng)建生成式 AI 應(yīng)用和服務(wù)。

雙方于今日在拉斯維加斯舉行的 Google Cloud Next '24 大會(huì)上宣布這一消息，將把針對(duì)初創(chuàng)企業(yè)的NVIDIA 初創(chuàng)加速計(jì)劃與 Google for Startups Cloud 計(jì)劃相結(jié)合。此舉將擴(kuò)大云積分、產(chǎn)品上市支持和技術(shù)專業(yè)知識(shí)的受眾面，幫助初創(chuàng)企業(yè)更快地為客戶創(chuàng)造價(jià)值。

NVIDIA 初創(chuàng)加速計(jì)劃是一項(xiàng)為 18,000 多家初創(chuàng)企業(yè)提供助力的全球性計(jì)劃，符合資格的會(huì)員將能夠通過(guò)加速途徑使用谷歌云基礎(chǔ)設(shè)施，并獲得谷歌云積分，將為專注于 AI 的初創(chuàng)企業(yè)提供高達(dá) 35 萬(wàn)美元的積分。

Google for Startups Cloud 計(jì)劃成員可加入 NVIDIA 初創(chuàng)加速計(jì)劃并獲得技術(shù)專業(yè)知識(shí)、NVIDIA 深度學(xué)習(xí)培訓(xùn)中心（DLI）課程學(xué)分、NVIDIA 硬件和軟件等。符合條件的 Google for Startups Cloud 計(jì)劃成員還可以參加 NVIDIA Inception Capital Connect，該平臺(tái)讓初創(chuàng)企業(yè)能夠接觸到對(duì)該領(lǐng)域感興趣的風(fēng)投公司。

參加這兩項(xiàng)計(jì)劃的高增長(zhǎng)新興軟件制造商還可以快速入駐谷歌云 Marketplace，獲得聯(lián)合營(yíng)銷和產(chǎn)品加速支持。

此次合作是兩家公司發(fā)布一系列公告的最新成果，旨在幫助各種規(guī)模的企業(yè)減少生成式 AI 應(yīng)用開(kāi)發(fā)成本和障礙。其中，AI 投資所產(chǎn)生的高額成本對(duì)初創(chuàng)企業(yè)有一定的制約。

需要一個(gè)全棧式 AI 平臺(tái)

今年 2 月，谷歌 DeepMind 推出了先進(jìn)的開(kāi)放模型系列 Gemma。NVIDIA 最近與谷歌合作，在所有適用于 Gemma 的 NVIDIA AI 平臺(tái)上推出了優(yōu)化方案，幫助降低客戶成本，并加快針對(duì)特定領(lǐng)域用例的創(chuàng)新工作。

兩家公司的團(tuán)隊(duì)進(jìn)行了密切合作，利用NVIDIA TensorRT-LLM（一個(gè)開(kāi)源庫(kù)，用于優(yōu)化在NVIDIA GPU上運(yùn)行的大語(yǔ)言模型的推理性能）加速 Gemma 的性能。創(chuàng)建 Gemma 所采用的研究和技術(shù)，與創(chuàng)建谷歌 DeepMind 功能強(qiáng)大的 Gemini 模型完全相同。

包含在NVIDIA AI Enterprise 軟件平臺(tái)中的NVIDIA NIM 微服務(wù)將與 Google Kubernetes Engine（GKE）共同為 AI 應(yīng)用開(kāi)發(fā)以及將優(yōu)化的 AI 模型部署到生產(chǎn)中提供簡(jiǎn)化的途徑。NIM 是基于NVIDIA Triton 推理服務(wù)器、TensorRT-LLM 等推理引擎所構(gòu)建，其支持各種領(lǐng)先的 AI 模型，并提供無(wú)縫銜接、可擴(kuò)展的 AI 推理，以加速企業(yè)中的生成式 AI 部署。

Gemma 系列模型包括 Gemma 7B、RecurrentGemma 和 CodeGemma 等，這些模型均可從 NVIDIA API 目錄中獲取。用戶可在瀏覽器、帶有 API 端點(diǎn)的原型和 NIM 的自托管中進(jìn)行試用。

通過(guò) GKE 和 Google Cloud HPC Toolkit，在谷歌云平臺(tái)上部署NVIDIA NeMo框架變得更加輕松。這使開(kāi)發(fā)者能夠自動(dòng)化與擴(kuò)展生成式 AI 模型的訓(xùn)練和服務(wù)，并通過(guò)可定制藍(lán)圖來(lái)快速部署一站式環(huán)境，從而快速啟動(dòng)開(kāi)發(fā)流程。

NVIDIA AI Enterprise 中的 NVIDIA NeMo 也可以在谷歌云 Marketplace 上獲得，這為客戶提供了另一種輕松訪問(wèn) NeMo 和其他框架的方式，以加速 AI 開(kāi)發(fā)。

為進(jìn)一步擴(kuò)大由 NVIDIA 提供加速的生成式 AI 計(jì)算的供應(yīng)范圍，谷歌云還宣布 A3 Mega 將于下月全面上市。這些實(shí)例是其 A3 虛擬機(jī)系列的擴(kuò)展，搭載了 NVIDIA H100 Tensor Core GPU。新實(shí)例將使 A3 虛擬機(jī)的 GPU 到 GPU 網(wǎng)絡(luò)帶寬增加一倍。

A3 上的谷歌云全新機(jī)密虛擬機(jī)還將加入對(duì)機(jī)密計(jì)算的支持，以便幫助客戶保護(hù)其敏感數(shù)據(jù)的機(jī)密性和完整性，并在訓(xùn)練和推理過(guò)程中確保應(yīng)用和 AI 工作負(fù)載的安全（在使用 H100 GPU 加速時(shí)無(wú)需更改代碼）。這些 GPU 驅(qū)動(dòng)的機(jī)密虛擬機(jī)將在今年推出預(yù)覽版。

下一個(gè)主角：

NVIDIA Blackwell 架構(gòu) GPU

采用NVIDIA Blackwell 平臺(tái)的 NVIDIA 最新 GPU 將于明年初登陸谷歌云，推出NVIDIA HGX B200和NVIDIA GB200 NVL72兩種版本。

HGX B200 專門(mén)用于要求最高的 AI、數(shù)據(jù)分析和高性能計(jì)算工作負(fù)載；GB200 NVL72 專門(mén)用于下一代大規(guī)模萬(wàn)億參數(shù)模型的訓(xùn)練和實(shí)時(shí)推理。

NVIDIA GB200 NVL72 通過(guò) 900GB/s 的片間互聯(lián)連接 36 個(gè) Grace Blackwell 超級(jí)芯片，每個(gè)超級(jí)芯片上有 2 個(gè)NVIDIA Blackwell GPU和 1 個(gè)NVIDIA Grace CPU，一個(gè) NVIDIA NVLink 域最高支持 72 個(gè) Blackwell GPU 和 130TB/s 的帶寬。與上一代產(chǎn)品相比，它克服了通信瓶頸并且能夠作為單顆 GPU 運(yùn)行，其實(shí)時(shí) LLM 推理和訓(xùn)練速度分別提高了 30 倍和 4 倍。

NVIDIA GB200 NVL72 是一套多節(jié)點(diǎn)機(jī)架級(jí)擴(kuò)展系統(tǒng)，它將使用谷歌云的第四代先進(jìn)液冷系統(tǒng)。

NVIDIA 于 3 月宣布，NVIDIA DGX Cloud已在搭載 H100 GPU 的 A3 虛擬機(jī)上全面推出，該 AI 平臺(tái)是面向企業(yè)開(kāi)發(fā)者的 AI 平臺(tái)，針對(duì)生成式 AI 的需求進(jìn)行了優(yōu)化。搭載 GB200 NVL72 的 DGX Cloud 也將于 2025 年在谷歌云上推出。

審核編輯：劉清