在 2023 亞馬遜云科技 re:Invent 大會上，亞馬遜云科技首席執(zhí)行官 Adam Selipsky 和 NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛強調(diào)了生成式 AI 在云轉(zhuǎn)型過程中起到的關(guān)鍵作用，并著重介紹了兩家公司如何深化合作以賦能客戶取得成功。

亞馬遜云科技（AWS）和 NVIDIA 將為全球企業(yè)帶來新一代生成式 AI 技術(shù)。

當(dāng)?shù)貢r間本周二，NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛與亞馬遜云科技首席執(zhí)行官 Adam Selipsky 同臺出現(xiàn)在拉斯維加斯威尼斯人會展中心舉行的 2023 亞馬遜云科技 re:Invent 上，該大會以 AI 和云為主題。

Selipsky 表示他非常高興宣布亞馬遜云科技和 NVIDIA 合作關(guān)系的擴展，兩家公司將提供更多的服務(wù)，為先進的圖形、機器學(xué)習(xí)和生成式 AI 基礎(chǔ)設(shè)施提供支持。

雙方宣布：

• 亞馬遜云科技將成為率先采用最新 NVIDIA GH200 NVL32 Grace Hopper 超級芯片的云提供商，該芯片帶有全新多節(jié)點 NVLink 技術(shù)；

• NVIDIA DGX 云將在 AWS 平臺上可使用；

• 亞馬遜云科技已經(jīng)集成了 NVIDIA 最受歡迎的一些軟件庫。

黃仁勛首先強調(diào)了包括 NVIDIA AI Enterprise 、 cuQuantum 和 BioNeMo 在內(nèi)的一系列關(guān)鍵 NVIDIA 軟件庫與亞馬遜云科技的集成，以滿足數(shù)據(jù)處理、量子計算、數(shù)字生物學(xué)等領(lǐng)域的需求。

黃仁勛表示，此次合作將推動數(shù)百萬開發(fā)者和近 4 萬家企業(yè)能夠在亞馬遜云科技平臺使用這些軟件庫。他還表示很高興看到亞馬遜云科技擴展其云實例服務(wù)，將 NVIDIA 最新的 L4、L40S 以及即將推出的 H200 GPU 納入其中。

Selipsky 隨后介紹了首次亮相亞馬遜云科技的 NVIDIA GH200 Grace Hopper 超級芯片，表示這是云計算領(lǐng)域的一項重大進步，并請黃仁勛進行更加詳細的介紹。

黃仁勛表示：“Grace Hopper，也就是 GH200，以一種非常獨特的方式連接了兩款顛覆性的處理器?！彼忉屨f，“GH200 使用名為 NVLink 的芯片到芯片互連技術(shù)，將 NVIDIA 的 Grace Arm CPU 與 H200 GPU 連接在一起，其速度驚人，可達每秒 1TB?！?/p>

每個處理器都可以直接訪問高性能的 HBM 和高效率的 LPDDR5X 內(nèi)存。該配置使每個超級芯片的處理能力達到 4 PFLOPS，內(nèi)存容量達到 600GB。

亞馬遜云科技和 NVIDIA 用新型 NVLink 交換機來連接單個機架中的 32 個 Grace Hopper 超級芯片。每 32 個 GH200 NVLink 連接的節(jié)點都可稱為是一個 Amazon EC2 實例。在與 AWS Nitro 和 EFA 網(wǎng)絡(luò)集成后，客戶就可以連接 GH200 NVL32 實例，擴展到數(shù)千顆 GH200 超級芯片。

黃仁勛表示：“通過 AWS Nitro 可以將其變成一個巨大的虛擬 GPU 實例?！?/p>

他還表示，亞馬遜云科技在高度可擴展云計算領(lǐng)域的專業(yè)知識與 NVIDIA Grace Hopper 創(chuàng)新的結(jié)合，將使得這一平臺為復(fù)雜的生成式 AI 工作負載帶來極致性能。

在介紹亞馬遜云科技上的 NVIDIA DGX 云時，Selipsky 表示：“這個基礎(chǔ)設(shè)施真是太棒了，它還延伸到了軟件、服務(wù)和所有其他內(nèi)含的工作流?！?/p>

此次合作將使得首臺基于 GH200 超級芯片的 DGX 云 AI 超級計算機成為可能，它將展現(xiàn)亞馬遜云科技云基礎(chǔ)設(shè)施和 NVIDIA AI 專業(yè)技術(shù)的強大威力。

隨后，黃仁勛宣布亞馬遜云科技中的這臺全新 DGX 云超級計算機（代號為 Project Ceiba）也將作為 NVIDIA 最新的 AI 超級計算機，用于 NVIDIA 自己的 AI 研發(fā)工作。

黃仁勛表示，以雄偉的亞馬遜木棉樹（Ceiba）命名的 Project Ceiba DGX 云集群將集成 16,384 個 GH200 超級芯片，可實現(xiàn) 65 EFLOPS 的 AI 處理性能。

他表示，Ceiba 將是全球首臺 GH200 NVL32 AI 超級計算機，也是 NVIDIA DGX 云中最新的 AI 超級計算機。

他用“難以置信”來形容 Project Ceiba AI 超級計算機，稱它能夠?qū)⒆顝?fù)雜的大語言模型的訓(xùn)練時間縮短一半。

黃仁勛表示，NVIDIA 的 AI 工程師團隊將在 DGX 云中使用這臺全新超級計算機，以推動 AI 在圖形、大語言模型、圖像 / 視頻 / 3D 生成、數(shù)字生物學(xué)、機器人、自動駕駛汽車、Earth-2 氣候預(yù)測等領(lǐng)域的應(yīng)用。

“DGX 是 NVIDIA 的云 AI 工廠。無論是計算機圖形學(xué)、數(shù)字生物學(xué)模型的創(chuàng)建，還是機器人技術(shù)及氣候仿真和建模，AI 如今已成為 NVIDIA 扎實自身工作的關(guān)鍵。”

黃仁勛還表示：“DGX 云也是我們與企業(yè)客戶合作的 AI 工廠，以幫助他們一同構(gòu)建自定義 AI 模型。他們負責(zé)提供數(shù)據(jù)和領(lǐng)域?qū)I(yè)知識，而我們負責(zé)提供 AI 技術(shù)和基礎(chǔ)設(shè)施?！?/p>

此外，黃仁勛還宣布，亞馬遜云科技將在明年初推出四個基于 NVIDIA GH200 NVL、H200、L40S、L4 GPU 的亞馬遜 EC2 實例。

在談話的最后，Selipsky 宣布，基于 GH200 的實例和 DGX 云將于明年在亞馬遜云科技上提供。

GTC 2024 將于 2024 年 3 月 18 至 21 日在美國加州圣何塞會議中心舉行，線上大會也將同期開放。點擊“閱讀原文”或掃描下方海報二維碼，立即注冊 GTC 大會。