隨著在邊緣部署人工智能應(yīng)用程序的增長, IT 組織正在尋找部署和管理其邊緣計(jì)算系統(tǒng)和軟件的最佳方式。
NVIDIA Fleet Command 通過將 NVIDIA-Certified Systems 轉(zhuǎn)化為安全邊緣設(shè)備,并在幾分鐘內(nèi)將其連接到云,為任何規(guī)模的企業(yè)帶來安全邊緣 AI 。在云中,你可以從 NGC Catalog 或你的 NGC 私有注冊中心部署和管理應(yīng)用程序,通過無線方式更新系統(tǒng)軟件,并通過瀏覽器和互聯(lián)網(wǎng)連接遠(yuǎn)程管理系統(tǒng)。
為了幫助組織測試 Fleet Command 的好處,您可以使用 NVIDIA LaunchPad 測試產(chǎn)品。通過精心策劃的實(shí)驗(yàn)室, LaunchPad 讓你可以使用專用硬件和 Fleet Command 軟件,這樣你就可以在邊緣地帶完成部署和管理人工智能應(yīng)用程序的整個(gè)過程。
在這篇文章中,我將帶你參觀 LaunchPad 上的 Fleet Command 試用版,包括申請者的詳細(xì)信息、完成策劃的實(shí)驗(yàn)室體驗(yàn)需要多長時(shí)間,以及接下來的步驟。
誰應(yīng)該試試艦隊(duì)司令部?
Fleet Command 是為負(fù)責(zé)管理多個(gè)邊緣位置的人工智能應(yīng)用程序的 IT 和 OT 專業(yè)人員設(shè)計(jì)的。該產(chǎn)品的簡單性允許任何技能水平的專業(yè)人士輕松使用。
策展實(shí)驗(yàn)室將完成演示應(yīng)用程序的部署。對于即將進(jìn)行 edge 項(xiàng)目的用戶,演示應(yīng)用程序可用于測試 Fleet Command 的功能,但仍需在現(xiàn)場進(jìn)行全面測試。
Fleet Command 實(shí)驗(yàn)室體驗(yàn)旨在部署和管理邊緣的人工智能應(yīng)用程序。 NVIDIA LaunchPad 提供了其他實(shí)驗(yàn)室,用于使用 NVIDIA Base Command 管理訓(xùn)練環(huán)境, NVIDIA 人工智能企業(yè) 用于從企業(yè)數(shù)據(jù)中心優(yōu)化人工智能的開發(fā)和部署。
Fleet Command 策劃的實(shí)驗(yàn)室包括什么?
在本次試驗(yàn)中,您充當(dāng)車隊(duì)指揮系統(tǒng)管理員,部署計(jì)算機(jī)視覺應(yīng)用程序,用于在交叉口清點(diǎn)車輛。整個(gè)審判大約需要一個(gè)小時(shí)。
在 NGC 中訪問艦隊(duì)司令部
Fleet Command 可以通過 NGC 從任何地方訪問,這是一個(gè) GPU 優(yōu)化的人工智能軟件中心,允許管理員遠(yuǎn)程管理邊緣位置、系統(tǒng)和應(yīng)用程序。
管理員會(huì)自動(dòng)將 Fleet Command 添加到 NGC 控制臺(tái)。
創(chuàng)建邊位置
Fleet Command 中的位置代表安裝物理系統(tǒng)的真實(shí)位置。在實(shí)驗(yàn)室中,您可以創(chuàng)建一個(gè)邊緣位置,但客戶可以在生產(chǎn)中管理數(shù)千個(gè)位置。
要添加新位置,請選擇 Add Location 并填寫詳細(xì)信息。選擇可用的最新版本。

圖 1 。添加一個(gè)由NVIDIA 車隊(duì)司令部管理的位置
添加一個(gè)邊緣系統(tǒng)
接下來,向位置添加一個(gè)系統(tǒng),它代表邊緣的物理系統(tǒng)。完成此步驟將生成一個(gè)代碼,您可以使用該代碼使用 Fleet Command 操作堆棧在現(xiàn)場安全地配置服務(wù)器。然后選擇剛剛創(chuàng)建的位置并選擇 Add System 。

圖 2 。將邊緣系統(tǒng)添加到位置
添加系統(tǒng)名稱和說明以完成該過程。
將系統(tǒng)添加到某個(gè)位置后,您將獲得一個(gè)生成的激活碼,用于將艦隊(duì)命令與現(xiàn)場的物理系統(tǒng)配對。

圖 3 。生成激活碼,將 Fleet Command 中的系統(tǒng)連接到邊緣服務(wù)器
將 Fleet Command 連接到 LaunchPad 服務(wù)器
NVIDIA LaunchPad 提供了一個(gè)系統(tǒng)控制臺(tái),用于訪問與試用相關(guān)的服務(wù)器。按照提示完成安裝。初始設(shè)置后,系統(tǒng)會(huì)提示輸入在 Fleet Command 中創(chuàng)建系統(tǒng)時(shí)生成的激活碼。

圖 4 。將邊緣服務(wù)器與 Fleet Command配對
輸入激活碼后,系統(tǒng)將完成與車隊(duì)命令的配對。 Fleet Command 用戶界面中的復(fù)選框顯示服務(wù)器正在運(yùn)行并準(zhǔn)備進(jìn)行遠(yuǎn)程管理。

圖 5 。邊緣服務(wù)器的完整配對,現(xiàn)在可以通過 Fleet Command 進(jìn)行控制
部署人工智能應(yīng)用程序
現(xiàn)在,本地安裝程序已將系統(tǒng)與 Fleet Command 配對,您可以部署 AI 應(yīng)用程序。應(yīng)用程序可以托管在 NGC 私有注冊表上,也可以直接托管在 NGC 目錄上。

圖 6 。將來自 NGC 的應(yīng)用程序添加到該位置
人工智能應(yīng)用程序使用 Helm 圖表進(jìn)行部署, Helm 圖表用于定義、安裝和升級 Kubernetes 應(yīng)用程序。選擇 Add Application 并在提示中輸入信息。
現(xiàn)在應(yīng)用程序已在 Fleet Command 準(zhǔn)備就緒,可以部署到一個(gè)或多個(gè)系統(tǒng)上。通過選擇創(chuàng)建的位置和應(yīng)用程序,創(chuàng)建部署,確保選中啟用應(yīng)用程序訪問復(fù)選框。

圖 7 。創(chuàng)建部署
現(xiàn)在,應(yīng)用程序已部署在服務(wù)器上,您可以在試用應(yīng)用程序中查看在示例視頻數(shù)據(jù)上運(yùn)行的應(yīng)用程序。
圖 8 。用于計(jì)算汽車數(shù)量的計(jì)算機(jī)視覺應(yīng)用程序正在生產(chǎn)中
就這樣。我現(xiàn)在已經(jīng)向您介紹了連接到邊緣物理系統(tǒng)、創(chuàng)建部署以及將 AI 應(yīng)用程序推送到邊緣服務(wù)器的端到端過程。在不到一個(gè)小時(shí)的時(shí)間里,試驗(yàn)從斷開連接的遠(yuǎn)程系統(tǒng)發(fā)展到完全管理、安全的遠(yuǎn)程邊緣環(huán)境。
下一步
Fleet Command 是一個(gè)強(qiáng)大的工具,可以在不影響安全性、靈活性或規(guī)模的情況下簡化邊緣計(jì)算基礎(chǔ)設(shè)施的管理。
關(guān)于作者:
Amanda Saunders 在 NVIDIA 負(fù)責(zé) Edge 和企業(yè)計(jì)算解決方案集團(tuán)的 Edge AI 產(chǎn)品營銷。她為醫(yī)院、商店、倉庫、工廠等帶來了智能的邊緣計(jì)算解決方案。除了從事 edge 解決方案之外, Amanda 還在 NVIDIA 擔(dān)任銷售和營銷角色,與 AI 、數(shù)據(jù)科學(xué)、虛擬 GPU 和許多不同行業(yè)合作。
審核編輯:郭婷
-
NVIDIA
+關(guān)注
關(guān)注
14文章
5513瀏覽量
109185 -
人工智能
+關(guān)注
關(guān)注
1813文章
49798瀏覽量
262095 -
應(yīng)用程序
+關(guān)注
關(guān)注
38文章
3342瀏覽量
60008
發(fā)布評論請先 登錄
如何有效管理和部署的AI智能體
新唐科技推出高效AI MCU部署工具NuML Toolkit
ai_cube訓(xùn)練模型最后部署失敗是什么原因?
【米爾RK3576開發(fā)板免費(fèi)體驗(yàn)】1、開發(fā)環(huán)境、鏡像燒錄、QT開發(fā)環(huán)境搭建以及應(yīng)用部署
AI端側(cè)部署開發(fā)(SC171開發(fā)套件V3)
如何在RAKsmart服務(wù)器上實(shí)現(xiàn)企業(yè)AI模型部署
MCP:連接AI與應(yīng)用程序的開放標(biāo)準(zhǔn)!
如何部署OpenVINO?工具套件應(yīng)用程序?
是否可以使用OpenVINO?部署管理器在部署機(jī)器上運(yùn)行Python應(yīng)用程序?
SDRAM控制器設(shè)計(jì)之command.v代碼解析
C#集成OpenVINO?:簡化AI模型部署
添越智創(chuàng)基于 RK3588 開發(fā)板部署測試 DeepSeek 模型全攻略
ANACONDA——關(guān)于發(fā)布數(shù)據(jù)應(yīng)用程序的新簡單方法

使用Fleet Command完成部署和管理AI應(yīng)用程序
評論