邊緣智能是自問(wèn)世以來(lái)最具顛覆性的創(chuàng)新之一 的物聯(lián)網(wǎng) （IoT）。雖然物聯(lián)網(wǎng)產(chǎn)生了數(shù)十億的智能， 連接設(shè)備為基于 AI 傳輸無(wú)數(shù) TB 的傳感器數(shù)據(jù) 云計(jì)算，另一場(chǎng)革命正在進(jìn)行中：機(jī)器學(xué)習(xí)（ML） 邊緣設(shè)備。隨著越來(lái)越多的智能遷移到網(wǎng)絡(luò)邊緣，恩智浦 通過(guò)提供成本、性能和功耗優(yōu)化來(lái)?yè)肀н@一趨勢(shì) 處理解決方案，推動(dòng) ML 技術(shù)跨多個(gè)市場(chǎng) 應(yīng)用程序，為最終用戶提供增強(qiáng)安全性的好處， 更好的隱私和更低的延遲。

開(kāi)發(fā) ML、深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)應(yīng)用程序傳統(tǒng)上具有 是數(shù)據(jù)科學(xué)家和人工智能專家的領(lǐng)域。但這種情況正在改變 更多的 ML 工具和技術(shù)已經(jīng)可用于抽象出一些 開(kāi)發(fā)機(jī)器學(xué)習(xí)應(yīng)用程序的復(fù)雜性。一個(gè)恰當(dāng)?shù)睦邮?恩智浦的eIQ（“邊緣智能”）ML開(kāi)發(fā)環(huán)境。eIQ 提供 全面的工作流工具集、推理引擎、神經(jīng)網(wǎng)絡(luò) （NN） 編譯器、優(yōu)化的庫(kù)和技術(shù)，可簡(jiǎn)化和加速 ML 面向所有技能水平的用戶進(jìn)行開(kāi)發(fā)，從嵌入式開(kāi)發(fā)人員開(kāi)始 在他們的第一個(gè)深度學(xué)習(xí)項(xiàng)目中，向?qū)Ｗ⒂诟呒?jí)對(duì)象的專家介紹 檢測(cè)、分類、異常檢測(cè)或語(yǔ)音識(shí)別解決方案。

eIQ ML 軟件于 2018 年推出，現(xiàn)已發(fā)展到支持系統(tǒng)級(jí) 面向恩智浦 i.MX 系列的應(yīng)用和ML算法支持，來(lái)自 低功耗 i.MX RT交叉微控制器（MCU）到多核 i.MX 8和 i.MX 基于 Arm Cortex-M 和 Cortex-A 內(nèi)核的 8M 應(yīng)用處理器。

幫助ML開(kāi)發(fā)人員提高工作效率，更熟練地掌握恩智浦 i.MX 8個(gè)處理平臺(tái)，我們顯著擴(kuò)展了eIQ軟件 環(huán)境，包括新的 eIQ 工具包工作流工具、基于 GUI 的 eIQ 門(mén)戶 開(kāi)發(fā)環(huán)境和 DeepViewRT?推理引擎 針對(duì) i.MX 和 i.MX RT 設(shè)備進(jìn)行了優(yōu)化。

圖1.eIQ 工具包和 eIQ 門(mén)戶功能的高級(jí)演示 和工作流程。

讓我們仔細(xì)看看這些強(qiáng)大的 eIQ 新增功能如何 軟件環(huán)境可以幫助簡(jiǎn)化 ML 開(kāi)發(fā)，提高生產(chǎn)力， 并為開(kāi)發(fā)人員提供更多選擇和更大的靈活性。

eIQ 工具包：為每個(gè)人啟用“ML”

考慮到機(jī)器學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)和深度的潛在復(fù)雜性 學(xué)習(xí)應(yīng)用程序 - 以及 ML 開(kāi)發(fā)人員的不同需求 - 一個(gè)簡(jiǎn)單的 “一刀切”工具不是答案。更好的方法是提供 全面而靈活的工具包，可擴(kuò)展以滿足技能和需求 ML 開(kāi)發(fā)人員的經(jīng)驗(yàn)水平。為此，我們添加了強(qiáng)大的 易于使用的 eIQ 工具包適用于 eIQ ML 開(kāi)發(fā)環(huán)境，支持 開(kāi)發(fā)人員導(dǎo)入數(shù)據(jù)集和模型以及訓(xùn)練、修剪、量化、驗(yàn)證 并在恩智浦 i.MX 8M系列中部署神經(jīng)網(wǎng)絡(luò)模型和ML工作負(fù)載 的應(yīng)用處理器和 i.MX RT 分頻 MCU 產(chǎn)品組合。是否 是開(kāi)始您的第一個(gè) ML 項(xiàng)目的嵌入式開(kāi)發(fā)人員，精通 數(shù)據(jù)科學(xué)家或 AI 專家，您將找到合適的工具包功能 匹配您的技能水平并簡(jiǎn)化您的 ML 項(xiàng)目。

圖2.eIQ 門(mén)戶提供了一個(gè)數(shù)據(jù)集策展人來(lái)幫助您注釋和 組織所有訓(xùn)練數(shù)據(jù)。

eIQ 工具包提供簡(jiǎn)單的工作流程和 ML 應(yīng)用程序 例子。該工具包還提供了一個(gè)直觀的、基于 GUI 的開(kāi)發(fā)選項(xiàng) 使用 eIQ 門(mén)戶和使用命令行主機(jī)工具的選項(xiàng)，如果 你更喜歡。如果您想利用現(xiàn)成的開(kāi)發(fā)解決方案或 需要恩智浦或我們值得信賴的專業(yè)服務(wù)和支持 合作伙伴，該工具包可讓您輕松訪問(wèn)我們不斷增長(zhǎng)的選項(xiàng)列表 來(lái)自Au-Zone Technologies等公司的eIQ Marketplace。

圖3.eIQ 門(mén)戶提供了一種方便的模型驗(yàn)證方法和 測(cè)量精度。

使用 eIQ 門(mén)戶，您可以輕松創(chuàng)建、優(yōu)化、調(diào)試、轉(zhuǎn)換和 導(dǎo)出ML模型，以及從TensorFlow，ONNX導(dǎo)入數(shù)據(jù)集和模型 和 PyTorch ML 框架。您可以使用您的數(shù)據(jù)訓(xùn)練模型 “自帶數(shù)據(jù)”（BYOD） 流程，從預(yù)訓(xùn)練數(shù)據(jù)庫(kù)中進(jìn)行選擇 模型或使用“自帶模型”（BYOM） 導(dǎo)入預(yù)訓(xùn)練模型 流，例如Au-Zone技術(shù)的高級(jí)檢測(cè)模型。通過(guò)遵循簡(jiǎn)單的 BYOM 過(guò)程，您可以使用 基于公共或私有云的工具，然后將模型傳輸?shù)絜IQ 在適當(dāng)?shù)墓鑳?yōu)化推理引擎上運(yùn)行的工具包。

圖4.eIQ 門(mén)戶為 BYOM 和 BYOD 提供了一種靈活的方法。

目標(biāo)圖形級(jí)分析功能為開(kāi)發(fā)人員提供運(yùn)行時(shí) 微調(diào)和優(yōu)化系統(tǒng)參數(shù)、運(yùn)行時(shí)性能、 用于在 i.MX 設(shè)備上執(zhí)行的內(nèi)存使用情況和神經(jīng)網(wǎng)絡(luò)架構(gòu)。

加速恩智浦最新的eIQ推理引擎

機(jī)器學(xué)習(xí)開(kāi)發(fā)項(xiàng)目的核心是推理引擎 – ML 應(yīng)用程序的運(yùn)行時(shí)組件。除了支持 使用各種基于社區(qū)的開(kāi)源推理引擎進(jìn)行推理 針對(duì) Glow、ONNX 和 TensorFlow Lite 等 i.MX 設(shè)備和 MCU 進(jìn)行了優(yōu)化，我們 已將 DeepViewRT 推理引擎添加到我們的 eIQ ML 軟件開(kāi)發(fā)中 環(huán)境。

DeepViewRT與我們的合作伙伴Au-Zone Technologies合作開(kāi)發(fā)，是一種專有的推理引擎，可提供穩(wěn)定，更長(zhǎng)的時(shí)間 術(shù)語(yǔ)供應(yīng)商維護(hù)的解決方案，補(bǔ)充了基于社區(qū)的開(kāi)放解決方案 推理引擎。

圖5.DeepViewRT 為 ML 應(yīng)用程序提供了穩(wěn)定、生產(chǎn)就緒且靈活的推理引擎。

DeepViewRT推理引擎可作為恩智浦MCUXpresso的中間件提供。 適用于Linux的SDK和Yocto BSP發(fā)布?基于操作系統(tǒng)的開(kāi)發(fā)。

審核編輯：郭婷