近日，在AI芯片的“寒地深”領(lǐng)域增加了一位新玩家，AGM（www.alta-gate.com）將推出一款基于ASIC的MCU算力加速芯片，主打高性價(jià)比的嵌入式MCU市場(chǎng)，用于物聯(lián)網(wǎng)邊緣AI推理的算力加速。

近幾年，深度神經(jīng)網(wǎng)絡(luò)（DNN）在圖像識(shí)別、自然語(yǔ)言處理等方向上取得了前所未有的成功，并推動(dòng)相關(guān)行業(yè)的快速發(fā)展。但是，這些應(yīng)用中使用的深度神經(jīng)網(wǎng)絡(luò)的參數(shù)量巨大，模型訓(xùn)練（training）與推斷（inference）都需要大量的計(jì)算，傳統(tǒng)計(jì)算芯片的算力無法滿足DNN計(jì)算需求。具有高算力的AI芯片能夠滿足AI行業(yè)計(jì)算需求并得到了快速發(fā)展。

現(xiàn)階段，由于終端設(shè)備的計(jì)算力普遍有限，模型訓(xùn)練與推斷大都在云端服務(wù)器上完成。在云端模型訓(xùn)練中，NVIDIA的GPU占主導(dǎo)地位，多GPU并行架構(gòu)是云端訓(xùn)練常用的基礎(chǔ)架構(gòu)方案。在云端識(shí)別中，基于功耗與運(yùn)算速度的考量，單獨(dú)基于GPU的方式并非最優(yōu)方案，利用CPU、GPU、FPGA、ASIC各自的優(yōu)勢(shì)，采用異構(gòu)計(jì)算（CPU+GPU+FPGA/ASIC）是目前主流方案。

在計(jì)算機(jī)視覺、語(yǔ)音識(shí)別等應(yīng)用中，終端采集數(shù)據(jù)（特別是圖像數(shù)據(jù)），然后上傳到云端處理的云計(jì)算對(duì)網(wǎng)絡(luò)帶寬與數(shù)據(jù)中心存儲(chǔ)都帶來越來越大的挑戰(zhàn)。另外，無人駕駛等應(yīng)用對(duì)實(shí)時(shí)性與安全性要求極高。網(wǎng)絡(luò)的時(shí)延與穩(wěn)定性所帶來的安全隱患是無人駕駛等應(yīng)用所無法忍受的。在終端采集數(shù)據(jù)，并完成數(shù)據(jù)處理，提供智能終端推斷的邊緣計(jì)算（Edge computing），因其能夠滿足實(shí)時(shí)性、安全性的需求，且能節(jié)約帶寬與存儲(chǔ)，得到越來越多的關(guān)注。業(yè)界判斷inference將越來越多的在終端設(shè)備上完成，即，智能將會(huì)下沉到終端設(shè)備，智能邊緣計(jì)算將會(huì)崛起。

實(shí)時(shí)性是選擇在終端完成推斷最主要的原因之一。但是，由于深度神經(jīng)網(wǎng)絡(luò)參數(shù)量巨大，推斷過程需要完成大量的計(jì)算，其對(duì)終端硬件的計(jì)算力提出了很高的要求。另外，電池供電的終端設(shè)備對(duì)功耗也有極高的要求，且大多數(shù)的終端產(chǎn)品價(jià)格敏感。即，執(zhí)行DNN推斷的終端芯片對(duì)算力、功耗、價(jià)格都有嚴(yán)格的限制。

AGM研發(fā)的嵌入式AI算力芯片，集成了多項(xiàng)在其FPGA+MCU現(xiàn)有產(chǎn)品中, 已使用并且大批量產(chǎn)驗(yàn)證的技術(shù)：

超低成本和低功耗可重構(gòu)邏輯定制ASIC

計(jì)算單元ASIC定制技術(shù) – ASIC矩陣計(jì)算

嵌入式內(nèi)存存讀ASIC技術(shù)–低延遲低功耗

融合以mcu 為主導(dǎo)的芯片架構(gòu)和軟件生態(tài)

AGM此次推出的MCU算力芯片，成本類似ASIC，但是在架構(gòu)上屬于可重構(gòu)ASIC，適用于AI高算力需求和不斷演進(jìn)的算法升級(jí)，例如CNN、RNN和矩陣運(yùn)算。這款芯片滿足了低功耗，尤其是低延遲的內(nèi)存存取的需求。

這款物聯(lián)網(wǎng)邊緣AI推理的算力芯片，主打超低價(jià)和高性價(jià)比，可以應(yīng)用在以下應(yīng)用場(chǎng)景的終端中：

邊緣攝像頭圖像AI分析；

智能音箱的聲音AI分析；

行車記錄的圖像AI分析;

工控的數(shù)據(jù)AI分析;

傳感器的數(shù)據(jù)AI分析

AI 高算力需求和不斷演進(jìn)的算法CNN,RNN,和矩陣運(yùn)算

例如在安防領(lǐng)域，相比于傳統(tǒng)視頻監(jiān)控，AI+視頻監(jiān)控，最主要的變化是把被動(dòng)監(jiān)控變?yōu)橹鲃?dòng)分析與預(yù)警，因而，解決了需要人工處理海量監(jiān)控?cái)?shù)據(jù)的問題。安防、無人機(jī)等終端設(shè)備對(duì)算力及成本有很高的要求。隨著圖像識(shí)別與硬件技術(shù)的發(fā)展，在終端完成智能安防的條件日益成熟。

而在汽車行業(yè)，高速駕駛情況下，實(shí)時(shí)性是保證安全性的首要前提，云端計(jì)算無法保證實(shí)時(shí)性。車載終端計(jì)算平臺(tái)是自動(dòng)駕駛計(jì)算發(fā)展的未來。另外，隨著電動(dòng)化的發(fā)展趨勢(shì)，對(duì)于汽車行業(yè)，低功耗變的越來越重要。天然能夠滿足實(shí)時(shí)性與低功耗的ASIC芯片將是車載計(jì)算平臺(tái)未來發(fā)展趨勢(shì)。

2016年AI芯片全球市場(chǎng)規(guī)模為23.88億美元，有機(jī)構(gòu)預(yù)計(jì)到2020年AI芯片全球市場(chǎng)規(guī)模將達(dá)到146.16億美元（終端AI芯片的市場(chǎng)規(guī)模），發(fā)展空間巨大。在未來的“霧計(jì)算”終端產(chǎn)品中，相信未來低價(jià)低功耗的MCU算力加速SoC芯片將成為AI終端產(chǎn)品的主導(dǎo)，AGM應(yīng)可占有一席之地。