chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

嵌入式芯片中神經(jīng)網(wǎng)絡(luò)加速器如何支持本地化AI處理

454398 ? 來(lái)源:ST社區(qū) ? 作者:ST社區(qū) ? 2022-12-20 18:25 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

來(lái)源:ST社區(qū)

GPU和NNA(神經(jīng)網(wǎng)絡(luò)加速器)正在迅速成為AI應(yīng)用的關(guān)鍵要素。隨著不同企業(yè)開(kāi)始挖掘神經(jīng)網(wǎng)絡(luò)在各種任務(wù)(比如自然語(yǔ)言處理、圖片分類(lèi))中的潛力,集成人工智能元素的產(chǎn)品數(shù)量正在穩(wěn)步的增長(zhǎng)。與此同時(shí),對(duì)于這些任務(wù)的處理也正在從傳統(tǒng)的云端架構(gòu)轉(zhuǎn)移到設(shè)備本身上來(lái),嵌入式芯片中集成了專(zhuān)用的神經(jīng)網(wǎng)絡(luò)加速器,可支持本地化AI處理。例如先進(jìn)的駕駛輔助系統(tǒng)(ADAS)能夠?qū)崟r(shí)監(jiān)控前方道路,還有集成語(yǔ)音識(shí)別類(lèi)功能的消費(fèi)電子產(chǎn)品,比如虛擬助理?;谏窠?jīng)網(wǎng)絡(luò)的AI應(yīng)用正在多個(gè)細(xì)分市場(chǎng)不斷擴(kuò)大。

Imagination公司的業(yè)務(wù)是為芯片設(shè)計(jì)提供必要的內(nèi)核組件,我們?cè)谇度胧綀D形處理器(GPU)和神經(jīng)網(wǎng)絡(luò)加速器(NNA)技術(shù)方面聞名,我們將這些技術(shù)授權(quán)給世界領(lǐng)先的芯片供應(yīng)商。他們的產(chǎn)品被廣泛應(yīng)用在多個(gè)產(chǎn)品和服務(wù)中,因此Imagination在市場(chǎng)上占有著獨(dú)特的位置,我們使得整個(gè)生態(tài)系統(tǒng)都能夠參與到AI的發(fā)展中來(lái)。

不可否認(rèn),AI在很多應(yīng)用中都是至關(guān)重要的,但是也有很多的挑戰(zhàn)。其中之一就是協(xié)調(diào)好終端設(shè)備和云服務(wù)器之間的處理負(fù)載,將AI處理操作放在最佳的位置來(lái)完成。例如在消費(fèi)者終端設(shè)備上進(jìn)行本地化AI語(yǔ)音識(shí)別;對(duì)于“喚醒”指令或其他簡(jiǎn)單指令,因?yàn)楸镜卦O(shè)備無(wú)法存儲(chǔ)龐大的知識(shí)數(shù)據(jù)庫(kù),要利用這些數(shù)據(jù)就必須在云服務(wù)器中實(shí)現(xiàn)很大一部分AI處理操作。目前的情況是很多市場(chǎng)上銷(xiāo)售的產(chǎn)品都帶有AI功能,但實(shí)際上它們只是在本地進(jìn)行簡(jiǎn)單的模式匹配和識(shí)別,然后依賴(lài)云服務(wù)器完成進(jìn)一步的AI處理。

這種情況將會(huì)逐漸改變,隨著芯片工藝技術(shù)變得更加普遍,嵌入式神經(jīng)網(wǎng)絡(luò)加速器(NNA)將會(huì)變得幾乎和CPU一樣無(wú)處不在,這為在終端設(shè)備中提高人工智能處理能力創(chuàng)造了機(jī)會(huì)。例如我們希望看到智能安防攝像頭能夠熟練的監(jiān)控特定事件,不再局限于簡(jiǎn)單的錄像,使用終端設(shè)備AI功能來(lái)處理識(shí)別視野內(nèi)的一些特征,比如道路上的車(chē)輛或人群中的面孔。這也會(huì)衍生一些其他功能,比如確定車(chē)輛的制造商和型號(hào)、或者是某些人獲得授權(quán)。輸入結(jié)果可能不是可識(shí)別的視頻內(nèi)容,可能只是描述這些結(jié)果的原始數(shù)據(jù)。將人工智能嵌入到安防攝像頭中甚至可以減少不靠譜情況的發(fā)生從而降低成本,因?yàn)閿z像頭內(nèi)的AI功能可以識(shí)別正常行為與可疑行為之間的區(qū)別。

雖然人工智能的應(yīng)用數(shù)量在不斷增加,但這并不意味著集成神經(jīng)網(wǎng)特性的單個(gè)SoC是所有應(yīng)用場(chǎng)景的發(fā)展方向。如果我們考慮讓人工智能涉及大部分細(xì)分市場(chǎng),由于使用該技術(shù)的產(chǎn)品在加工要求上有很大的不同,自然會(huì)出現(xiàn)多樣化。分散的市場(chǎng)很難與通用的應(yīng)用處理器一起結(jié)合使用,例如那些集成了NNA器件和GPU的處理器,事實(shí)上,“一刀切”的方式并不總是適用的。

雖然一些市場(chǎng)為SoC供應(yīng)商提供了大量的機(jī)會(huì),比如智能手機(jī)、汽車(chē)ADAS等,但是許多以使用AI為目標(biāo)的市場(chǎng)需求量并不是很大。值得注意的是,一些產(chǎn)品可能需要人工智能來(lái)進(jìn)行語(yǔ)音處理或圖像識(shí)別,但并非兩者都需要:智能照明系統(tǒng)供應(yīng)商不太可能使用最初為智能手機(jī)而設(shè)計(jì)的SoC,僅僅是為了將人工智能引入到其應(yīng)用中,這并不符合成本效益。解決這個(gè)問(wèn)題的方法是創(chuàng)建專(zhuān)門(mén)的人工智能芯片,與主應(yīng)用處理器一起作為配套芯片使用,這些器件可以承擔(dān)原來(lái)由主應(yīng)用處理器上的NNA核心來(lái)處理的AI任務(wù),這具有明顯的優(yōu)勢(shì):SoC供應(yīng)商可以提供一系列具有不同性能水平的終端AI器件;此外,OEM廠商還可以根據(jù)他們的期望在特定應(yīng)用中處理AI任務(wù),提供多個(gè)選項(xiàng)來(lái)適當(dāng)?shù)臄U(kuò)展或縮減產(chǎn)品解決方案。

那么人工智能市場(chǎng)將走向何方?我預(yù)計(jì)人們對(duì)人工智能的興趣和需求都將繼續(xù)增長(zhǎng),事實(shí)上,支撐這一目標(biāo)的技術(shù)不斷變得成熟。相反,幾乎可以肯定的是,人們會(huì)意識(shí)到人工智能并不是解決所有問(wèn)題的答案,炒作現(xiàn)象可能會(huì)有所減弱,許多公司也會(huì)轉(zhuǎn)移注意力。他們將會(huì)利用人工智能的潛力來(lái)增強(qiáng)系統(tǒng)的能力,但是人工智能未必是這些系統(tǒng)的運(yùn)行核心。

更進(jìn)一步說(shuō),真正的人工智能——機(jī)器擁有意識(shí),能夠基于認(rèn)知推理作出決策——這還需要10年或更長(zhǎng)的時(shí)間。這意味著云互連在未來(lái)很多年都將至關(guān)重要,它不僅能提供必要的大規(guī)模并行計(jì)算資源(可能是通過(guò)量子機(jī)器),還能提供巨大的數(shù)據(jù)存儲(chǔ),人工智能依靠這些數(shù)據(jù)來(lái)理解周?chē)氖澜纭8邘挼?a href="http://m.brongaenegriffin.com/soft/data/43-44/" target="_blank">通信技術(shù)有望在2019年問(wèn)世,尤其是5G和802.11ax標(biāo)準(zhǔn),因此相信云AI架構(gòu)和互連帶寬都將相應(yīng)擴(kuò)大。

PowerVR Series2NX架構(gòu)

對(duì)于真正處于前沿的人工智能,我們需要構(gòu)想出創(chuàng)新的方法來(lái)提高晶體管在硅片上的封裝密度,同時(shí)使其既具有通過(guò)學(xué)習(xí)獲得知識(shí)的能力又具備所需的推理技能,從而設(shè)計(jì)全新的SoC器件。

Imagination公司希望為芯片供應(yīng)商提供關(guān)鍵的核心技術(shù),從而構(gòu)建世界領(lǐng)先的人工智能解決方案。PowerVR GPU提供了高性能的GPU計(jì)算能力,用于處理AI中的可視化操作,比如圖像識(shí)別和排序、手勢(shì)識(shí)別驅(qū)動(dòng)接口以及實(shí)時(shí)視頻分析等。PowerVR NNA(神經(jīng)網(wǎng)絡(luò)加速器)是任何前沿人工智能解決方案的核心,為高級(jí)推理和邊緣數(shù)據(jù)處理提供必要的硬件加速。我們的GPU和NNA能夠?yàn)楦咝阅艿腁I處理提供一切必要的技術(shù)并使硅芯片獲得優(yōu)勢(shì)。

人工智能的未來(lái)正在變得清晰…但是當(dāng)它完成某些任務(wù)花費(fèi)的時(shí)間比我們預(yù)期的時(shí)間要長(zhǎng)時(shí)大家不要感到驚訝。

審核編輯 黃昊宇

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 芯片
    +關(guān)注

    關(guān)注

    463

    文章

    54369

    瀏覽量

    468955
  • 嵌入式
    +關(guān)注

    關(guān)注

    5208

    文章

    20620

    瀏覽量

    336712
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    RZ/V2M:助力嵌入式設(shè)備的Vision AI高性能芯片

    概述 RZ/V2M芯片集成了AI專(zhuān)用加速器(DRP - AI)和4K兼容的圖像信號(hào)處理器(ISP),具備強(qiáng)大的實(shí)時(shí)人類(lèi)和
    的頭像 發(fā)表于 04-01 13:50 ?170次閱讀

    探索MAX78002:低功耗卷積神經(jīng)網(wǎng)絡(luò)加速器AI微控制

    探索MAX78002:低功耗卷積神經(jīng)網(wǎng)絡(luò)加速器AI微控制 在當(dāng)今的科技領(lǐng)域,人工智能(AI)的發(fā)展日新月異,對(duì)計(jì)算能力的需求也與日俱增。
    的頭像 發(fā)表于 03-27 17:10 ?138次閱讀

    邊緣 AI 加速的 Arm? Cortex??M0+ MCU 如何為電子產(chǎn)品注入更強(qiáng)智能

    關(guān)鍵要點(diǎn) · 集成神經(jīng)處理單元 (NPU) 的德 TI 微控制 (MCU) 可為邊緣 AI 提供硬件加速,幫助設(shè)計(jì)人員在功耗受限、成本敏感
    的頭像 發(fā)表于 03-25 09:22 ?248次閱讀
    邊緣 <b class='flag-5'>AI</b> <b class='flag-5'>加速</b>的 Arm? Cortex??M0+ MCU 如何為電子產(chǎn)品注入更強(qiáng)智能

    面向嵌入式部署的神經(jīng)網(wǎng)絡(luò)優(yōu)化:模型壓縮深度解析

    更多參數(shù)、每次推理需要更多算術(shù)運(yùn)算,使其難以部署在嵌入式硬件上。 對(duì)于嵌入式系統(tǒng)而言,資源極其有限。內(nèi)存空間受限,因此在桌面或云平臺(tái)上輕松運(yùn)行的模型可能無(wú)法放入芯片內(nèi)的閃存。此外,較高的運(yùn)算量(MACs/FLOPs)和推理延
    的頭像 發(fā)表于 02-24 15:37 ?5415次閱讀
    面向<b class='flag-5'>嵌入式</b>部署的<b class='flag-5'>神經(jīng)網(wǎng)絡(luò)</b>優(yōu)化:模型壓縮深度解析

    重磅合作!Quintauris 聯(lián)手 SiFive,加速 RISC-V 在嵌入式AI 領(lǐng)域落地

    (ADAS); 嵌入式平臺(tái)的 AI 與機(jī)器學(xué)習(xí)加速器; 工業(yè)物聯(lián)網(wǎng)與自動(dòng)系統(tǒng)(開(kāi)放標(biāo)準(zhǔn)架構(gòu)的優(yōu)勢(shì)能充分發(fā)揮)。 對(duì)咱們開(kāi)發(fā)者來(lái)說(shuō),這波合作最大的好處就是能拿到集成
    發(fā)表于 12-18 12:01

    NMSIS神經(jīng)網(wǎng)絡(luò)庫(kù)使用介紹

    NMSIS NN 軟件庫(kù)是一組高效的神經(jīng)網(wǎng)絡(luò)內(nèi)核,旨在最大限度地提高 Nuclei N 處理器內(nèi)核上的神經(jīng)網(wǎng)絡(luò)的性能并最??大限度地減少其內(nèi)存占用。 該庫(kù)分為多個(gè)功能,每個(gè)功能涵蓋特定類(lèi)別
    發(fā)表于 10-29 06:08

    SNN加速器內(nèi)部神經(jīng)元數(shù)據(jù)連接方式

    的數(shù)量級(jí),而且生物軸突的延遲和神經(jīng)元的時(shí)間常數(shù)比數(shù)字電路的傳播和轉(zhuǎn)換延遲要大得多,AER 的工作方式和神經(jīng)網(wǎng)絡(luò)的特點(diǎn)相吻合,所以受生物啟發(fā)的神經(jīng)形態(tài)處理器中的NoC或SNN
    發(fā)表于 10-24 07:34

    CICC2033神經(jīng)網(wǎng)絡(luò)部署相關(guān)操作

    讀取。接下來(lái)需要使用擴(kuò)展指令,完成神經(jīng)網(wǎng)絡(luò)的部署,此處僅對(duì)第一層卷積+池的部署進(jìn)行說(shuō)明,其余層與之類(lèi)似。 1.使用 Custom_Dtrans 指令,將權(quán)重?cái)?shù)據(jù)、輸入數(shù)據(jù)導(dǎo)入硬件加速器內(nèi)。對(duì)于權(quán)重
    發(fā)表于 10-20 08:00

    【「AI芯片:科技探索與AGI愿景」閱讀體驗(yàn)】+神經(jīng)形態(tài)計(jì)算、類(lèi)腦芯片

    AI芯片不僅包括深度學(xué)細(xì)AI加速器,還有另外一個(gè)主要列別:類(lèi)腦芯片。類(lèi)腦芯片是模擬人腦
    發(fā)表于 09-17 16:43

    神經(jīng)網(wǎng)絡(luò)的并行計(jì)算與加速技術(shù)

    問(wèn)題。因此,并行計(jì)算與加速技術(shù)在神經(jīng)網(wǎng)絡(luò)研究和應(yīng)用中變得至關(guān)重要,它們能夠顯著提升神經(jīng)網(wǎng)絡(luò)的性能和效率,滿足實(shí)際應(yīng)用中對(duì)快速響應(yīng)和大規(guī)模數(shù)據(jù)處理的需求。
    的頭像 發(fā)表于 09-17 13:31 ?1270次閱讀
    <b class='flag-5'>神經(jīng)網(wǎng)絡(luò)</b>的并行計(jì)算與<b class='flag-5'>加速</b>技術(shù)

    【「AI芯片:科技探索與AGI愿景」閱讀體驗(yàn)】+第二章 實(shí)現(xiàn)深度學(xué)習(xí)AI芯片的創(chuàng)新方法與架構(gòu)

    Transformer和視覺(jué)Transformer模型。 ViTA是一種高效數(shù)據(jù)流AI加速器,用于在邊緣設(shè)備上部署計(jì)算密集型視覺(jué)Transformer模型。 2、射頻神經(jīng)網(wǎng)絡(luò) 2.1線性射頻模擬
    發(fā)表于 09-12 17:30

    Andes晶心科技推出新一代深度學(xué)習(xí)加速器

    高效能、低功耗 32/64 位 RISC-V 處理器核與 AI 加速解決方案的領(lǐng)導(dǎo)供貨商—Andes晶心科技(Andes Technology)今日正式發(fā)表最新深度學(xué)習(xí)加速器 Ande
    的頭像 發(fā)表于 08-20 17:43 ?3095次閱讀

    MAX78000采用超低功耗卷積神經(jīng)網(wǎng)絡(luò)加速度計(jì)的人工智能微控制技術(shù)手冊(cè)

    的Maxim超低功耗微控制相結(jié)合。通過(guò)這款基于硬件的卷積神經(jīng)網(wǎng)絡(luò)(CNN)加速器,即使是電池供電的應(yīng)用也可執(zhí)行AI推理,同時(shí)功耗僅為微焦耳級(jí)。
    的頭像 發(fā)表于 05-08 11:42 ?1116次閱讀
    MAX78000采用超低功耗卷積<b class='flag-5'>神經(jīng)網(wǎng)絡(luò)</b><b class='flag-5'>加速</b>度計(jì)的人工智能微控制<b class='flag-5'>器</b>技術(shù)手冊(cè)

    MAX78002帶有低功耗卷積神經(jīng)網(wǎng)絡(luò)加速器的人工智能微控制技術(shù)手冊(cè)

    的Maxim超低功耗微控制相結(jié)合。通過(guò)這款基于硬件的卷積神經(jīng)網(wǎng)絡(luò)(CNN)加速器,即使是電池供電的應(yīng)用也可執(zhí)行AI推理,同時(shí)功耗僅為微焦耳級(jí)。
    的頭像 發(fā)表于 05-08 10:16 ?1002次閱讀
    MAX78002帶有低功耗卷積<b class='flag-5'>神經(jīng)網(wǎng)絡(luò)</b><b class='flag-5'>加速器</b>的人工智能微控制<b class='flag-5'>器</b>技術(shù)手冊(cè)

    ETAS全新的嵌入式AI解決方案

    “將訓(xùn)練后的AI神經(jīng)網(wǎng)絡(luò)模型,自動(dòng)化生成安全且高效的C代碼,用于嵌入式系統(tǒng)” ,近日ETAS攜全新的智能化工具Embedded AI Coder亮相2025上海國(guó)際車(chē)展。
    的頭像 發(fā)表于 05-07 11:43 ?2267次閱讀
    ETAS全新的<b class='flag-5'>嵌入式</b><b class='flag-5'>AI</b>解決方案