TinyAnimal:Grove Vision AI上的動(dòng)物識(shí)別實(shí)踐
資料介紹
描述
問題
有許多項(xiàng)目專注于邊緣 AI/ML 的硬件。但在實(shí)際場(chǎng)景中,并沒有在產(chǎn)品之上的軟件側(cè)學(xué)習(xí)細(xì)節(jié)的顯著實(shí)踐來展現(xiàn),本文彌補(bǔ)了這一不足。
同時(shí),該項(xiàng)目在一個(gè)廉價(jià)的邊緣人工智能硬件上提供了完整的、可重現(xiàn)的EdgeML/TinyML動(dòng)物識(shí)別工作流程,這在已知的現(xiàn)有項(xiàng)目中是很少見的。
硬件

該項(xiàng)目的硬件是Seeed SenseCAP K1100/A1100中的 Grove Vision AI 模塊。官方商店有單機(jī)版的Grove Vision AI Module 。
Vision AI Module有一顆芯片:Himax HX6537-A。芯片上的mcu基于消費(fèi)者比較陌生的ARC架構(gòu)。主頻是400Mhz,也不高。但最有趣的是 HX6537-A,具有快速XY SDRAM 內(nèi)存架構(gòu)來加速 TinyML,如 tensorflow lite 模型推理。我們稍后會(huì)看到這款芯片的性能。
工作流程

上面的工作流程很常見,也很清晰。我們只討論一些有趣的需求:
- 該數(shù)據(jù)集是具有 9.6GB 圖像的公共數(shù)據(jù)集。
這避免了樣本太少或代表性不足的常見問題。
- 培訓(xùn)在當(dāng)?shù)赝瓿伞?/font>
這避免了樣本太少或代表性不足的常見問題。
- 數(shù)據(jù)收集和實(shí)時(shí)分析是通過邊緣數(shù)據(jù)庫(kù)JoinBase完成的。
與 PostgreSQL 或 TimescaleDB 等常見數(shù)據(jù)庫(kù)不同,JoinBase 直接接受 MQTT 消息。與云服務(wù)不同,JoinBase支持運(yùn)行在邊緣,可以在沒有網(wǎng)絡(luò)的環(huán)境下使用。最后,JoinBase 可免費(fèi)用于商業(yè)用途,這也有利于邊緣平臺(tái)的進(jìn)一步發(fā)展。
準(zhǔn)備數(shù)據(jù)集

目前,針對(duì)野生動(dòng)物或動(dòng)物的工作邊緣 AI 的公開研究并不多。使用了少數(shù)公開可用的動(dòng)物數(shù)據(jù)集之一——來自 Kaggle 的動(dòng)物檢測(cè)圖像數(shù)據(jù)集(稱為“animals-80”數(shù)據(jù)集)。它包含 9.6GB 圖像中的 80 只動(dòng)物,對(duì)于常見的動(dòng)物識(shí)別任務(wù)應(yīng)該足夠了。
準(zhǔn)備訓(xùn)練數(shù)據(jù)
animals-80 數(shù)據(jù)集的好處是它已經(jīng)被標(biāo)記了。但是原始標(biāo)簽格式不是Yolov5標(biāo)簽格式。已經(jīng)進(jìn)行了準(zhǔn)備工作。核心部分就是上圖的預(yù)處理函數(shù)。請(qǐng)稍后的代碼回購(gòu)以獲得更多信息。
火車
因?yàn)槲覀儧]有足夠的資源來對(duì)完整的 9.6GB 訓(xùn)練進(jìn)行完整的訓(xùn)練。因此,選擇了animals-80數(shù)據(jù)集的一個(gè)子集。
- 15-動(dòng)物子集訓(xùn)練

我們使用 24c/48T Xeon Platinum 8260 處理器使用上面從官方示例中獲得的命令進(jìn)行訓(xùn)練。
python3 train.py --img 192 --batch 32 --epochs 200 --data data/animal.yaml --cfg yolov5n6-xiao.yaml --weights yolov5n6-xiao.pt --name animals --cache --project runs/train2
然而,兩個(gè)小時(shí)后(是的,再次證明Don't use CPU to train even is a top Xeon SP),發(fā)現(xiàn)最后的識(shí)別效果很差。
主要指標(biāo)非常低:精度為 0.6,召回率和 mAP_0.5 都在 0.3 左右。
事實(shí)上,這個(gè)結(jié)果接近于不起作用。
- 4-動(dòng)物子集訓(xùn)練
讓我們將可識(shí)別的動(dòng)物種類減少為四種:蜘蛛、鴨子、喜鵲和蝴蝶,這當(dāng)然是郊區(qū)野外最常見的動(dòng)物。
注意,重新運(yùn)行準(zhǔn)備腳本以生成正確的data/animal.yaml.

主要指標(biāo)變得更好:精度約為 0.81,召回率和 mAP_0.5 約為 0.6。
我們將在后期推理試驗(yàn)和評(píng)估中回顧該模型的性能。可以只進(jìn)行二元分類:一種動(dòng)物和一種動(dòng)物。但在這個(gè)項(xiàng)目中,我更期待在更復(fù)雜的場(chǎng)景下評(píng)估識(shí)別效果。
- YoLov5官方預(yù)訓(xùn)練模型的 4 動(dòng)物子集訓(xùn)練
以上訓(xùn)練均由Seeed官方文檔推薦完成。預(yù)訓(xùn)練模型yolov5n6-xiao可能缺乏良好的泛化能力。在這個(gè)項(xiàng)目中,我們嘗試了一個(gè) YoLOv5 官方最小的預(yù)訓(xùn)練模型yolov5n6,看看是否有一些差異。

上面的結(jié)果是從官方yolov5n6模型中得到的epochs=150.結(jié)果很好。因?yàn)椋?/font>
主要指標(biāo):precision、recall 和 mAP_0, 5 均大于 0.9。在 ML 中,mAP_0.5 在 0.6 和 0.9 之間的差異在現(xiàn)實(shí)世界的檢測(cè)中是巨大而巨大的。
不幸的是,基于官方訓(xùn)練的最終模型yolov5n6接近4MB,而Grove AI模塊的約束模型大小不超過1MB。因此,我們不能使用任何此類更大的模型(已嘗試)。一些建議將在最后一節(jié)中討論。 推論

經(jīng)過以上訓(xùn)練,我們進(jìn)行圖片仿真,初步評(píng)估模型的效果。讓我們看例子。
以上是 Grove AI 模塊的輸出。分類指數(shù)在中間,置信度在旁邊。對(duì)應(yīng)指標(biāo)的動(dòng)物名稱可以在上面的訓(xùn)練圖中看到。
第一次和第二次檢測(cè)是正確的,第三次檢測(cè)是錯(cuò)誤的。第三張圖是一只喜鵲在天上飛,推理結(jié)果是蝴蝶。我們只是在后面的real-wprld評(píng)估中看到這個(gè)分類模型的影響。
真實(shí)世界評(píng)估
現(xiàn)實(shí)世界中的推理比實(shí)驗(yàn)室中的推理更具挑戰(zhàn)性。因?yàn)闇y(cè)試時(shí)所處的環(huán)境或測(cè)試者或被測(cè)對(duì)象的狀態(tài)都會(huì)對(duì)結(jié)果產(chǎn)生很大的影響。這就是我們?cè)诠ぷ髁鞒滩糠诌M(jìn)行規(guī)劃的原因。
我們通過TinyWild 項(xiàng)目中的郊野公園野生動(dòng)物調(diào)查進(jìn)行了真實(shí)世界的評(píng)估。執(zhí)行兩種類型的檢測(cè):
- 基于動(dòng)態(tài)視口(移動(dòng)相機(jī))的檢測(cè)

上圖是整個(gè)調(diào)查的分類統(tǒng)計(jì)(置信度>75)。相機(jī)移動(dòng)的時(shí)間很長(zhǎng)。因此,這是一個(gè)基于動(dòng)態(tài)視口(移動(dòng)相機(jī))的檢測(cè)。源于軟件邏輯的“未知”和空動(dòng)物已被排除在外。
基本結(jié)論是,對(duì)于個(gè)體識(shí)別來說,不是特別理想,但是收集到的定性信息是有效的。
Bufferfly在統(tǒng)計(jì)上相對(duì)突出,但沒有在公園里見過很多次的Magpie。
這似乎是喜鵲被識(shí)別為緩沖蠅,如上面推理部分的分析所示。它們的共同點(diǎn)是,它們經(jīng)常在空中飛行。三個(gè)真實(shí)世界的因素:移動(dòng)的相機(jī)、移動(dòng)的物體和低分辨率,對(duì)識(shí)別結(jié)果有很大的影響。
- 基于靜態(tài)視口(靜態(tài)相機(jī))的檢測(cè)
為減少移動(dòng)因素的影響,還在湖邊開展了野鴨(野鴨)專項(xiàng)觀測(cè)。
在上面的第一個(gè)捕獲中,我們前端 UI 中鴨子的數(shù)量(其中一個(gè)有趣的地方是 UI 中的動(dòng)態(tài)表是由 SQL 查詢驅(qū)動(dòng)的,請(qǐng)參閱我們未來項(xiàng)目中的更多信息)。突然,兩個(gè)鴨子游入鏡頭范圍。鴨子的數(shù)量已經(jīng)增加到13??紤]到原來的鴨子是被數(shù)過的,13是當(dāng)時(shí)精確的數(shù)。發(fā)現(xiàn)Grove AI 對(duì)附近的動(dòng)物檢測(cè)非常有效,就像我們?cè)诤吽龅哪菢樱寒?dāng)三只鴨子突然以相對(duì)靜態(tài)定位游入相機(jī)范圍時(shí),我們得到了三個(gè)計(jì)數(shù)。(注:在TinyWild項(xiàng)目中,我們說有四項(xiàng)計(jì)數(shù),但根據(jù)我們的錄音應(yīng)該更正為三項(xiàng)計(jì)數(shù)。)
建議
基于以上實(shí)踐,我們針對(duì)廉價(jià)邊緣人工智能硬件上的 EdgeML 或 TinyML給出以下建議:
- 嘗試靜態(tài)觀察
即觀察者不做大動(dòng)作。
- 檢測(cè)盡可能少的物體
例如,只做二元分類:人或沒有人,猴子或沒有猴子,鳥或沒有鳥。
- 使模型的主要指標(biāo)盡可能大
例如,precision > 0.8,recall 和 mAP_0.5 > 0.6。
- 盡可能提高識(shí)別準(zhǔn)確率(比如,更長(zhǎng)的訓(xùn)練時(shí)間)
廉價(jià)的邊緣 ML 硬件通常資源有限,例如 Grove AI 模塊的約束模型大小不超過 1MB,低于 yolov5 官方 yolov5n 預(yù)訓(xùn)練網(wǎng)絡(luò)訓(xùn)練的模型大小。發(fā)現(xiàn)較小的模型會(huì)顯著影響模型的主要指標(biāo)。
- AI智能眼鏡產(chǎn)業(yè)鏈分析 585次下載
- Vision_Board_schematic
- AI遇冷?2023從融資再看AI“芯”賽道? 2次下載
- PowerAI Vision:用于圖像和視頻的自動(dòng)AI
- 使用帶RGB背光的Grove LCD
- Grove IR通用遠(yuǎn)程項(xiàng)目
- 如何將Grove語(yǔ)音識(shí)別器模塊與Arduino板連接
- DB3962_FP_AI_VISION1數(shù)據(jù)手冊(cè)摘要
- Grove Feux/TrafficLights模塊
- GitHub入門與實(shí)踐 0次下載
- LabVIEW Vision圖像處理開發(fā)寶典電子版 0次下載
- 基于ADC121C021的Grove模數(shù)轉(zhuǎn)換器原理圖PCB使用教程.
- DIY:如何將把Intel Edison 與 Grove LCD變成智能型桌鐘資料下載
- 無線動(dòng)物識(shí)別和跟蹤管理系統(tǒng)的設(shè)計(jì)方案解析 0次下載
- 跟蹤運(yùn)動(dòng)物體軌跡算法的研究
- 在樹莓派5上開啟YOLO姿態(tài)估計(jì)識(shí)別之旅! 2.3k次閱讀
- 在樹莓派5上使用YOLO進(jìn)行物體和動(dòng)物識(shí)別-入門指南 1.8k次閱讀
- 基于LockAI視覺識(shí)別模塊:C++目標(biāo)檢測(cè) 697次閱讀
- 安信可AI人臉識(shí)別方案 792次閱讀
- 助盲環(huán)境感知裝置設(shè)計(jì)方案 1.2k次閱讀
- AMD Vitis? Libraries Vision L3 Isppipeline U50流程示例 2k次閱讀
- M-Vision在LinuxRT下使用OpenVINO加速AI推理 1.7k次閱讀
- Kubernetes上Java應(yīng)用的最佳實(shí)踐 1.2k次閱讀
- Grove Beginner Kit for Arduino入門套件試用指南 4k次閱讀
- AI行為識(shí)別分析技術(shù)在智慧養(yǎng)老行業(yè)的應(yīng)用 1.1w次閱讀
- 中控智慧科技識(shí)別終端AI702簡(jiǎn)介 6.5k次閱讀
- 大疆無人機(jī)借助微軟AI技術(shù)識(shí)別物體 5.4k次閱讀
- 追溯3D人臉識(shí)別背后的技術(shù)之源 6.4k次閱讀
- 攜程信息安全部在web攻擊識(shí)別方面的機(jī)器學(xué)習(xí)實(shí)踐之路 6k次閱讀
- 無線射頻識(shí)別技術(shù)在畜牧業(yè)動(dòng)物管理中的應(yīng)用案例分析 3.6k次閱讀
下載排行
本周
- 1新一代網(wǎng)絡(luò)可視化(NPB 2.0)
- 3.40 MB | 1次下載 | 免費(fèi)
- 2冷柜-電氣控制系統(tǒng)講解
- 13.68 MB | 1次下載 | 10 積分
- 3MDD品牌三極管MMBT3906數(shù)據(jù)手冊(cè)
- 2.33 MB | 次下載 | 免費(fèi)
- 4MDD品牌三極管S9012數(shù)據(jù)手冊(cè)
- 2.62 MB | 次下載 | 免費(fèi)
- 5LAT1218 如何選擇和設(shè)置外部晶體適配 BlueNRG-X
- 0.60 MB | 次下載 | 3 積分
- 6LAT1216 Blue NRG-1/2 系列芯片 Flash 操作與 BLE 事件的互斥處理
- 0.89 MB | 次下載 | 3 積分
- 7收音環(huán)繞擴(kuò)音機(jī) AVR-1507手冊(cè)
- 2.50 MB | 次下載 | 免費(fèi)
- 8MS1000TA 超聲波測(cè)量模擬前端芯片技術(shù)手冊(cè)
- 0.60 MB | 次下載 | 免費(fèi)
本月
- 1愛華AIWA HS-J202維修手冊(cè)
- 3.34 MB | 37次下載 | 免費(fèi)
- 2PC5502負(fù)載均流控制電路數(shù)據(jù)手冊(cè)
- 1.63 MB | 23次下載 | 免費(fèi)
- 3NB-IoT芯片廠商的資料說明
- 0.31 MB | 22次下載 | 1 積分
- 4UWB653Pro USB口測(cè)距通信定位模塊規(guī)格書
- 838.47 KB | 5次下載 | 免費(fèi)
- 5蘇泊爾DCL6907(即CHK-S007)單芯片電磁爐原理圖資料
- 0.04 MB | 4次下載 | 1 積分
- 6蘇泊爾DCL6909(即CHK-S009)單芯片電磁爐原理圖資料
- 0.08 MB | 2次下載 | 1 積分
- 7100W準(zhǔn)諧振反激式恒流電源電路圖資料
- 0.09 MB | 2次下載 | 1 積分
- 8FS8025B USB的PD和OC快充協(xié)議電壓誘騙控制器IC技術(shù)手冊(cè)
- 1.81 MB | 1次下載 | 免費(fèi)
總榜
- 1matlab軟件下載入口
- 未知 | 935137次下載 | 10 積分
- 2開源硬件-PMP21529.1-4 開關(guān)降壓/升壓雙向直流/直流轉(zhuǎn)換器 PCB layout 設(shè)計(jì)
- 1.48MB | 420064次下載 | 10 積分
- 3Altium DXP2002下載入口
- 未知 | 233089次下載 | 10 積分
- 4電路仿真軟件multisim 10.0免費(fèi)下載
- 340992 | 191439次下載 | 10 積分
- 5十天學(xué)會(huì)AVR單片機(jī)與C語(yǔ)言視頻教程 下載
- 158M | 183353次下載 | 10 積分
- 6labview8.5下載
- 未知 | 81602次下載 | 10 積分
- 7Keil工具M(jìn)DK-Arm免費(fèi)下載
- 0.02 MB | 73822次下載 | 10 積分
- 8LabVIEW 8.6下載
- 未知 | 65991次下載 | 10 積分
電子發(fā)燒友App





創(chuàng)作
發(fā)文章
發(fā)帖
提問
發(fā)資料
發(fā)視頻
上傳資料賺積分
評(píng)論