?請(qǐng)先下載本文的范例代碼倉(cāng),并搭建好YOLOv8的OpenVINO推理程序開發(fā)環(huán)境。
git clone https://gitee.com/ppov-nuc/yolov8_openvino.git
導(dǎo)出YOLOv8-seg實(shí)例分割OpenVINO IR模型
YOLOv8-seg的實(shí)例分割模型有5種,在COCO數(shù)據(jù)集完成訓(xùn)練,如下表所示。
?首先使用命令:yolo export model=yolov8n-seg.pt format=onnx,完成yolov8n-seg.onnx模型導(dǎo)出,如下圖所示。
?然后使用命令:mo -m yolov8n-seg.onnx --compress_to_fp16,優(yōu)化并導(dǎo)出FP16精度的OpenVINO IR格式模型,如下圖所示。
?
?用benchmark_app測(cè)試YOLOv8-seg實(shí)例分割模型的推理計(jì)算性能
benchmark_app是OpenVINOTM工具套件自帶的AI模型推理計(jì)算性能測(cè)試工具,可以指定在不同的計(jì)算設(shè)備上,在同步或異步模式下,測(cè)試出不帶前后處理的純AI模型推理計(jì)算性能。
使用命令:benchmark_app -m yolov8n-seg.xml -d GPU,獲得yolov8n-seg.xml模型在AI愛(ài)克斯開發(fā)板的集成顯卡上的異步推理計(jì)算性能,如下圖所示。
?
?使用OpenVINO Python API編寫YOLOv8-seg實(shí)例分割模型推理程序
用Netron打開yolov8n-seg.onnx可以看到模型的輸入和輸出,跟YOLOv5-seg模型的輸入輸出定義很類似:-
輸入節(jié)點(diǎn)名字:“images”;數(shù)據(jù):float32[1,3,640,640]。
-
輸出節(jié)點(diǎn)1的名字:“output0”;數(shù)據(jù):float32[1,116,8400]。其中116的前84個(gè)字段跟 YOLOv8目標(biāo)檢測(cè)模型輸出定義完全一致,即cx,cy,w,h和80類的分?jǐn)?shù);后32個(gè)字段用于計(jì)算掩膜數(shù)據(jù)。
-
輸出節(jié)點(diǎn)2的名字:“output1”;數(shù)據(jù):float32[1,32,160,160]。output0后32個(gè)字段與output1的數(shù)據(jù)做矩陣乘法后得到的結(jié)果,即為對(duì)應(yīng)目標(biāo)的掩膜數(shù)據(jù)。
基于OpenVINO Python API的YOLOv8-seg實(shí)例分割模型范例程序yolov8_seg_ov_sync_infer_demo.py的核心源代碼,如下所示:# Initialize the VideoCapture
cap =cv2.VideoCapture("store-aisle-detection.mp4")
# Initialize YOLOv5 Instance Segmentator
model_path ="yolov8n-seg.xml"
device_name ="GPU"
yoloseg =YOLOSeg(model_path, device_name, conf_thres=0.3, iou_thres=0.3)
whilecap.isOpened():
# Read frame from the video
ret, frame =cap.read()
ifnotret:
break
# Update object localizer
start =time.time()
boxes, scores, class_ids, masks =yoloseg(frame)
# postprocess and draw masks
combined_img =yoloseg.draw_masks(frame)
end =time.time()
# show FPS
fps =(1/(end -start))
fps_label ="Throughput: %.2fFPS"%fps
cv2.putText(combined_img, fps_label, (10, 25), cv2.FONT_HERSHEY_SIMPLEX, 1, (0, 0, 255), 2)
# show ALL
cv2.imshow("YOLOv8 Segmentation OpenVINO inference Demo", combined_img)
# Press Any key stop
ifcv2.waitKey(1) >-1:
print("finished by user")
break
運(yùn)行結(jié)果,如下圖所示:
結(jié) 論
AI愛(ài)克斯開發(fā)板借助N5105處理器的集成顯卡(24個(gè)執(zhí)行單元)和OpenVINO,可以在YOLOv8-seg的實(shí)例分割模型上獲得相當(dāng)不錯(cuò)的性能。通過(guò)異步處理和AsyncInferQueue,還能進(jìn)一步提升計(jì)算設(shè)備的利用率,提高AI推理程序的吞吐量。下一篇將繼續(xù)介紹在《在AI愛(ài)克斯開發(fā)板上用OpenVINO加速YOLOv8-pose姿態(tài)檢測(cè)模型》。
審核編輯 :李倩-
開發(fā)板
+關(guān)注
關(guān)注
26文章
6271瀏覽量
117626 -
模型
+關(guān)注
關(guān)注
1文章
3735瀏覽量
52066 -
目標(biāo)檢測(cè)
+關(guān)注
關(guān)注
0文章
233瀏覽量
16480
原文標(biāo)題:?在AI愛(ài)克斯開發(fā)板上用OpenVINO加速YOLOv8-seg實(shí)例分割模型
文章出處:【微信號(hào):SDNLAB,微信公眾號(hào):SDNLAB】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
OpenVINO C#如何運(yùn)行YOLO11實(shí)例分割模型
在C++中使用OpenVINO工具包部署YOLOv5-Seg模型
【愛(ài)芯派 Pro 開發(fā)板試用體驗(yàn)】yolov8模型轉(zhuǎn)換
在英特爾獨(dú)立顯卡上部署YOLOv5 v7.0版實(shí)時(shí)實(shí)例分割模型
TensorRT 8.6 C++開發(fā)環(huán)境配置與YOLOv8實(shí)例分割推理演示
在AI愛(ài)克斯開發(fā)板上用OpenVINO?加速YOLOv8分類模型
自訓(xùn)練Pytorch模型使用OpenVINO?優(yōu)化并部署在AI愛(ài)克斯開發(fā)板
在英特爾開發(fā)者套件上用OpenVINO? 2023.0加速YOLOv8-Pose姿態(tài)估計(jì)模型
用OpenVINO? C++ API編寫YOLOv8-Seg實(shí)例分割模型推理程序
基于OpenVINO在英特爾開發(fā)套件上實(shí)現(xiàn)眼部追蹤
基于哪吒開發(fā)板部署YOLOv8模型
?在AI愛(ài)克斯開發(fā)板上用OpenVINO加速YOLOv8-seg實(shí)例分割模型
評(píng)論