首先介绍下软硬件版本配置：

OpenVINO 2020.4版本

CPU ：Intel® Core™ i7-10750H CPU @ 2.60GHz

GPU：Intel® UHD Graphics 驱动：27.20.100.8783

模型：Darknet YOLOv3 和 YOLOv4-tiny

模型转换流程：Darknet→TensorFlow→OpenVINO

一. YOLOv3

CPU推理速度：
硬件：Intel(R) Core(TM) i7-10750H CPU @ 2.60GHz
模型：YOLOv3  416*416
FPS：2.5
耗时：360ms左右    

附一张OpenVINO推理时的图：

表示还没有OpenCV DNN在CPU上的速度快，粗略跑了下大概300ms左右。

核显推理速度：硬件：Intel(R) UHD Graphics
模型：YOLOv3  416*416
FPS：3.4
耗时：295ms左右    

二. YOLOv4-tiny

CPU推理速度：硬件：Intel(R) Core(TM) i7-10750H CPU @ 2.60GHz
模型：YOLOv4-tiny  416*416
FPS：19
耗时：52ms左右    

核显推理速度：硬件：Intel(R) UHD Graphics
模型：YOLOv4-tiny  416*416
FPS：20
耗时：49.5ms左右