模型部署出现问题

我把label.txt test.jpg和我自己量化的yolov5s.q.onnx放在同一级目录下 去运行onnxruntime_perf_test yolov5s.q.onnx -m times -r 100 -e spacemit报错说there is no test data for model

参考, onnxruntime/onnxruntime/test/perftest/README.md at main · microsoft/onnxruntime,以及 onnxruntime/onnxruntime/test/onnx/README.txt at main · microsoft/onnxruntime组织输入数据,长这样

我已经按照你所给的样式,我是用test_data_set_0和yolov5s.q.onnx在同一级目录下,我去运行命令板子会自动重启,我不知道是为什么?倒也不报错,就是重启,我把 - r 调成1依旧重启板子,求解答

你好,刚刚的问题已经解决了,是我给的电源功率不够,另外就是 请问我怎么在板子上看到推理的结果呢,这是只是在板子端看到推理时间,有没有相关的参考资料呢 麻烦了


你好,我在板子端的学习平台内根据onnxruntime部署模型的参考文献作为参考,去改写yolov5s.q.onnx的部署检测目标代码时运行显示检测不到目标,这是为什么,我的test中显示的物体在label中也表明了分类,如我所写的test_apple.jpg在label中有对应的apple,但是检测不到目标。

你好,还有个问题:就是我后续要连接工业相机,我有哪些教学资料可供我参考吗

可以看一下预处理过程是否正确,转为fp32->mean->std这些过程是不是合理,然后你可以自查一下,如果开启了spacemitexecutionprovider,那么关掉试试(关掉之后正常,就把这个问题反馈给我们),关掉之后仍然不正常,那就得考虑预处理或者量化了;当然,你可以直接换fp32未量化模型直接跑,用来检测自己的代码是不是正常;工业相机USB的话,opencv打开即可,其他方式得看这个相机的驱动。
补充一点,如果发现有bug,参考该链接操作,[bug]SpaceMITExecutionProvider推理bug - #2,来自 alexhuang



你好,我将自己训练好的best.q.onnx与labels.txt文件放在同级目录下,并用opencv调用打开相机,请问为什么显示检测不到目标,我的labels如下:
labels:

apple
banana
orange

你好你好,抱歉我的问题有点多,还希望你能耐心回复,我试过用best.q.onnx 去部署在板子上,opencv打开摄像头没问题,推理时间也显示在弹窗的左上角,但是就是没有检测框以及检测类别的出现,训练时的yaml和我的labels一致,已经检查过,现在我把q.onnx 模型转换为了kmodel模型,(我使用的是python to_kmodel.py --target k230 --model …/…/runs/train/exp3/weights/best.onnx --dataset …/test --input_width 640 --input_height 640 --ptq_option 0 命令),但是实际运行时终端打印出: module’spacemit_ort’ has no attribute’session’ 错误,我查看了spacemit-ort版本号为1.2.2,官方所给的推荐部署kmodel模型是稳定版本要求为2.x版本以上,请问我怎么升级spacemit-ort以保证我可以解决这些问题呢,希望你可以给我两种方案:(1)还是继续使用q.onnx量化模型去推理(2)使用komdel模型去推理,我要怎么升级我的spacemit-ort的版本,很抱歉一直这样打扰你,但是真的比较急,谢谢!



尝试更新到spacemit-ort.2.0.0 beta1版本, 软件包库 · archive / pypi · GitLab,注意,更新这个版本时,手动uninstall目前环境中的onnxruntime和spacemit-ort。仍无法解决,参考该过程模型部署出现问题 - #7,来自 alexhuang

你好,我的全局环境spacemit-ort 版本是1.2.2,我新建了虚拟环境按照你给我的下载命令来进行安装spacemit-ort的最新版本,我在全局变量pip show spacemit-ort可以打印出版本,pip show onnxruntime 显示没有该模块,但是运行时使用onnxruntime的话不报错,不会显示说没有模板onnxruntime,但是我在虚拟环境中安装spacemit-ort.2.0.0 beta1版本,pip show spacemit-ort可以打印出版本,同样pip show onnxruntime 显示没有该版本,但是运行同一个程序需要onnxruntime时会报错,显示没有module ‘onnxruntime’,我尝试单独使用pip install onnxruntime==1.16.3报错ERROR: Could not find a version that satisfies the requirement onnxruntime==1.16 .3 (from versions: none) ERROR: No matching distribution found for onnxruntime==1.16.3。


另外就是我不太理解你说的:”然后你可以自查一下,如果开启了spacemitexecutionprovider,那么关掉试试(关掉之后正常,就把这个问题反馈给我们),关掉之后仍然不正常,那就得考虑预处理或者量化了“,我要怎么自查呢,抱歉一直打扰你 :sob:

关闭spacemit硬件加速就是把代码修改成这样吗,我用cpu和spacemit硬件加速运行打在终端的结果是一样的,救命,另外我可能还需要补充的是,我修改好了代码,运行在终端的结果如下图

置信度好低啊,我不知道原因,我修改了conf_thres=0.25,但是一旦超过0.25就会检测不到物体,参数小于0.25的运行与上图一样,我这一步的问题出在哪里,求解答

可以冒昧地问一下,可以得到您的联系方式吗,我的联系方式为13346630099,如果可以的话还麻烦您加我的vx(无其他非法用途和商业用途,只是想得到您的技术答疑)