找回密码
 立即注册
搜索
热搜: 星闪 最新 活动
查看: 354|回复: 0

om模型快速部署转换指南

[复制链接]

9

主题

0

回帖

73

积分

注册会员

积分
73
发表于 2025-1-9 13:48:19 | 显示全部楼层 |阅读模式
1、首先准备好onnx或者caffe模型。

2、使用ATC工具转换,onnx快速命令为:atc --model=./xxxxx.onnx --framework=5 --output=./xxxx --image_list="images:./imagelist.txt" --insert_op_conf=./insert_op.cfg
其中insert_op_conf 里为aipp预处理算子,包括csc像素转换,归一化,减均值,crop,resize等操作,如果ATC转换成功,表明模型可以部署到SoC上,没有算子不支持问题。如有问题按log来检查相应的地方并修改。
3、上板推理,使用默认的sample来初始化资源等,可以快速上手。建议第一次使用图片的推理方式。
4、推理速度和理论值相差太大时,通过profiling工具可以查看每个算子的具体耗时,进行优化。(详细操作可以参考对应文档)
5、速度在预期内,精度不满足时,可以考虑amct量化,amct有更丰富的量化方式选择,以及重训框架。amct量化后的模型可以通过ATC转换为om后再次上板推理。(amct使用方式参考对应文档)
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|【淇诺科技】技术论坛 ( 粤ICP备14010465号-1|粤ICP备14010465号-1 )

GMT+8, 2026-4-2 20:59 , Processed in 0.127455 second(s), 19 queries .

Powered by Discuz! X3.5

© 2001-2024 Discuz! Team.

快速回复 返回顶部 返回列表