Mzz

Mzz

1个粉丝

2

问答

0

专栏

0

资料

Mzz  发布于  2024-06-07 09:30:42
采纳率 0%
2个问答
239

SS928中目标检测yolov5-yolov7中onnx添加后处理算子Decbbox时,svp_nnn在1280*1280 1280*1056分辨率对不上。

悬赏金¥ 30
已结题
   

在yolov5中model/yolo.py中添加rpn后处理算子,修改了
self.box =[DecBBox(y=self.anchors[0],num_anchors=95040,num_coords=4,num_classes=self.nc,gridW=240,gridH=132,imgW=1920,imgH=1056,useClassId=1,calc_mode=5,clip_bbox=1,share_loc =1), DecBBox(y=self.anchors[1],num_anchors=23760,num_coords=4,num_classes=self.nc,gridW=120,gridH=66,imgW=1920,imgH=1056,useClassId=1,calc_mode=5,clip_bbox=1,share_loc=1), DecBBox(y=self.anchors[2],num_anchors=5940,num_coords=4,num_classes=self.nc,gridW=60,gridH=33,imgW=1920,imgH=1056,useClassId=1,calc_mode=5,clip_bbox=1,share_loc=1)]所对应的参数,执行export.py转换onnx后,发现640640分辨率下的结果是对的,12801280 1280*1056分辨率下总有目标识别不出来,有时候很多漏检,想问下如何修改,我的处理流程是否正确

我来回答
回答4个
时间排序
认可量排序

Mzz

1个粉丝

2

问答

0

专栏

0

资料

Mzz 2024-06-07 09:33:21
认可0


修改rpn图片,针对不同分辨率修改了对应参数,但是识别结果不完全对

wby

0个粉丝

1

问答

2

专栏

0

资料

wby 2024-06-08 23:39:11
认可0

不知道你是不是用的ATC工具进行的模型转换,可以尝试重新使用ATC工具进行模型转换吗,这次加上op.cfg文件试试。

在模型.onnx模型文件下新建op.cfg

~/touch op.cfg
vim op.cfg

加入下列内容:

aipp_op {
aipp_mode : static
related_input_rank : 0
max_src_image_size : 4915200
support_rotation : false
input_format : YUV420SP_U8
src_image_size_w : 1280
src_image_size_h: 1280
cpadding_value: 0.0
crop : false
load_start_pos_w : 0
load_start_pos_h : 0
crop_size_w : 0
crop_size_h : 0
resize : false
resize_output_w : 640
resize_output_h : 640
padding : false
left_padding_size : 0
right_padding_size : 0
top_padding_size : 0
bottom_padding_size : 0
padding_value : 0
csc_switch : true
rbuv_swap_switch : false
ax_swap_switch : false
matrix_r0c0 : 256
matrix_r0c1 : 0
matrix_r0c2 : 0
matrix_r1c0 : 0
matrix_r1c1 : 0
matrix_r1c2 : 0
matrix_r2c0 : 0
matrix_r2c1 : 0
matrix_r2c2 : 0
output_bias_0 : 0
output_bias_1 : 0
output_bias_2 : 0
input_bias_0 : 0
input_bias_1 : 0
input_bias_2 : 0
mean_chn_0 : 0
min_chn_0 : 0.0

主要关注max_src_image_size,src_image_size_w,resize_output_h参数。如果你的分辨率是12801280, max_src_image_size为12801280*3。

然后再进行模型转化:

atc --model=you_model.onnx --framework=5 --output=my_model --soc_version="OPTG" --output_type=FP32 --insert_op_conf=./op.cfg

希望对你有用

Mzz
Mzz   回复   wby  2024-06-11 08:53:27
0

兄弟,感谢!我用的另外一个核,你这是NNN核,aipp预处理我也加上了,结果就是不太对。

相麻

0个粉丝

0

问答

0

专栏

0

资料

相麻 2024-06-14 11:08:50
认可0

Filter(300.0.9) 300调大一点试试,调成3000或者更大一点,后面sort和nms也跟着调大一下,置信度阈值调小一点。

或将文件直接拖到这里
悬赏:
E币
网盘
* 网盘链接:
* 提取码:
悬赏:
E币

Markdown 语法

  • 加粗**内容**
  • 斜体*内容*
  • 删除线~~内容~~
  • 引用> 引用内容
  • 代码`代码`
  • 代码块```编程语言↵代码```
  • 链接[链接标题](url)
  • 无序列表- 内容
  • 有序列表1. 内容
  • 缩进内容
  • 图片![alt](url)
+ 添加网盘链接/附件

Markdown 语法

  • 加粗**内容**
  • 斜体*内容*
  • 删除线~~内容~~
  • 引用> 引用内容
  • 代码`代码`
  • 代码块```编程语言↵代码```
  • 链接[链接标题](url)
  • 无序列表- 内容
  • 有序列表1. 内容
  • 缩进内容
  • 图片![alt](url)
举报反馈

举报类型

  • 内容涉黄/赌/毒
  • 内容侵权/抄袭
  • 政治相关
  • 涉嫌广告
  • 侮辱谩骂
  • 其他

详细说明

易百纳技术社区