RT-DETR使用教程： RT-DETR使用教程
RT-DETR改进汇总贴：RT-DETR更新汇总贴
《Efficient Frequency Domain-based Transformers for High-Quality Image Deblurring》
一、 模块介绍
论文链接：https://arxiv.org/abs/2211.12250
代码链接：https://github.com/kkkls/FFTformer
论文速览：
本文提出了一种有效的方法，利用变压器的频域特性实现高质量的图像去模糊。我们的方法是由卷积定理驱动的，即两个信号在空间域中的相关或卷积相当于它们在频域中的元素积。这启发我们开发一种有效的基于频域的自注意力求解器（FSAS），通过元素积运算来估计缩放后的点积注意力，而不是在空间域中的矩阵乘法。此外，我们注意到，在变形金刚中简单地使用朴素前馈网络（FFN）并不能产生良好的去模糊结果。为了克服这个问题，我们提出了一种简单而有效的基于鉴别频域的FFN (DFFN)，其中我们在FFN中引入了一种基于联合摄影专家组（JPEG）压缩算法的门控机制，以判别应该保留哪些低频和高频特征信息以进行潜在的清晰图像恢复。我们将提出的FSAS和DFFN形成一个基于编码器和解码器架构的不对称网络，其中FSAS仅用于解码器模块以更好地去除图像模糊。
总结：文章提出一种用于图像恢复的模型，其中自注意力求解器FSAS可用于CV任务。
⭐⭐本文二创模块仅更新于付费群中，往期免费教程可看下方链接⭐⭐
RT-DETR更新汇总贴（含免费教程）文章浏览阅读264次。RT-DETR使用教程：缝合教程： RT-DETR中的yaml文件详解：labelimg使用教程：_rt-deterhttps://xy2668825911.blog.csdn.net/article/details/143696113 ⭐⭐付费项目简介：融合上百种顶刊顶会模块的YOLO项目仅119，此外含高性能自研模型与本文模块融合进行二创三创，最快1-2周完成小论文改进实验，代码每周更新（上周更新超20+二创模块），欢迎QQ：2668825911(点击下方小卡片扫二维码)加我了解。⭐⭐
⭐⭐本项目并非简单的模块插入，平均每个文章对应4-6个二创或自研融合模块，有效果即可写论文或三创。本文项目使用ultralytics框架，兼容YOLOv3\5\6\8\9\10\world与RT-DETR。⭐⭐
已进群小伙伴可以先用下文二创及自研模块在自己的数据集上测试，有效果再进行模块结构分析或继续改进。
二、二创融合模块
2.1 相关二创模块及所需参数
该模块可如图加入到HGBlock、RepNCSPELAN4、RepC3与自研等模块中，代码见群文件，所需参数如下。
HGBlock-变式模块 所需参数：(c1, cm, c2, k, n, lightconv, shortcut, act)
RepNCSPELAN4-变式模块 所需参数：(c1, c2, c3, c4, n)
RepC3-变式模块 所需参数：(c1, c2, n, e)
CCRI及变式模块 所需参数：(c1, c2, k, n, lightconv, shortcut, scale, e, act)
RepC4及变式模块 所需参数：(c1, c2, n, e)
2.2 更改yaml文件 （以自研模型加入为例）
yam文件解读：YOLO系列 “.yaml“文件解读_yolo yaml文件-CSDN博客
打开更改ultralytics/cfg/models/rt-detr路径下的rtdetr-l.yaml文件，替换原有模块。
# Ultralytics YOLO 🚀, AGPL-3.0 license
# RT-DETR-l object detection model with P3-P5 outputs. For details see https://docs.ultralytics.com/models/rtdetr
# ⭐⭐Powered by https://blog.csdn.net/StopAndGoyyy, 技术指导QQ:2668825911⭐⭐
# Parameters
nc: 80 # number of classes
scales: # model compound scaling constants, i.e. 'model=yolov8n-cls.yaml' will call yolov8-cls.yaml with scale 'n'
# [depth, width, max_channels]
l: [1.00, 1.00, 512]
# n: [ 0.33, 0.25, 1024 ]
# s: [ 0.33, 0.50, 1024 ]
# m: [ 0.67, 0.75, 768 ]
# l: [ 1.00, 1.00, 512 ]
# x: [ 1.00, 1.25, 512 ]
# ⭐⭐Powered by https://blog.csdn.net/StopAndGoyyy, 技术指导QQ:2668825911⭐⭐
backbone:
# [from, repeats, module, args]
- [-1, 1, Conv, [64, 3, 2]] # 0-P1/2
- [-1, 1, Conv, [128, 3, 2]] # 1-P2/4
- [-1, 2, CCRI, [128, 5, True, False]]
- [-1, 1, Conv, [256, 3, 2]] # 3-P3/8
- [-1, 4, RepNCSPELAN4_FSAS, [256, 256, 128, 1]]
- [-1, 1, Conv, [512, 3, 2]] # 5-P4/16
- [-1, 4, CCRI, [512, 5, True, False]]
- [-1, 1, Conv, [1024, 3, 2]] # 7-P5/32
- [-1, 2, CCRI, [1024, 3, True, False]]
head:
- [-1, 1, Conv, [256, 1, 1, None, 1, 1, False]] # 9 input_proj.2
- [-1, 1, AIFI, [1024, 8]]
- [-1, 1, Conv, [256, 1, 1]] # 11, Y5, lateral_convs.0
- [-1, 1, nn.Upsample, [None, 2, "nearest"]]
- [6, 1, Conv, [256, 1, 1, None, 1, 1, False]] # 13 input_proj.1
- [[-2, -1], 1, Concat, [1]]
- [-1, 2, RepC4, [256]] # 15, fpn_blocks.0
- [-1, 1, Conv, [256, 1, 1]] # 16, Y4, lateral_convs.1
- [-1, 1, nn.Upsample, [None, 2, "nearest"]]
- [4, 1, Conv, [256, 1, 1, None, 1, 1, False]] # 18 input_proj.0
- [[-2, -1], 1, Concat, [1]] # cat backbone P4
- [-1, 2, RepC4, [256]] # X3 (20), fpn_blocks.1
- [-1, 1, Conv, [256, 3, 2]] # 22, downsample_convs.0
- [[-1, 16], 1, Concat, [1]] # cat Y4
- [-1, 2, RepC4, [256]] # F4 (23), pan_blocks.0
- [-1, 1, Conv, [256, 3, 2]] # 24, downsample_convs.1
- [[-1, 11], 1, Concat, [1]] # cat Y5
- [-1, 2, RepC4, [256]] # F5 (26), pan_blocks.1
- [[20, 23, 26], 1, RTDETRDecoder, [nc]] # Detect(P3, P4, P5)
# ⭐⭐Powered by https://blog.csdn.net/StopAndGoyyy, 技术指导QQ:2668825911⭐⭐
2.2 修改train.py文件
创建Train_RT脚本用于训练。
from ultralytics.models import RTDETR
import os
os.environ['KMP_DUPLICATE_LIB_OK'] = 'True'
if __name__ == '__main__':
model = RTDETR(model='ultralytics/cfg/models/rt-detr/rtdetr-l.yaml')
# model.load('yolov8n.pt')
model.train(data='./data.yaml', epochs=2, batch=1, device='0', imgsz=640, workers=2, cache=False,
amp=True, mosaic=False, project='runs/train', name='exp')
在train.py脚本中填入修改好的yaml路径，运行即可训。
