如果你最近在改 YOLO 系列的检测模型应该会有一个很明显的感受网上能搜到的注意力模块实在太多了。SE、CBAM、ECA、CoordAtt、EMA名字一个比一个响亮介绍都说是即插即用、涨点明显。但真正把它们加到自己的数据集里很多人会发现提升越来越小甚至完全没有动静。原因其实不复杂——大多数通用注意力模块只是在通道或空间维度做特征重标定并没有引入“图像梯度方向”这种带有明确物理意义的局部结构信息。而 YOLO26 在低光检测、密集小目标等场景里最缺的恰恰是对弱纹理和边缘结构的敏感度。这篇文章要讲的 DHOGSA 模块来自 AAAI 2026 论文 HOGformer。从设计理念来看它和常见注意力模块有一个明显不同它把传统 HOG 特征中“梯度方向统计”的核心思路以动态的方式引入自注意力机制。换句话说它属于知识增强型注意力用梯度信息告诉模型哪里是结构边界、哪里是弱纹理区域。读完这篇文章你会理解 DHOGSA 的原理拿到一份可运行的参考实现并学会如何把它接入 YOLO26同时避开设配置、训练、部署过程中的常见坑。文章会按“为什么改 → 原理拆解 → 环境准备 → 代码集成 → 训练验证 → 排错建议”的顺序展开代码基于 PyTorch 和 ultralytics 框架内容偏工程实践不是纯论文复述。1. 这篇文章真正要解决的问题做 YOLO26 改进时最常见的问题不是“模块不够多”而是“模块选择没有依据”。注意力模块的本质是给特征图重新分配权重。SE 在通道维度做全局池化然后学习通道权重CBAM 在通道和空间两个维度分别生成权重EMA 用分组结构做多尺度加权。这些模块在干净、明亮、目标尺度均匀的数据集上往往都能带来稳定提升。但真实场景往往不是这样。低光环境下的夜间监控、雾天检测、遥感小目标、密集排队的人群都有一个共同特点边缘模糊、纹理弱、目标与背景对比度低。普通注意力模块在这种特征上能获取的信息非常有限因为它的权重生成过程依赖的是全局统计量或多尺度卷积而不是具有明确物理含义的“局部梯度方向变化”。DHOGSA 的设计思路恰好瞄准了这个问题。它借鉴 HOG方向梯度直方图的思想把每个局部区域的梯度幅值和方向统计信息动态编码成注意力机制中的偏置项。梯度本身就是对边缘、轮廓、纹理最直接的描述在低光或模糊场景中即使 RGB 纹理信息退化梯度信息往往仍然保留较强的结构线索。这就是 DHOGSA 在 YOLO26 改进中的核心价值。这篇文章适合谁来读如果你正在做 YOLO26 改进、需要给自己的检测任务加注意力模块或者目前被低光、小目标、密集场景的检测精度卡住建议认真看下去。文章的代码以 PyTorch 和 ultralytics 框架为例展开即使你用的是其他目标检测框架DHOGSA 模块本身也可以迁移到自己的网络结构里。2. HOGformer 与 DHOGSA从手工特征到动态注意力2.1 HOG 特征解决什么问题HOG全称 Histogram of Oriented Gradients是计算机视觉中非常经典的手工特征描述子。它把一个图像窗口划分成若干小的 cell在每个 cell 内部统计各像素梯度方向的角度直方图然后对 block 做归一化。HOG 在行人检测时代统治了很长一段时间核心原因在于它抓住了“目标轮廓”这一稳定信息。通俗地说HOG 不管物体颜色是什么、纹理亮不亮只看局部梯度方向是否一致。一条腿、一只手臂、一辆车的边缘在 HOG 特征里都会形成特定的方向分布。这个特性决定了它对光照变化不敏感因为归一化之后亮度整体偏移的影响会被削弱。换句话说HOG 是一种“看结构不看颜色”的描述方式。2.2 HOGformer 做了什么HOGformer 是 AAAI 2026 上提出的一个架构。从模块名称和设计意图来看它做的最重要的一件事是把 HOG 这样的传统手工特征与现代 Transformer 中的注意力机制结合起来。过去 HOG 特征需要人工设计 cell 大小、bin 数量、block 重叠方式一旦确定就是固定的而深度网络里的注意力权重是动态计算的可以根据输入变化。HOGformer 的关键点在于“动态”两个字。它不再像传统 HOG 那样使用固定方向分箱而是让网络根据输入特征动态估计局部区域的梯度分布再用这个分布去调制注意力权重。这样既保留了 HOG 对结构和边缘的敏感性又避免了手工特征无法端到端学习的问题。2.3 DHOGSA 名称拆解DHOGSA 是 HOGformer 中提出的“动态梯度感知注意力”把它展开来看DDynamic动态指梯度感知不是固定模板而是随输入变化的。HOG方向梯度直方图指模块借鉴了 HOG 的梯度方向统计思想。SASelf-Attention自注意力指模块最终通过自注意力机制完成特征交互。所以 DHOGSA 可以理解为一个具有动态梯度感知能力的自注意力模块。它首先计算特征图的梯度信息形成类似 HOG 的梯度感知描述然后将这个描述作为注意力计算的偏置或条件输入让注意力更关注结构边缘、弱纹理区域和局部轮廓。从应用价值看DHOGSA 和普通注意力最大的差异点在于普通注意力学到的权重很难解释而 DHOGSA 的权重生成过程带有明确的物理先验梯度方向统计本身就有清晰的视觉意义。这种先验在训练数据有限、光照条件差、目标尺度差异大的场景中尤其有价值。3. DHOGSA 模块原理解拆解3.1 动态梯度感知如果直接把原始图像输入网络模型看到的是 RGB 三通道值。在低光环境下RGB 值整体偏低普通卷积学到的特征会明显退化。但如果我们计算图像的梯度幅值和方向会发现即使亮度降低边缘处梯度方向的变化规律仍然稳定。DHOGSA 的动态梯度感知就是要让网络在特征图级别做一次“梯度统计”。具体来说模块会通过可学习的卷积层提取每个位置的梯度描述再经过空间聚合形成类似 HOG 方向直方图的分布。与经典 HOG 不同的是这里的卷积核和聚合方式都是可学习的网络会根据任务自动调整梯度感知的方式。3.2 注意力偏置的作用自注意力的标准计算方式是对 Q 和 K 做点积得到所有位置之间的相似度然后经过 softmax 变成权重再对 V 加权求和。DHOGSA 的改进点是在 softmax 之前把梯度感知信息作为偏置加到注意力分数上。用公式表达就是Attention(Q,K,V) softmax(QK^T / sqrt(d_k) B_grad) * V其中 B_grad 就是由动态梯度感知分支生成的空间偏置。这个偏置的作用非常直接让注意力在计算关联性时额外考虑“该位置是否处于强梯度或边缘区域”从而在低对比度场景中优先关注结构信息。3.3 与传统注意力模块的对比模块注意力维度是否利用梯度结构适用场景SE通道否通用轻量通道加权CBAM通道 空间否通用即插即用EMA多尺度分组否中等目标、复杂场景DHOGSA空间 自注意力是低光、模糊、弱纹理、小目标从表里可以看出DHOGSA 最独特的地方是“是否利用梯度结构”这一列。传统注意力模块更强调通道、空间、多尺度的特征重标定而 DHOGSA 把梯度的物理先验引入注意力计算这是本质差异。4. 环境准备与代码结构4.1 运行环境从社区下载或克隆 YOLO26 源码后建议用 conda 创建独立环境避免依赖冲突。以 ultralytics 框架为例环境准备大致如下conda create -n yolo26 python3.10 -y conda activate yolo26 pip install torch torchvision --index-url https://download.pytorch.org/whl/cu118 pip install ultralytics这里没有把 PyTorch 版本写死因为不同机器的 CUDA 版本不一样。安装前先执行nvidia-smi查看驱动支持的 CUDA 版本再选择对应的 PyTorch 安装命令。CPU 环境也能跑通训练流程但速度会慢很多建议至少准备一张显存 8GB 以上的显卡。4.2 代码组织方式在 ultralytics 风格的项目里新模块通常放在ultralytics/nn/modules/目录下然后在__init__.py中统一导出再在tasks.py的parse_model中注册。这是一套通用流程无论你用的是 YOLOv8、YOLO11 还是 YOLO26只要基于 ultralytics 框架逻辑都差不多。5. 在 YOLO26 中集成 DHOGSA5.1 第一步定义 DHOGSA 模块新建文件ultralytics/nn/modules/dhogsa.py写入下面的参考实现。代码的目标是把“动态梯度感知”这一思想落到 PyTorch 代码上核心逻辑分为三部分通道统一、梯度感知偏置生成、多头自注意力计算。# 文件路径ultralytics/nn/modules/dhogsa.py import torch import torch.nn as nn class BaseConv(nn.Module): 标准 Conv-BN-SiLU 模块保证模块自包含不依赖外部实现。 def __init__(self, c1, c2, k1, s1, pNone): super().__init__() self.conv nn.Conv2d(c1, c2, k, s, p if p is not None else k // 2, biasFalse) self.bn nn.BatchNorm2d(c2) self.act nn.SiLU(inplaceTrue) def forward(self, x): return self.act(self.bn(self.conv(x))) class DHOGSA(nn.Module): DHOGSA: Dynamic HOG-guided Self-Attention参考实现 思路 1. 先用 1x1 卷积统一通道数 2. 通过可学习的梯度提取分支生成梯度感知偏置 3. 在自注意力 softmax 之前把偏置加入注意力分数引导模型关注结构边缘。 def __init__(self, c1, c2, num_heads4, grad_kernel3, biasTrue): super().__init__() self.conv1 BaseConv(c1, c2, 1) self.norm nn.GroupNorm(1, c2) self.num_heads num_heads self.head_dim c2 // num_heads self.scale self.head_dim ** -0.5 self.qkv BaseConv(c2, c2 * 3, 1) self.proj BaseConv(c2, c2, 1) # 动态梯度感知分支用两层可学习卷积模拟“梯度提取 方向统计” self.grad_branch nn.Sequential( BaseConv(c2, c2, grad_kernel, 1, grad_kernel // 2), BaseConv(c2, c2, grad_kernel, 1, grad_kernel // 2), ) self.grad_bias nn.Conv2d(c2, 1, 1, biasbias) def forward(self, x): B, C, H, W x.shape x self.conv1(x) x self.norm(x) qkv self.qkv(x).reshape(B, 3, self.num_heads, self.head_dim, H * W) q, k, v qkv[0], qkv[1], qkv[2] # q/k/v: (B, heads, seq_len, head_dim) attn (q k.transpose(-1, -2)) * self.scale # attn: (B, heads, seq_len, seq_len) grad self.grad_branch(x) grad_bias self.grad_bias(grad).reshape(B, 1, H * W, 1) attn attn grad_bias attn attn.softmax(dim-1) out attn v # (B, heads, seq_len, head_dim) out out.transpose(1, 2).contiguous().reshape(B, H, W, C) out out.permute(0, 3, 1, 2).contiguous() out self.proj(out) return out这段代码有几个关键点需要解释。第一qkv用 1x1 卷积统一生成 Q、K、V避免额外空间下采样维持特征图分辨率这对小目标检测很重要。第二梯度感知分支使用了两个可学习的 3x3 卷积。经典 HOG 用固定的 Sobel 算子计算梯度这里改成可学习卷积可以让网络根据任务自适应调整“梯度”的定义这就体现了模块的“动态”属性。第三grad_bias把梯度感知结果压缩到单通道偏置并通过reshape(B, 1, H*W, 1)广播到每一个 head 的注意力矩阵上。实现上很轻量但效果上相当于给每个 query 位置增加了空间先验。5.2 第二步注册模块在ultralytics/nn/modules/__init__.py中添加导出# 文件路径ultralytics/nn/modules/__init__.py from .dhogsa import DHOGSA然后在ultralytics/nn/tasks.py的parse_model中补充注册逻辑# 文件路径ultralytics/nn/tasks.py片段 from ultralytics.nn.modules import DHOGSA if m in {DHOGSA}: c1, c2 ch[f], args[0] if c2 ! c1: c2 make_divisible(min(c2, max_channels) * width, 8) args [c1, c2, *args[1:]]这段代码的含义是当 yaml 中出现 DHOGSA 时从当前层的输入通道数ch[f]和目标通道数args[0]构造模块并按照全局宽度系数width对齐通道数保证整个模型 scale 规则一致。5.3 第三步修改 yaml 配置下面是一个 YOLO26 配置片段示例。实际工程中层数、通道数、C2f 重复次数要以你手中的 YOLO26 结构为准这里主要展示插入位置。# YOLO26-DHOGSA 配置示例片段 nc: 80 depth_multiple: 0.33 width_multiple: 0.50 backbone: - [-1, 1, Conv, [64, 3, 2]] # 0-P1/2 - [-1, 1, Conv, [128, 3, 2]] # 1-P2/4 - [-1, 3, C2f, [128, True]] - [-1, 1, Conv, [256, 3, 2]] # 3-P3/8 - [-1, 6, C2f, [256, True]] - [-1, 1, DHOGSA, [256]] # 在P3特征层插入DHOGSA - [-1, 1, Conv, [512, 3, 2]] # 5-P4/16为什么在 P3 层插入因为 P3 层对应输入图像的 1/8 分辨率是中小目标检测的主要特征层。DHOGSA 的空间注意力特性在这个尺度上能更好发挥作用。如果你主要做低光大目标检测也可以把 DHOGSA 放在 P4 或 P5 层效果需要根据任务验证。5.4 第四步启动训练配置好 yaml 后直接启动训练yolo train datacustom.yaml modelyolo26-dhogsa.yaml epochs150 imgsz640 batch16如果使用自定义数据集务必先确认custom.yaml中 nc 类别数、train 和 val 路径是否正确。建议第一次跑的时候先用小数据集、小 epoch 验证代码通路yolo train datacustom.yaml modelyolo26-dhogsa.yaml epochs3 imgsz640 batch4这样可以在几分钟内发现模块定义、解析、显存占用等问题而不是等训练到第 50 个 epoch 才发现配置错误。6. 运行结果与效果验证6.1 训练指标怎么看训练结束后打开runs/train/下对应 exp 目录的results.csv重点关注val_box_mAP50-95、val_box_mAP50 YOLO26改进新思路：DHOGSA动态梯度感知注意力模块详解
如果你最近在改 YOLO 系列的检测模型应该会有一个很明显的感受网上能搜到的注意力模块实在太多了。SE、CBAM、ECA、CoordAtt、EMA名字一个比一个响亮介绍都说是即插即用、涨点明显。但真正把它们加到自己的数据集里很多人会发现提升越来越小甚至完全没有动静。原因其实不复杂——大多数通用注意力模块只是在通道或空间维度做特征重标定并没有引入“图像梯度方向”这种带有明确物理意义的局部结构信息。而 YOLO26 在低光检测、密集小目标等场景里最缺的恰恰是对弱纹理和边缘结构的敏感度。这篇文章要讲的 DHOGSA 模块来自 AAAI 2026 论文 HOGformer。从设计理念来看它和常见注意力模块有一个明显不同它把传统 HOG 特征中“梯度方向统计”的核心思路以动态的方式引入自注意力机制。换句话说它属于知识增强型注意力用梯度信息告诉模型哪里是结构边界、哪里是弱纹理区域。读完这篇文章你会理解 DHOGSA 的原理拿到一份可运行的参考实现并学会如何把它接入 YOLO26同时避开设配置、训练、部署过程中的常见坑。文章会按“为什么改 → 原理拆解 → 环境准备 → 代码集成 → 训练验证 → 排错建议”的顺序展开代码基于 PyTorch 和 ultralytics 框架内容偏工程实践不是纯论文复述。1. 这篇文章真正要解决的问题做 YOLO26 改进时最常见的问题不是“模块不够多”而是“模块选择没有依据”。注意力模块的本质是给特征图重新分配权重。SE 在通道维度做全局池化然后学习通道权重CBAM 在通道和空间两个维度分别生成权重EMA 用分组结构做多尺度加权。这些模块在干净、明亮、目标尺度均匀的数据集上往往都能带来稳定提升。但真实场景往往不是这样。低光环境下的夜间监控、雾天检测、遥感小目标、密集排队的人群都有一个共同特点边缘模糊、纹理弱、目标与背景对比度低。普通注意力模块在这种特征上能获取的信息非常有限因为它的权重生成过程依赖的是全局统计量或多尺度卷积而不是具有明确物理含义的“局部梯度方向变化”。DHOGSA 的设计思路恰好瞄准了这个问题。它借鉴 HOG方向梯度直方图的思想把每个局部区域的梯度幅值和方向统计信息动态编码成注意力机制中的偏置项。梯度本身就是对边缘、轮廓、纹理最直接的描述在低光或模糊场景中即使 RGB 纹理信息退化梯度信息往往仍然保留较强的结构线索。这就是 DHOGSA 在 YOLO26 改进中的核心价值。这篇文章适合谁来读如果你正在做 YOLO26 改进、需要给自己的检测任务加注意力模块或者目前被低光、小目标、密集场景的检测精度卡住建议认真看下去。文章的代码以 PyTorch 和 ultralytics 框架为例展开即使你用的是其他目标检测框架DHOGSA 模块本身也可以迁移到自己的网络结构里。2. HOGformer 与 DHOGSA从手工特征到动态注意力2.1 HOG 特征解决什么问题HOG全称 Histogram of Oriented Gradients是计算机视觉中非常经典的手工特征描述子。它把一个图像窗口划分成若干小的 cell在每个 cell 内部统计各像素梯度方向的角度直方图然后对 block 做归一化。HOG 在行人检测时代统治了很长一段时间核心原因在于它抓住了“目标轮廓”这一稳定信息。通俗地说HOG 不管物体颜色是什么、纹理亮不亮只看局部梯度方向是否一致。一条腿、一只手臂、一辆车的边缘在 HOG 特征里都会形成特定的方向分布。这个特性决定了它对光照变化不敏感因为归一化之后亮度整体偏移的影响会被削弱。换句话说HOG 是一种“看结构不看颜色”的描述方式。2.2 HOGformer 做了什么HOGformer 是 AAAI 2026 上提出的一个架构。从模块名称和设计意图来看它做的最重要的一件事是把 HOG 这样的传统手工特征与现代 Transformer 中的注意力机制结合起来。过去 HOG 特征需要人工设计 cell 大小、bin 数量、block 重叠方式一旦确定就是固定的而深度网络里的注意力权重是动态计算的可以根据输入变化。HOGformer 的关键点在于“动态”两个字。它不再像传统 HOG 那样使用固定方向分箱而是让网络根据输入特征动态估计局部区域的梯度分布再用这个分布去调制注意力权重。这样既保留了 HOG 对结构和边缘的敏感性又避免了手工特征无法端到端学习的问题。2.3 DHOGSA 名称拆解DHOGSA 是 HOGformer 中提出的“动态梯度感知注意力”把它展开来看DDynamic动态指梯度感知不是固定模板而是随输入变化的。HOG方向梯度直方图指模块借鉴了 HOG 的梯度方向统计思想。SASelf-Attention自注意力指模块最终通过自注意力机制完成特征交互。所以 DHOGSA 可以理解为一个具有动态梯度感知能力的自注意力模块。它首先计算特征图的梯度信息形成类似 HOG 的梯度感知描述然后将这个描述作为注意力计算的偏置或条件输入让注意力更关注结构边缘、弱纹理区域和局部轮廓。从应用价值看DHOGSA 和普通注意力最大的差异点在于普通注意力学到的权重很难解释而 DHOGSA 的权重生成过程带有明确的物理先验梯度方向统计本身就有清晰的视觉意义。这种先验在训练数据有限、光照条件差、目标尺度差异大的场景中尤其有价值。3. DHOGSA 模块原理解拆解3.1 动态梯度感知如果直接把原始图像输入网络模型看到的是 RGB 三通道值。在低光环境下RGB 值整体偏低普通卷积学到的特征会明显退化。但如果我们计算图像的梯度幅值和方向会发现即使亮度降低边缘处梯度方向的变化规律仍然稳定。DHOGSA 的动态梯度感知就是要让网络在特征图级别做一次“梯度统计”。具体来说模块会通过可学习的卷积层提取每个位置的梯度描述再经过空间聚合形成类似 HOG 方向直方图的分布。与经典 HOG 不同的是这里的卷积核和聚合方式都是可学习的网络会根据任务自动调整梯度感知的方式。3.2 注意力偏置的作用自注意力的标准计算方式是对 Q 和 K 做点积得到所有位置之间的相似度然后经过 softmax 变成权重再对 V 加权求和。DHOGSA 的改进点是在 softmax 之前把梯度感知信息作为偏置加到注意力分数上。用公式表达就是Attention(Q,K,V) softmax(QK^T / sqrt(d_k) B_grad) * V其中 B_grad 就是由动态梯度感知分支生成的空间偏置。这个偏置的作用非常直接让注意力在计算关联性时额外考虑“该位置是否处于强梯度或边缘区域”从而在低对比度场景中优先关注结构信息。3.3 与传统注意力模块的对比模块注意力维度是否利用梯度结构适用场景SE通道否通用轻量通道加权CBAM通道 空间否通用即插即用EMA多尺度分组否中等目标、复杂场景DHOGSA空间 自注意力是低光、模糊、弱纹理、小目标从表里可以看出DHOGSA 最独特的地方是“是否利用梯度结构”这一列。传统注意力模块更强调通道、空间、多尺度的特征重标定而 DHOGSA 把梯度的物理先验引入注意力计算这是本质差异。4. 环境准备与代码结构4.1 运行环境从社区下载或克隆 YOLO26 源码后建议用 conda 创建独立环境避免依赖冲突。以 ultralytics 框架为例环境准备大致如下conda create -n yolo26 python3.10 -y conda activate yolo26 pip install torch torchvision --index-url https://download.pytorch.org/whl/cu118 pip install ultralytics这里没有把 PyTorch 版本写死因为不同机器的 CUDA 版本不一样。安装前先执行nvidia-smi查看驱动支持的 CUDA 版本再选择对应的 PyTorch 安装命令。CPU 环境也能跑通训练流程但速度会慢很多建议至少准备一张显存 8GB 以上的显卡。4.2 代码组织方式在 ultralytics 风格的项目里新模块通常放在ultralytics/nn/modules/目录下然后在__init__.py中统一导出再在tasks.py的parse_model中注册。这是一套通用流程无论你用的是 YOLOv8、YOLO11 还是 YOLO26只要基于 ultralytics 框架逻辑都差不多。5. 在 YOLO26 中集成 DHOGSA5.1 第一步定义 DHOGSA 模块新建文件ultralytics/nn/modules/dhogsa.py写入下面的参考实现。代码的目标是把“动态梯度感知”这一思想落到 PyTorch 代码上核心逻辑分为三部分通道统一、梯度感知偏置生成、多头自注意力计算。# 文件路径ultralytics/nn/modules/dhogsa.py import torch import torch.nn as nn class BaseConv(nn.Module): 标准 Conv-BN-SiLU 模块保证模块自包含不依赖外部实现。 def __init__(self, c1, c2, k1, s1, pNone): super().__init__() self.conv nn.Conv2d(c1, c2, k, s, p if p is not None else k // 2, biasFalse) self.bn nn.BatchNorm2d(c2) self.act nn.SiLU(inplaceTrue) def forward(self, x): return self.act(self.bn(self.conv(x))) class DHOGSA(nn.Module): DHOGSA: Dynamic HOG-guided Self-Attention参考实现 思路 1. 先用 1x1 卷积统一通道数 2. 通过可学习的梯度提取分支生成梯度感知偏置 3. 在自注意力 softmax 之前把偏置加入注意力分数引导模型关注结构边缘。 def __init__(self, c1, c2, num_heads4, grad_kernel3, biasTrue): super().__init__() self.conv1 BaseConv(c1, c2, 1) self.norm nn.GroupNorm(1, c2) self.num_heads num_heads self.head_dim c2 // num_heads self.scale self.head_dim ** -0.5 self.qkv BaseConv(c2, c2 * 3, 1) self.proj BaseConv(c2, c2, 1) # 动态梯度感知分支用两层可学习卷积模拟“梯度提取 方向统计” self.grad_branch nn.Sequential( BaseConv(c2, c2, grad_kernel, 1, grad_kernel // 2), BaseConv(c2, c2, grad_kernel, 1, grad_kernel // 2), ) self.grad_bias nn.Conv2d(c2, 1, 1, biasbias) def forward(self, x): B, C, H, W x.shape x self.conv1(x) x self.norm(x) qkv self.qkv(x).reshape(B, 3, self.num_heads, self.head_dim, H * W) q, k, v qkv[0], qkv[1], qkv[2] # q/k/v: (B, heads, seq_len, head_dim) attn (q k.transpose(-1, -2)) * self.scale # attn: (B, heads, seq_len, seq_len) grad self.grad_branch(x) grad_bias self.grad_bias(grad).reshape(B, 1, H * W, 1) attn attn grad_bias attn attn.softmax(dim-1) out attn v # (B, heads, seq_len, head_dim) out out.transpose(1, 2).contiguous().reshape(B, H, W, C) out out.permute(0, 3, 1, 2).contiguous() out self.proj(out) return out这段代码有几个关键点需要解释。第一qkv用 1x1 卷积统一生成 Q、K、V避免额外空间下采样维持特征图分辨率这对小目标检测很重要。第二梯度感知分支使用了两个可学习的 3x3 卷积。经典 HOG 用固定的 Sobel 算子计算梯度这里改成可学习卷积可以让网络根据任务自适应调整“梯度”的定义这就体现了模块的“动态”属性。第三grad_bias把梯度感知结果压缩到单通道偏置并通过reshape(B, 1, H*W, 1)广播到每一个 head 的注意力矩阵上。实现上很轻量但效果上相当于给每个 query 位置增加了空间先验。5.2 第二步注册模块在ultralytics/nn/modules/__init__.py中添加导出# 文件路径ultralytics/nn/modules/__init__.py from .dhogsa import DHOGSA然后在ultralytics/nn/tasks.py的parse_model中补充注册逻辑# 文件路径ultralytics/nn/tasks.py片段 from ultralytics.nn.modules import DHOGSA if m in {DHOGSA}: c1, c2 ch[f], args[0] if c2 ! c1: c2 make_divisible(min(c2, max_channels) * width, 8) args [c1, c2, *args[1:]]这段代码的含义是当 yaml 中出现 DHOGSA 时从当前层的输入通道数ch[f]和目标通道数args[0]构造模块并按照全局宽度系数width对齐通道数保证整个模型 scale 规则一致。5.3 第三步修改 yaml 配置下面是一个 YOLO26 配置片段示例。实际工程中层数、通道数、C2f 重复次数要以你手中的 YOLO26 结构为准这里主要展示插入位置。# YOLO26-DHOGSA 配置示例片段 nc: 80 depth_multiple: 0.33 width_multiple: 0.50 backbone: - [-1, 1, Conv, [64, 3, 2]] # 0-P1/2 - [-1, 1, Conv, [128, 3, 2]] # 1-P2/4 - [-1, 3, C2f, [128, True]] - [-1, 1, Conv, [256, 3, 2]] # 3-P3/8 - [-1, 6, C2f, [256, True]] - [-1, 1, DHOGSA, [256]] # 在P3特征层插入DHOGSA - [-1, 1, Conv, [512, 3, 2]] # 5-P4/16为什么在 P3 层插入因为 P3 层对应输入图像的 1/8 分辨率是中小目标检测的主要特征层。DHOGSA 的空间注意力特性在这个尺度上能更好发挥作用。如果你主要做低光大目标检测也可以把 DHOGSA 放在 P4 或 P5 层效果需要根据任务验证。5.4 第四步启动训练配置好 yaml 后直接启动训练yolo train datacustom.yaml modelyolo26-dhogsa.yaml epochs150 imgsz640 batch16如果使用自定义数据集务必先确认custom.yaml中 nc 类别数、train 和 val 路径是否正确。建议第一次跑的时候先用小数据集、小 epoch 验证代码通路yolo train datacustom.yaml modelyolo26-dhogsa.yaml epochs3 imgsz640 batch4这样可以在几分钟内发现模块定义、解析、显存占用等问题而不是等训练到第 50 个 epoch 才发现配置错误。6. 运行结果与效果验证6.1 训练指标怎么看训练结束后打开runs/train/下对应 exp 目录的results.csv重点关注val_box_mAP50-95、val_box_mAP50