首页 > 编程知识 正文

加权平均值(加权公式)

时间:2023-05-06 21:19:56 阅读:95732 作者:79

针对anchor-point检测算法的优化问题,论文提出了SAPD方法,对不同位置的anchor point使用不同的损耗权重,并且对不同的特征金字塔层进行加权联合训练,采取了大部分人为制定的规则,

来源:超级咖啡豆算法工程笔记公众号

论文:软件锚点对象检测

论文地址: https://arxiv.org/abs/1911.12448论文代码: https://github.com/xuannianz/sapdnotofficial

Introduction

Anchor-free检测方法分为anchor-point类和key-point类两种,相对于key-point类,anchor-point类有以下几点。 1 )更简单的网络结构2 )更高速的训练和推理速度3 )更有效地利用特征,但是anchor-point类的精度一般比key-point类低,所以论文中阻碍了anchor-point类的精度主要有以下两个亮点。

软加权锚点。 由于anchor-point算法在训练时一般将满足几何关系的点设定为正采样点,其损耗值的权重均为1,因此位置不正确的点偶尔会增加分类的可信度。 实际上,点的回归难度因位置而异,越靠近目标边缘的点,损耗值的权重越低,网络应该越集中于学习高质量的anchor point。 软选定参数级别。 anchor-point算法为每个训练选择特征金字塔的一个层的特征进行训练,而忽略其他层。 这在某种程度上是徒劳的。 其他层的响应不如选择的层强,但其特征分布应该与选择的层相似,因此可以对多个层赋予不同的权重并同时进行训练。

Detection Formulation with Anchor Points

论文首先介绍了粗略的anchor point目标检测方法的网络结构和训练方法。

Network architecture

网络包含主干网和特征金字塔,特征金字塔的每一层都包含检测头。 特征金字塔的层被标记为层数,层的特征地图大小被标记为输入的两倍的条纹。 的范围通常为3到7,检测头包含分类子网和回归子网。 子网都以5个卷积层开始,在各自的位置预测分类可靠度和4个偏移值。 每个偏移值都是从当前位置到目标边界的距离。

Supervision targets

目标的情况下,中心区域为,是定标因子。 如果目标被赋予金字塔层,且anchor point在内,则被认为是正的样本点,分类目标是回归目标归一化的距离,分别是从当前位置到目标的四个边界的距离

是归一化系数。 对于负的样本点,分类目标为背景(),定位目标为null,不需要学习。

Loss functions

每个网络输出点的维分类输出和四维位置回归输出分别使用focal loss和IoU loss进行学习。

p>

  网络整体损失为正负样本点之和除以正样本点数:

Soft Anchor-Point Detector

  SAPD的核心如图3所示,分别为Soft-Weighted Anchor Points以及Soft-Selected Pyramid Levels,用于调整anchor point权重以及使用特征金字塔的多层进行训练。

Soft-Weighted Anchor Points

False attention

  基于传统的训练策略,论文观察到部分anchor point输出的定位准确率较差,但是其分类置信度很高,如图4a所示,这会造成NMS过后没有保留定位最准确的预测结果。可能的原因在于,训练策略平等地对待中心区域内的anchor point。实际上,离目标边界越近的点,越难回归准确的目标位置,所以应该根据位置对不同的anchor point进行损失值的加权,让网络集中于优质的anchor point的学习,而不是勉强网络将那些较难回归的点也学习好。

Our solution

  为了解决上面提到的问题,论文提出soft-weighting的概念,为每个anchor point的损失值增加一个权重,权重由点位置和目标的边界决定,负样本点不参与位置回归的计算,所以直接设为1,完整的权值计算为:

  为反映点与目标边界远近的函数,论文设置为centerness函数

  为降低的幅度,具体的效果可以看图3,经过Soft-Weighted后,anchor point的权值变成了山峰状。

Soft-Selected Pyramid Levels

Feature selection

  anchor-free方法在每轮一般都会选择特征金字塔的其中一层进行训练,选择不同的层的效果完全不同。而论文通过可视化发现,不同层的激活区域实际上是类似的,如图5所示,这意味着不同层的特征可以协作预测。基于上面的发现,论文认为选择合适的金字塔层有两条准则:

选择需基于特征值,而非人工制定的规则。允许使用多层特征对每个目标进行训练,每层需对预测结果有显著的贡献。Our solution

  为了满足上面两条准则,论文提出使用特征选择网络来预测每层对于目标的权重,整体流程如图6所示,使用RoIAlign提取每层对应区域的特征,合并后输入到特征选择网络,然后输出权重向量。效果可看图3,金字塔每层的权值的山峰形状相似,但高度不同。需要注意,特征选择网络仅在训练阶段使用。

  特征选择网络的结构十分简单,如表1,与检测器一起训练,GT为one-hot向量,数值根据FSAF的最小损失值方法指定,具体可以看看之前发的关于FSAF文章。至此,目标通过权重与金字塔的每层进行了关联,结合前面的soft-weighting,anchor point的权值为:

  完整的模型的损失为加权的anchor point损失加上特征选择网络的损失:

Experiment

  各模块的对比实验。

  与SOTA算法进行对比。

Conclusion


  针对anchor-point检测算法的优化问题,论文提出了SAPD方法,对不同位置的anchor point使用不同的损失权重,并且对不同的特征金字塔层进行加权共同训练,去除了大部分人为制定的规则,更加遵循网络本身的权值进行训练。

   

如果本文对你有帮助,麻烦点个赞或在看呗~更多内容请关注 微信公众号【超级的咖啡豆的算法工程笔记】

work-life balance.

版权声明:该文观点仅代表作者本人。处理文章:请发送邮件至 三1五14八八95#扣扣.com 举报,一经查实,本站将立刻删除。