大数跨境
0
0

NeurIPS 2022|恶劣图像质量情况下的目标检测算法

NeurIPS 2022|恶劣图像质量情况下的目标检测算法 极市平台
2023-01-17
1
↑ 点击蓝字 关注极市平台
作者丨GlobalTrack
编辑丨极市平台

极市导读

 

本文对之前用于目标检测的对抗攻击算法TOG可能存在陷入局部最优和收敛慢的问题提出改进,提出一种基于动量ADAM变体的对抗样本生成算法。 >>加入极市CV技术交流群,走在计算机视觉的最前沿

  • 论文链接:https://openreview.net/pdf?id=se2oxj-6Nz
  • 源码链接:https://github.com/sunshangquan/ReForDe

简介

图像质量退化在户外捕捉的数据上是很常见的,已有很多算法尝试恢复原始数据。一般的图像复原任务目标是恢复人类视觉能识别更好的结构特征和物体。然而很多图像复原任务结果是用于下游视觉任务(目标检测,语义分割,自动驾驶等),然而这领域的研究关注较少。

目标检测任务已经取得了很大的成功。然而在常规的目标检测数据集中,恶劣的天气条件或较差的成像条件是一般避免或因为数据不足难以训练。一般图像训练得到的检测器在这些条件下性能严重降低。

一种解决方法是从干净图像(源域)到受污染图像(目标域)的域自适应算法。假定存在分布间存在分布转移。主要缺点是经过域自适应后的模型在源域上性能会变差。

另一种解决方法是联合训练视觉质量增强模块与目标检测模块。主要问题是尽管图像复原网络取得了人眼看上去令人满意的结果,检测器可能还是服从模型产生的分布而不是真实图像的分布。另外即使模型在干净图像和污染图像上一起训练,与域自适应类似,模型在干净图像上性能任然会下降。

本文对之前用于目标检测的对抗攻击算法TOG可能存在陷入局部最优和收敛慢的问题提出改进,提出一种基于动量ADAM变体的对抗样本生成算法。本文方法指出找到与原始清晰图像接近的伪标签数据可能会提升检测模型性能。本文方法通过有目标的对抗攻击方法在图像复原网络生成的图像添加一个小扰动使得到的复原图像更适合检测器。对抗样本由最小化检测器损失函数得到的梯度获得,并可以作为图像复原模型的伪GT。在权重微调阶段,只更新图像复原模型,目标检测模型保持不变。

方法

这里定义图像复原模型 及对应参数 和检测模型 及对应参数 。给定数据集包含三个部分:受污染的图像 ,对应的干净图像 和检测标注 。目标是训练图像复原模型 使复原后图像尽可能接近干净图像: ,另外目标检测在复原后图像上给出正确的检测结果:

不包含检测模型的图像复原任务的优化可以描述为:

使用对抗攻击的解释

与传统的图像复原优化不同的是本文目标是在可视化质量和复原图像检测性能上寻找一个平衡。则本文的优化可以视作为一个多任务优化问题,需要满足复原任务的约束同时减少目标检测任务的损失函数。该优化问题可以描述为:

是松弛变量控制与GT 允许的距离。由于约束的存在该优化问题不容易求解,这里使用对偶函数并加入对偶变量 求解:

根据对偶理论,将该优化转化为:

其中 ,进一步转化为:

是另一个松弛变量控制目标检测模型性能。考虑一个与 接近的中间变量 ,优化过程另一个表述为:

时,上述两个优化等价。

本文的优化可以进一步描述为:

当满足 该优化可以视作为一个有目标对抗攻击问题。

对抗样本生成

本文的对抗攻击算法借鉴针对目标检测的对抗攻击算法TOG( Adversarial objectness gradient attacks in real-time object detection systems)。TOG算法中的对抗攻击由sign函数与修建(clip)一阶损失函数的导数得到。

是扰动步长, 是允许的最大扰动尺度。本文指出TOG方法容易陷入局部最优或收敛慢,提出使用ADAM优化器优化对抗样本。ADAM可以自适应的通过二阶动量更新学斜率。

最终生成的伪GT用于微调图像复原模型。

实验

本文方法在VOC_fog_train和VOC_dark_train数据集上训练,在VOC_fog_test,RTTS数据集上测试在有雾图像性能。在VOC_dark_test,ExDark数据集上测试在低光照图像性能。

YOLOV3检测器与不同对抗攻击策略下在有雾图像实验结果:

可以看出干净图像和污染图像检测性能都有明显下降,YOLOV3在mAP指标上下降了15%。在加入少量扰动后的有目标对抗攻击后,YOLOV3性能有了明显提升。比如在RTTS数据集上从42.77%提升到78.50%。另外本文方法与TOG相比取得了更高的检测性能,大约可以获得2%到7%的提升。

本文方法可视化比较结果。三列分别是没有攻击的算法,TOG算法与本文算法。第一列是YOLOV3结果,第二列是Faster RCNN结果。

低光照条件检测结果:

类似地,本文方法在低光照图像上检测也能取得更高性能,同时复原能有接近精度。

公众号后台回复“新年快乐”获取极市兔年高清手机壁纸~

极市干货

技术干货损失函数技术总结及Pytorch使用示例深度学习有哪些trick?目标检测正负样本区分策略和平衡策略总结

实操教程GPU多卡并行训练总结(以pytorch为例)CUDA WarpReduce 学习笔记卷积神经网络压缩方法总结

极市原创作者激励计划 #


极市平台深耕CV开发者领域近5年,拥有一大批优质CV开发者受众,覆盖微信、知乎、B站、微博等多个渠道。通过极市平台,您的文章的观点和看法能分享至更多CV开发者,既能体现文章的价值,又能让文章在视觉圈内得到更大程度上的推广,并且极市还将给予优质的作者可观的稿酬!

我们欢迎领域内的各位来进行投稿或者是宣传自己/团队的工作,让知识成为最为流通的干货!

对于优质内容开发者,极市可推荐至国内优秀出版社合作出书,同时为开发者引荐行业大牛,组织个人分享交流会,推荐名企就业机会等。


投稿须知:
1.作者保证投稿作品为自己的原创作品。
2.极市平台尊重原作者署名权,并支付相应稿费。文章发布后,版权仍属于原作者。
3.原作者可以将文章发在其他平台的个人账号,但需要在文章顶部标明首发于极市平台

投稿方式:
添加小编微信Fengcall(微信号:fengcall19),备注:姓名-投稿

点击阅读原文进入CV社区

收获更多技术干货

【声明】内容源于网络
0
0
极市平台
为计算机视觉开发者提供全流程算法开发训练平台,以及大咖技术分享、社区交流、竞赛实践等丰富的内容与服务。
内容 8155
粉丝 0
极市平台 为计算机视觉开发者提供全流程算法开发训练平台,以及大咖技术分享、社区交流、竞赛实践等丰富的内容与服务。
总阅读5.7k
粉丝0
内容8.2k