找回密码
 注册
11月份电巢直播计划
查看: 78|回复: 0

1.86ms超高速铁轨缺陷检测!我给PP-YOLO打99.99分!

[复制链接]

该用户从未签到

发表于 2020-11-20 13:37 | 显示全部楼层 |阅读模式

EDA365欢迎您登录!

您需要 登录 才可以下载或查看,没有帐号?注册

x
本帖最后由 fish1352 于 2020-11-20 13:39 编辑
* a& E+ {$ p5 T5 p* O
0 z) j, M/ H) w3 S6 q! X 2 P2 _1 b" B' U  ]. l

' a8 o; v* G4 e$ x6 u8 m 近70年来,我国交通基础设施极速发展。根据2018年末国家统计局发布的最新数据,中国高铁总里程已突破3万公里,营业总里程达到14.6万公里,覆盖了大约99%的20万人口以上的城市,居世界首位。
5 S+ p9 H) R8 p% e" F  E' ]! P" m6 ~# k0 J) A# J
中国高铁极大地方便了全国人民的工作及生活,铁路也因此在我国有 “国民经济大动脉” 之称。而铁路安全,作为关系到国家和人民生命财产的大事,一直受到国家和铁道部的高度重视。5 C% V0 i' H9 p

5 [  u4 T) v" c% J 要想将铁路运输中的各种治安事故降到最低,就需要铁路管理中心的巡线员、检修员对铁路路基、路轨、岔道、信号灯、铁路桥梁等基本路况进行全面巡查。3 V7 u3 b5 G# ~9 Z7 s
4 |  x* {# C1 f& T& Y
传统的铁路巡检,一般会由专门的巡检队伍 24 小时不间断的在万里轨道上进行巡视。巡检人员常年风吹日晒、跋山涉水,除了工作环境非常艰苦,还存在因巡检人员身体状况不稳定、判定标准不唯一等因素,造成巡查质量无法保证。
: f( V' V. G* c4 f- X  i3 v4 M7 j& i3 U
近些年,将无人机、机器人等搭载智能视觉识别系统的智能设备投放到自动化巡检的相关技术越来越成熟,逐渐成为铁路管理单位积极推动的首选方案。
) X. z7 i. N- |& r; q, b
- {% p, Q  J; m# D# n. \ 智能化铁路缺陷检测系统在搭建落地过程中,面临诸多困难:
3 y% Y8 K. n6 @8 w3 D0 f- H* `
9 _* b; B4 Q9 m4 M0 m6 x0 m# ^( T ! c- G& r/ T& a+ C+ w/ [  _8 r7 M
  • 缺陷种类多,形状、出现位置、面积等均不规则,且极其细微,传统算法准确率低。  
  • 单张图片检测速度要求高,终端部署硬件性能及成本需要权衡考虑。  
  • 每类缺陷数据样本少,模型训练基础素材有限。
    ! E7 u4 p0 s' p# }. s2 @
0 J; s) F* \. Z; b; \
2 f) f  J2 G# a& b+ `* k) B
基于飞桨自研算法
$ S0 }6 R( Q6 z6 O# n
4 {  Y: c# w/ A$ e& V1 n& P3 G7 F; x PP-YOLO的解决方案
  R& P$ h9 ]( u0 v- O
, J- `4 {- P3 W. } 目标检测技术作为计算机视觉的主要方向之一,应用非常广泛。除了可以直接进行目标检测,同时也是人脸检测、行人检测、文字检测、关键点检测、实例分割等复杂应用的基础技术。% |2 Y% F: f$ \( {
; A  C! L! L% B/ c" t; C
而说到目标检测算法,就不得不提 YOLO 系列。YOLO 作为单阶段模型的代表之一,相较于更早提出的两阶段目标检测算法,不仅拥有更快的预测速度,对于背景图像(非物体)中的部分被包含在候选框的情况误检率更低,还拥有更好的算法通用性。以上这些特性,都使 YOLO 系列模型成为工业目标检测场景首选的算法。
& L( h4 a% v* _3 G( x# n+ |4 z3 _# r+ D
* |, R2 b5 j; [3 E9 {* J. g8 r( u, o( F PP-YOLO 是飞桨团队在 YOLOv3 的基础上又做了一系列深度优化。通过添加尽量不引入额外计算量的 trick 来提升 YOLOv3 模型的精度,最终在 COCO 数据集上达到了 45.9% 的精度;同时在 V100 单卡上达到了 72.9 FPS;在开启 TensorRT 下,FP16 的推理速度达到 155.6FPS。这使得 PP-YOLO 在精度和速度上达到了最佳平衡,全面超越原生 YOLOv4 模型,成为产业界最佳的目标检测模型
! {7 I0 i2 I/ A9 B) i$ ]; X4 W& R$ ?9 d# h" O
7 _" o. a. U- G3 L; K% ^  f

9 A9 Y0 w# w3 r" C 在铁轨缺陷检测场景下,使用 PP-YOLO 对铁轨进行缺陷检测,检测的精度和速度均达到了比较好的效果。& i. L3 K+ R: O% Z
0 T1 G7 O4 A* G: Z
在一张 Tesla-V100 的显卡上进行训练,输入尺寸为 608*608,获得了 99.13 的 mAP,在 trt_fp16 中实现了 1.86ms/帧的检测速度。精度和速度双双满足实际的生产需求。
" @' t, W# L( L' L2 w" l% N8 M' R- Z2 x! c: C* m% d0 X
" G$ \/ R9 j% c3 H, V9 h& l5 A

) ^/ m0 R& E' |9 b) E8 T! \1 g5 w7 z
7 b/ e6 k% J7 t  c% G
7 N$ Q0 G8 M2 c3 P; V* e
" ?# t3 Z) g# s+ X0 o

' G( s; X3 X7 P# S2 n 方案详细解读
/ G; C+ c$ a8 m3 v* N- R5 F+ O
7 c) j, X' V5 H 为了兼顾 YOLOv3 模型的精度和预测速度,打造精度速度高性价比的工业实用模型,PP-YOLO 使用了精度速度更优的带可变形卷积的 ResNet50vd 模型(ResNet50vd-DCN),预测速度提升 20%,精度也有小量提升。
. t/ V" p$ S+ g( C) W1 C2 ?4 y& f4 s( o. C; y8 c: J  `* j
在此基础上,加入 Coord Conv 和 SPP 等运算量很小,但能有效提升特征提取效率的 trick。" {& [" J5 ]' o; i7 F. g4 x
8 o. z* V+ u+ m% V$ B, j
另外,还引入了基于 IoU 优化检测框定位精度的 IoU Loss,IoU Aware 等方法。这些方法基本不引入额外的计算,但能有效地提高输出预测框的定位精度,有效解决 YOLOv3 模型定位精度不高的问题。6 d' s# h0 {1 @1 M( x3 s9 q8 a
$ k1 J2 u. j7 t4 U# J+ C+ S
在预测框后处理上,引入 Grid Sensitive 使得预测框学习和解码更加稳定,同时 Matrix NMS 能更加快速有效地完成预测框的非极大值抑制,更高效地保留高质量的预测框,滤除低质量的预测框。) w; {; p: g5 G/ I! \$ y% ^9 D. o; t

# ?* L+ b2 m3 ^; g9 a% g/ q 在训练过程中,PP-YOLO 模型使用 DropBlock 这种更适用于目标检测的 dropout 方法来减小过拟合,同时使用 EMA(指数滑动平均)的训练方法,即使用梯度历史加权平均值来平滑掉难样本或者误差样本带来的梯度抖动,让训练过程更加平滑稳定。
& y- z& w% e% F- Z! K2 I1 S3 q8 ?3 H7 _( X6 Q( p! k. |# M
通过上述策略对 YOLOv3 模型进行深度优化,PP-YOLO 模型在精度和速度上都大幅优于 YOLOv3 模型,甚至优于更新的 YOLOv4 模型。因此 PP-YOLO 可以说是一个非常适用于工业项目的高性价比实用性模型。/ R6 i$ c+ {3 q0 Y; C
% A+ G8 I3 g! ?" W' L+ q$ P- m6 i
更多关于 PP-YOLO 模型的介绍和文档,可见
2 U- w% m- H% L8 s4 h0 J: r
" q  e6 M' w+ ~( E  A7 w3 ^ https://github.com/PaddlePaddle/PaddleDetection/blob/release/0.4/configs/PP-YOLO/README_cn.md
7 ^5 _7 k% O! S% n( B
' e+ |+ X/ u: h5 N4 W 针对铁轨缺陷检测这一场景,PPYOLO 的能力得到了很好的发挥,具体如下所述。6 R$ f3 Y3 c4 M2 n) l2 ^- {
! J! k: T# c! ~
1. 更高的定位精度 -- 引入 IoU Aware 等方法9 ?; `5 P8 C+ \/ L; h; u! V
" A/ G6 s9 d- D; u" n: L7 p
PP-YOLO 的一个特点就是定位精度高。采用了 IoU Loss ,IoU Aware ,Matrix NMS 等提升定位精度的方法,将训练好的模型在验证集上进行验证时,预测框和真实框基本重合。
3 x! A/ }3 N: Q! A: k. V9 }0 n9 B* D0 x$ t$ p  a6 l
因此,在实际的测试过程中,不仅很精准地将缺陷识别出来,而且预测框的位置十分贴近缺陷,可以利用预测库的长度和宽度实现缺陷的拟合。不仅利用 PP-YOLO 实现了缺陷的定位,也给缺陷的定量分析提供了依据。* o9 `" |% ^9 u. e3 d

  s- h7 \6 C5 L; u

5 O( Z  d& ?# m# A" g' O+ I1 W
& G/ x8 a5 H1 K  d+ Z 从图中可以看出,预测框紧贴缺陷。最终根据实际的缺陷像素和预测框的大小进行拟合,以预测框的内切椭圆面积计算缺陷的大小。) N+ H' ^0 K$ Y( f9 Z

4 h- r9 [/ _% z& i8 o 2. 更多尺度范围的检测 -- 融合 SPP
  K5 c: M) s* f; }( e: d# k. ^5 l! B' ?5 C
Yolov3 引入了多尺度检测,兼容了对大小目标的识别。但是工业场景的缺陷往往非常小,只有几十个像素。PP-YOLO 在 YOLOv3 的基础上融合了 SPP,进一步提升模型对不同尺度的特征提取能力,更好地应用于缺陷检测。$ }& F1 A: {& h9 h7 \, l9 M

$ e: Z% |, V, z0 \4 }( g9 I 下图中的缺陷,大的缺陷将近 40mm,而小缺陷只有 2mm。  R0 L7 u: d4 \2 C& @+ _
* ^, o3 X) s# ~) ], l
, P& N3 ~, y7 V- L5 ^

) h$ E6 d. E6 ]* i6 x1 K* b3 l6 t 如何实现大小缺陷均可被检测出,PP-YOLO 交出了满意的答卷。  j7 p$ b& x: B) |
1 N3 ~" F4 ^' S; b

: v5 t+ D- s$ }+ `0 t( `
" `9 V" n; ]' l 3. 使用数据增强策略提升样本丰富度
# K/ G0 P# ?" a: x/ [9 F* D  o) a& t+ t0 i3 R5 V, o. Z
产业中缺陷数据样本少,是产业普遍面临的困难。而数据增强策略是最常见、最容易实现的缓解数据样本少问题的方法。
3 i" Q) H1 h# G; G2 G8 @' D: j
, q: `- d+ g* P4 ? 在本项目中使用镜像转置、模糊处理、亮度变化、图像合成等多种手段进行数据增强。
: Q/ u5 B8 o) p5 M5 E+ M3 s( B
; L0 r: ]" R7 k3 `

$ d" D& I0 p0 W( ?4 u3 ]' S3 K- Y% i% j' C7 S4 T
4. 在 Window 上实现高性能部署1 u& t  \2 R' k) u8 ?

/ e/ M( n6 n% p2 S 最终模型部署系统为 Windows10 系统,计算设备为 1080ti。整体解决方案思路是利用 C# 调用 C++dll 的方式:
* v' J7 p4 O2 ]. t4 c1 [8 a) P- G# W$ q" {5 u* G
0 Q7 `& q! Y' ]8 D8 P9 B  X
  • C# UI 界面从工业相机直接获取二进制流传文件传给 C++ 的 dll;, \- g3 p: C8 c, w" I3 g: D
      
  • C++ 将二进制流文件转成 Mat 数组,进而实现预测;
    : C) W( t  K. |3 c" [  
  • 预测的结果列表返回给 C#,C# 将结果画在图上。9 @  Y- \; d6 H$ @; S& M
    5 C1 k- M! K1 H! p4 O4 |
利用 Paddle-Tensor-RT 高性能 C++ 预测库,实现了高效率部署。最终实现单帧预测最快速度为 1.38ms。* n7 t/ t; h- x( p
' E% G& ~9 K) N+ s, `' r

9 {0 ]: F( D8 [2 I
# K4 b3 x5 n1 i  m 除了在 Windows 上的部署,PP-YOLO 根据不同的硬件平台提供了多种部署方式。例如:
! O  {& V9 K9 g: z- P$ h& s7 M, I/ W4 h" M" d
* ^" Y% L9 }% k3 i0 F
  • Nvidia-Jetson 设备部署4 m' z5 P, w8 C+ f2 `
      
  • Android/Ios/ 树莓派部署  V/ T* U2 [: f6 i5 R' B( a
      
  • 英特尔设备上通过 OpenVINO 实现加速部署
    8 f7 Z, O& O- [  N' I2 a3 H + W9 b: ], R5 G0 P% s1 @
至此 PaddleDetection 的 PP-YOLO 就顺利部署在快速行驶的铁轨检测车上。此方案可以精准、实时地检测铁轨的缺陷,保障铁路及乘客的安全。7 a- L3 n4 z( I3 u! H
2 d; E" z9 Z# }# X7 m
搭载 PP-YOLO 检测算法的自动铁轨检测车,极大的减少了铁轨检测人员长时间风吹日晒;同时,免去了检测人员为了避开车辆行驶的正常时段,不得不黑白颠倒作业的艰辛,为铁路行业智能化升级又贡献了一股力量。/ h  M% n8 @  W
8 W3 _( y+ b4 j0 t* t
; e1 L2 ]) S* j) t% f. P
『本文转载自网络,版权归原作者所有,如有侵权请联系删除』
您需要登录后才可以回帖 登录 | 注册

本版积分规则

关闭

推荐内容上一条 /1 下一条

EDA365公众号

关于我们|手机版|EDA365电子论坛网 ( 粤ICP备18020198号 )

GMT+8, 2020-12-1 09:43 , Processed in 0.109375 second(s), 21 queries , Gzip On.

深圳市墨知创新科技有限公司

地址:深圳市南山区科技生态园2栋A座805 电话:19925233282

快速回复 返回顶部 返回列表