如果要把深度学习开发过程中几个环节按重要程度排个序的话，相信准备训练数据肯定能排在前几位。要知道一个模型网络被编写出来后，也只是一坨代码而已，和智能基本不沾边，它只有通过学习大量的数据，才能学会如何作推理。因此训练数据其实和一样东西非常像！——武侠小说中的神功秘笈，学之前菜鸟一只，学之后一统江湖！
但很可惜的是，训练数据和秘笈还有一个特点很相似，那就是可遇而不可求！也就是说很难获取，除了那些公共数据集之外，如果用户想基于自己的业务场景准备数据的话，不仅数据的生产和标注过程会比较复杂，而且一般需要的数量规模也会非常庞大，因为只有充足的数据，才能确保模型训练的效果，这导致数据集的制作成本往往非常高。这个情况在计算机视觉领域尤甚，因为图像要一张一张拍摄与标注，要是搞个几十万图片，想想都让人“不寒而栗”！
为了应对上述问题，在计算机视觉领域中，图像数据增广是一种常用的解决方法，常用于数据量不足或者模型参数较多的场景。如果用户手中数据有限的话，则可以使用数据增广的方法扩充数据集。一些常见的图像分类任务中，例如ImageNet一千种物体分类，在预处理阶段会使用一些标准的数据增广方法，包括随机裁剪和翻转。除了这些标准的数据增广方法之外，飞桨的图像分类套件PaddleClas还会额外支持8种数据增广方法，下面将为大家逐一讲解。
8大数据增广方法
首先咱们先来看看以ImageNet图像分类任务为代表的标准数据增广方法，该方法的操作过程可以分为以下几个步骤：
相比于上述标准的图像增广方法，研究者也提出了很多改进的图像增广策略，这些策略均是在标准增广方法的不同阶段插入一定的操作，基于这些策略操作所处的不同阶段，大概分为三类：
PaddleClas中集成了上述所有的数据增广策略，每种数据增广策略的参考论文与参考开源代码均在下面的介绍中列出。下文将介绍这些策略的原理与使用方法，并以下图为例，对变换后的效果进行可视化。
图像变换类
通过组合一些图像增广的子策略对图像进行修改和跳转，这些子策略包括亮度变换、对比度增强、锐化等。基于策略组合的规则不同，可以划分为AutoAugment和RandAugment两种方式。
01
AutoAugment
不同于常规的人工设计图像增广方式，AutoAugment是在一系列图像增广子策略的搜索空间中通过搜索算法找到并组合成适合特定数据集的图像增广方案。针对ImageNet数据集，最终搜索出来的数据增广方案包含25个子策略组合，每个子策略中都包含两种变换，针对每幅图像都随机的挑选一个子策略组合，然后以一定的概率来决定是否执行子策略中的每种变换。
PaddleClas中AutoAugment的使用方法如下所示。
fromppcls.data.imaugimportDecodeImagefromppcls.data.imaugimportResizeImagefromppcls.data.imaugimportImageNetPolicyfromppcls.data.imaugimporttransform
size=224#图像解码decode_op=DecodeImage()#图像随机裁剪resize_op=ResizeImage(size=(size,size))#使用AutoAugment图像增广方法autoaugment_op=ImageNetPolicy()
ops=[decode_op,resize_op,autoaugment_op]#图像路径imgs_dir=“/imgdir/xxx.jpg”fnames=os.listdir(imgs_dir)forfinfnames:data=open(os.path.join(imgs_dir,f)).read()img=transform(data,ops)
变换结果如下图所示。
02
RandAugment
论文地址：
AutoAugment的搜索方法比较暴力，直接在数据集上搜索针对该数据集的最优策略，计算量会很大。在RandAugment对应的论文中作者发现，针对越大的模型，越大的数据集，使用AutoAugment方式搜索到的增广方式产生的收益也就越小；而且这种搜索出的最优策略是针对指定数据集的，迁移能力较差，并不太适合迁移到其他数据集上。
在RandAugment中，作者提出了一种随机增广的方式，不再像AutoAugment中那样使用特定的概率确定是否使用某种子策略，而是所有的子策略都会以同样的概率被选择到，论文中的实验也表明这种数据增广方式即使在大模型的训练中也具有很好的效果。
PaddleClas中RandAugment的使用方法如下所示。
fromppcls.data.imaugimportDecodeImagefromppcls.data.imaugimportResizeImagefromppcls.data.imaugimportRandAugmentfromppcls.data.imaugimporttransform
size=224#图像解码decode_op=DecodeImage()#图像随机裁剪resize_op=ResizeImage(size=(size,size))#使用RandAugment图像增广方法randaugment_op=RandAugment()
ops=[decode_op,resize_op,randaugment_op]#图像路径imgs_dir=“/imgdir/xxx.jpg”fnames=os.listdir(imgs_dir)forfinfnames:data=open(os.path.join(imgs_dir,f)).read()img=transform(data,ops)
图像裁剪类
图像裁剪类主要是对Transpose后的224的图像进行一些裁剪，即裁剪掉部分图像，或者也可以理解为对部分图像做遮盖，共有CutOut、RandErasing、HideAndSeek和GridMask四种方法。
03
Cutout
Cutout可以理解为Dropout的一种扩展操作，不同的是Dropout是对图像经过网络后生成的特征进行遮挡，而Cutout是直接对输入的图像进行遮挡，相对于Dropout对噪声的鲁棒性更好。作者在论文中也进行了说明，这样做法有以下两点优势：
PaddleClas中Cutout的使用方法如下所示。
fromppcls.data.imaugimportDecodeImagefromppcls.data.imaugimportResizeImagefromppcls.data.imaugimportCutoutfromppcls.data.imaugimporttransform
size=224#图像解码decode_op=DecodeImage()#图像随机裁剪resize_op=ResizeImage(size=(size,size))#使用Cutout图像增广方法cutout_op=Cutout(n_holes=1,length=112)
ops=[decode_op,resize_op,cutout_op]#图像路径imgs_dir=“/imgdir/xxx.jpg”fnames=os.listdir(imgs_dir)forfinfnames:data=open(os.path.join(imgs_dir,f)).read()img=transform(data,ops)
裁剪结果如下图所示：
04
RandomErasing
RandomErasing与Cutout方法类似，同样是为了解决训练出的模型在有遮挡数据上泛化能力较差的问题，作者在论文中也指出，随机裁剪的方式与随机水平翻转具有一定的互补性。作者也在行人再识别（REID）上验证了该方法的有效性。与Cutout不同的是，在RandomErasing中，图片以一定的概率接受该种预处理方法，生成掩码的尺寸大小与长宽比也是根据预设的超参数随机生成。
PaddleClas中RandomErasing的使用方法如下所示。
fromppcls.data.imaugimportDecodeImagefromppcls.data.imaugimportResizeImagefromppcls.data.imaugimportToCHWImagefromppcls.data.imaugimportRandomErasingfromppcls.data.imaugimporttransform
size=224#图像解码decode_op=DecodeImage()#图像随机裁剪resize_op=ResizeImage(size=(size,size))#使用RandomErasing图像增广方法randomerasing_op=RandomErasing()
ops=[decode_op,resize_op,tochw_op,randomerasing_op]#图像路径imgs_dir=“/imgdir/xxx.jpg”fnames=os.listdir(imgs_dir)forfinfnames:data=open(os.path.join(imgs_dir,f)).read()img=transform(data,ops)img=img.transpose((1,2,0))
裁剪结果如下图所示。
05
HideAndSeek
HideAndSeek方法将图像分为若干大小相同的区域块(patch)，对于每块区域，都以一定的概率生成掩码，如下图所示，可能是完全遮挡、完全不遮挡或者遮挡部分。
PaddleClas中HideAndSeek的使用方法如下所示：
fromppcls.data.imaugimportDecodeImagefromppcls.data.imaugimportResizeImagefromppcls.data.imaugimportToCHWImagefromppcls.data.imaugimportHideAndSeekfromppcls.data.imaugimporttransform
size=224#图像解码decode_op=DecodeImage()#图像随机裁剪resize_op=ResizeImage(size=(size,size))#使用HideAndSeek图像增广方法hide_and_seek_op=HideAndSeek()
ops=[decode_op,resize_op,tochw_op,hide_and_seek_op]#图像路径imgs_dir=“/imgdir/xxx.jpg”fnames=os.listdir(imgs_dir)forfinfnames:data=open(os.path.join(imgs_dir,f)).read()img=transform(data,ops)img=img.transpose((1,2,0))
06
GridMask
作者在论文中指出，之前的图像裁剪方法存在两个问题，如下图所示：
因此如何避免过度删除或过度保留成为需要解决的核心问题。GridMask是通过生成一个与原图分辨率相同的掩码，并将掩码进行随机翻转，与原图相乘，从而得到增广后的图像，通过超参数控制生成的掩码网格的大小。
在训练过程中，有两种以下使用方法：
论文中表示，经过验证后，上述第二种方法的训练效果更好一些。
PaddleClas中GridMask的使用方法如下所示。
fromdata.imaugimportDecodeImagefromdata.imaugimportResizeImagefromdata.imaugimportToCHWImagefromdata.imaugimportGridMaskfromdata.imaugimporttransform
size=224#图像解码decode_op=DecodeImage()#图像随机裁剪resize_op=ResizeImage(size=(size,size))#图像数据的重排tochw_op=ToCHWImage()#使用GridMask图像增广方法gridmask_op=GridMask(d1=96,d2=224,rotate=1,ratio=0.6,mode=1,prob=0.8)
ops=[decode_op,resize_op,tochw_op,gridmask_op]#图像路径imgs_dir=“/imgdir/xxx.jpg”fnames=os.listdir(imgs_dir)forfinfnames:data=open(os.path.join(imgs_dir,f)).read()img=transform(data,ops)img=img.transpose((1,2,0))
结果如下图所示：
图像混叠
前文所述的图像变换与图像裁剪都是针对单幅图像进行的操作，而图像混叠是对两幅图像进行融合，生成一幅图像，Mixup和Cutmix两种方法的主要区别为混叠的方式不太一样。
07
Mixup
Mixup是最先提出的图像混叠增广方案，其原理就是直接对两幅图的像素以一个随机的比例进行相加，不仅简单，而且方便实现，在图像分类和目标检测领域上都取得了不错的效果。为了便于实现，通常只对一个batch内的数据进行混叠，在Cutmix中也是如此。
如下是imaug中的实现，需要指出的是，下述实现会出现对同一幅进行相加的情况，也就是最终得到的图和原图一样，随着batch-size的增加这种情况出现的概率也会逐渐减小。
PaddleClas中Mixup的使用方法如下所示。
fromppcls.data.imaugimportDecodeImagefromppcls.data.imaugimportResizeImagefromppcls.data.imaugimportToCHWImagefromppcls.data.imaugimporttransformfromppcls.data.imaugimportMixupOperator
size=224#图像解码decode_op=DecodeImage()#图像随机裁剪resize_op=ResizeImage(size=(size,size))#图像数据的重排tochw_op=ToCHWImage()#使用HideAndSeek图像增广方法hide_and_seek_op=HideAndSeek()#使用Mixup图像增广方法mixup_op=MixupOperator()
ops=[decode_op,resize_op,tochw_op]
imgs_dir=“/imgdir/xxx.jpg”#图像路径batch=[]fnames=os.listdir(imgs_dir)foridx,finenumerate(fnames):data=open(os.path.join(imgs_dir,f)).read()img=transform(data,ops)batch.append((img,idx))#fakelabel
new_batch=mixup_op(batch)
混叠结果如下图所示。
08
Cutmix
与Mixup直接对两幅图进行相加不一样，Cutmix是从另一幅图中随机裁剪出一个ROI（regionofinterest,感兴趣区域），然后覆盖当前图像中对应的区域，代码实现如下所示：
fromppcls.data.imaugimportDecodeImagefromppcls.data.imaugimportResizeImagefromppcls.data.imaugimportToCHWImagefromppcls.data.imaugimporttransformfromppcls.data.imaugimportCutmixOperator
size=224
#图像解码decode_op=DecodeImage()#图像随机裁剪resize_op=ResizeImage(size=(size,size))#图像数据的重排tochw_op=ToCHWImage()#使用HideAndSeek图像增广方法hide_and_seek_op=HideAndSeek()#使用Cutmix图像增广方法cutmix_op=CutmixOperator()
imgs_dir=“/imgdir/xxx.jpg”#图像路径
batch=[]fnames=os.listdir(imgs_dir)foridx,finenumerate(fnames):data=open(os.path.join(imgs_dir,f)).read()img=transform(data,ops)batch.append((img,idx))#fakelabel
new_batch=cutmix_op(batch)
混叠结果如下图所示：
实验
经过实验验证，在ImageNet1k数据集上基于PaddleClas使用不同数据增广方式的分类精度如下所示，可见通过数据增广方式可以有效提升模型的准确率。
注意：
在这里的实验中，为了便于对比，将l2decay固定设置为1e-4，在实际使用中，更小的l2decay一般效果会更好。结合数据增广，将l2decay由1e-4减小为7e-5均能带来至少0.3~0.5%的精度提升。
PaddleClas数据增广避坑
指南以及部分注意事项
最后再为大家介绍几个PaddleClas数据增广使用方面的小Trick：