数据rgb颜色表

ThenameoftheDepartment部门名称无监督数据增强研究博士研究生郝靖伟BeijingForestStudio北京理工大学信息系统及安全对抗实验中心2019年07月21日内容提要背景简介基本概念–半监督学习–强化学习–损失函数–数据增强算法原理–AutoAugment–训练信号退火(TSA)优劣分析应用总结参考文献2背景简介预期收获–1.
了解机器学习中的一些基础知识–2.
了解半监督学习的最新研究进展–3.
理解最新的自动化数据增强方法–4.
了解引入特殊训练技巧(TSA)的无监督数据增强方法对半监督学习的革新效果3背景简介半监督学习进展–Semi-SupervisedLearning,SSL–使用标记数据以及大量的未标记数据来进行模式识别工作–有标注的数据不多,未标注数据很多–做数据标注的资源有限4背景简介半监督学习进展聊胜于无–标注数据不多时,半监督学习可以带来一定的性能提升–问题:需要额外的资源代价,面对更多标注数据时,性能曲线增长平缓【无标注数据带来偏倚】–某一个数据规模之内半监督学习的效果会好一些,确实提高了数据使用效率–问题:很难达到且提升不多5背景简介半监督学习进展可堪大用–更多数据有更好的性能–对于同样的有标注数据,性能总是比监督学习方法更好–即便是数据量足够大、监督学习已经能够发挥出好的效果的范围内,半监督学习也仍然有提升–付出的额外计算复杂度和资源很小–不受到数据规模限制发生了什么6半监督学习的性能提升曲线基本概念有监督学习–从有标记的训练数据中推导出预测函数–【给定数据,预测标签】无监督学习–从无标签的数据中学习出一些有用的模式–【给定数据,寻找隐藏的结构】半监督学习–侧重在有监督的分类算法中加入无标记样本强化学习–强调如何基于环境而行动,以取得最大化的预期利益–【给定数据,学习如何选择一系列行动】7基本概念强化学习–Q-learning一种基于值函数估计的强化学习方法(以value推policy)学习奖惩的值,根据自己认为的最高价值选行为–PolicyGradient一种策略搜索强化学习方法(直推policy)基于策略做梯度下降从而优化模型8基本概念强化学习–策略梯度法(PolicyGradient)–问题:对步长大小非常敏感,效率较低–近端策略优化(ProximalPolicyOptimization)–每一步迭代计算一个更新以最小化成本函数–在计算梯度时确保与先前策略有相对较小的偏差–在难易程度、采样复杂度、调试损耗上取得平衡9利用PPO训练的机器人具有互动能力的机器人基本概念10损失函数–定义:量化描述模型的预测值f(x)与真实值Y的不一致程度,一个非负实值函数–交叉熵(CrossEntropyLoss):分类问题常用的损失函数–KL散度(KLdivergence):相对熵,衡量两个概率分布之间的差异基本概念11一致性训练–主要思想:对于一个输入,即使受到微小干扰,其预测都应该一致过拟合(Overfitting)–定义:由于训练数据包含抽样误差,训练时,复杂的模型将抽样误差也考虑在内,将抽样误差也进行了很好的拟合–表现:模型在训练集上效果好,在测试集上效果差–正则化方法:修改loss函数修改网络本身架构(Dropout)增加数据基本概念数据增强–通过随机「增广」来提高数据量和数据多样性的策略–对现有的数据集进行微小的改变,被认为是不同的输入–'新'的样本标签保持不变–使得训练的模型具有更强的泛化能力12基本概念数据增强–翻转:水平翻转或者上下翻转图像–旋转:将图像在一定角度范围内旋转–缩放:将图像在一定尺度内放大或者缩小–裁剪:在原有图像上裁剪出一块–平移:将图像在一定尺度范围内平移–颜色变动:对图像的RGB颜色空间进行一些变换–噪声绕动:给图像加入一些人工生成的噪声13基本概念数据增强–同义词替换:在句子中随机选取n个非停用词.
对每个选取的词,用它的随机选取的同义词替换.
–随机插入:在句子中任意找一个非停用词,随机选一个它的同义词,插入句子中的任意位置.
重复n次–随机交换:任意选取句子中的两个词,交换位置.
重复n次.
–随机删除:对于句子中概率为p的每一个词,随机删除14算法原理15P数据增强不破坏真实标签;标记数据少,模型易过拟合C智能数据增强技术D神经网络对增强之后的未标记数据作自洽预测LCCFA类【CVPR2019】T标记数据稀缺时,有效利用域外未标记数据,显著改善半监督学习(SSL)效果I标记数据和未标记数据P1.
标记数据使用交叉熵计算损失函数以训练模型2.
未标记数据使用一致性训练来强制预测未标记的样本和增强的未标记样本是否相似3.
联合优化标记数据的监督损失和未标记数据的无监督一致性损失O低错误率的半监督预测模型算法原理UnsupervisedDataAugmentation(2019.
07.
10)–无监督数据增强,半监督学习的state-of-the-art–对无标注数据执行数据增强,从而显著提高了半监督学习(SSL)的性能,因此研究人员相信"半监督学习将再度兴起"16算法原理UDA–标记数据:交叉熵损失函数-训练模型M–无标记数据:KL散度-相同模型M17未标记的样本增强的未标记样本算法原理UDA–UDA联合优化标记数据的监督损失和未标记数据的无监督一致性损失,计算最终损失–标签信息从标记的样本平滑地传播到未标记的样本18算法原理UDA19–集成了最新数据增强方法反向翻译(Backtranslation)自动增强(AutoAugment)TF-IDF单词替换(TF-IDFwordreplacement)–提出了TSA训练信号退火策略创新点算法原理AutoAugment(CVPR2019)–问题:数据集出现的对称性不同,特定数据集的数据增强方法不能有效地迁移到其他数据集–目标:为目标数据集寻找有效数据增强策略的自动化过程–主要思想:创建数据增强策略的搜索空间,并直接在一些数据集上评估特定策略的质量–实验结果:产生难度更高、更真实的噪声;学习到的策略可迁移并且表现良好20算法原理AutoAugment–确定搜索空间每一个策略由5个子策略组成每个mini-batch中的每张图像随机选择一个子策略子策略按顺序包含两个操作每个操作与两个超参数相关:执行操作的概率和幅度21算法原理AutoAugment–确定搜索空间16个操作、幅度范围离散为10个值【0~9】、概率离散为11个值【0.
0~1.
0】每个子策略有(16*10*11)2搜索空间,同时5个子策略有(16*10*11)10种搜索空间22算法原理AutoAugment–搜索算法寻找最佳策略–训练方法控制器,决定当前哪个增强策略效果最好,并通过在特定数据集的一个子集上运行子实验来测试该策略的泛化能力子实验完成后,采用策略梯度法PPO,以验证集的准确度作为更新信号对控制器进行更新23可迁移算法原理AutoAugment实验结果–对于街景(SVHN)图像,重点是剪切和平移等几何变换–在CIFAR-10和ImageNet上,重点是调整颜色和色调分布,同时保持一般的色彩属性–在CIFAR-10上,获得了1.
48%的错误率–在SVHN上,将最先进的误差从1.
30%降低到1.
02%24算法原理训练信号退火(TrainingSignalAnnealing)–问题:许多未标注的样本和少量标注的样本,需要一个大型的模型捕获未标注样本中的信息,导致模型过拟合–目标:防止对标记数据过拟合–策略:随着模型对越来越多的未标记样本进行训练,缓慢释放labeleddata信息–在CIFAR-10上,TSA将测试误差从5.
67%降到了5.
10%25算法原理训练信号退火(TrainingSignalAnnealing)–具体做法:不计对标记数据预测过于自信的样本–这部分标记数据的误差无法反向传递–避免模型进一步过拟合到这些样本–随着训练进行,阈值增加,使用更多标记样本26算法原理算法执行结果–https://github.
com/google-research/uda27算法原理算法执行结果–有标注数据集非常小在具有10%标记样本的ImageNet上,将TOP1精度从55.
1%提高到68.
7%.
20个标记,50k个未标记在IMDb情绪分析任务中错误率为4.
20【25k标记错误率4.
32】286种文本、3种视觉显著提升算法原理算法执行结果–标准半监督测试CIFAR-10中,UDA的表现优于所有现有的SSL方法,如VAT、ICT和MixMatchCIFAR-10,4k标签,UDA实现了5.
27的错误率,与使用50k标签的完全监督模型的性能相匹配SVHN,250个标签,UDA实现了2.
85的错误率,与使用70k标签的完全监督模型的性能相匹配29优劣分析优势–无需海量标记数据,显著改善半监督学习–使用AutoAugment,对未标记数据执行数据增强,一举达到半监督学习的当前最强–可以匹配甚至优于使用更多标记数据的纯监督学习–可用于文本和视觉的跨领域工作劣势–趋势方起,尚新,需时间考验30应用总结算法的应用领域–文本、视觉、语音等领域未来的发展–UDA的突破,使得仅有少量标记数据的半监督学习逼近了监督学习的精度,将会发展出无数的新应用场景31参考文献32[1]XieQ,DaiZ,HovyE,etal.
Unsuperviseddataaugmentation[J].
arXivpreprintarXiv:1904.
12848,2019.
[2]CubukED,ZophB,ManeD,etal.
AutoAugment:LearningAugmentationStrategiesFromData[C]//ProceedingsoftheIEEEConferenceonComputerVisionandPatternRecognition.
2019:113-123.
[3]SajjadiM,JavanmardiM,TasdizenT.
Regularizationwithstochastictransformationsandperturbationsfordeepsemi-supervisedlearning[C]//AdvancesinNeuralInformationProcessingSystems.
2016:1163-1171.
[4]https://ai.
googleblog.
com/2019/07/advancing-semi-supervised-learning-with.
html[5]SchulmanJ,WolskiF,DhariwalP,etal.
Proximalpolicyoptimizationalgorithms[J].
arXivpreprintarXiv:1707.
06347,2017.
大成若缺,其用不弊.
大盈若冲,其用不穷.
大直若屈.
大巧若拙.
大辩若讷.
静胜躁,寒胜热.
清静为天下正.
道德经33