Google发布AVA:一个用于理解人类动作的精细标记视频数据集原创:Google谷歌开发者2017-11-03文/Google软件工程师ChunhuiGu和DavidRoss教机器理解视频中的人类动作是计算机视觉的一个基本研究课题,对于个人视频搜索和发现、运动分析和手势接口等应用必不可少.
过去几年来,在图像中分类和查找对象取得了令人兴奋的突破,但识别人类动作仍然是一个巨大的挑战.
原因在于,就其本性而言,人类动作的定义不如视频对象完善,因此,很难构建精细标记的动作视频数据集.
尽管有许多基准数据集(如UCF101、ActivityNet和DeepMind的Kinetics)采用图像分类标记模式,并为数据集中的每个视频或视频剪辑分配一个标签,但对于有多人执行不同动作的复杂场景,还没有相应的数据集.
为促进对人类动作识别的进一步研究,我们发布了AVA,它诞生于"原子视觉动作",是一个全新的数据集,为扩展视频序列中的每个人提供多个动作标签.
AVA由YouTube中公开视频的网址组成,注解了一组80种时空局部化的原子动作(如"走"、"踢(物体)"、"握手"等),产生了5.
76万个视频片段、9.
6万个标记动作执行人以及总共21万个动作标签.
您可以浏览网站,了解数据集和下载注解:https://research.
google.
com/ava并阅读我们的arXiv论文,了解数据集的设计和开发:https://arxiv.
org/abs/1705.
08421与其他动作数据集相比,AVA具有以下重要特征:以人为中心的注解.
每个动作标签与人相关,而不是与视频或剪辑相关.
因此,我们可以将不同标签分配到同一场景中执行不同动作的多个人(这种情况很常见).
原子视觉动作.
我们将动作标签限于很小的时间尺度(3秒),在此范围内,动作的性质是身体活动,具有清晰的视觉特征.
现实视频材料.
我们使用电影作为AVA的来源,从很多不同的流派和原产国取材.
因此,数据中包含广泛的人类行为.
3秒视频片段(来自视频来源)示例,其边界框注解在每个片段的中间帧中.
(为清楚起见,每个示例只显示一个边界框)为创建AVA,我们先从YouTube收集了一组变化多的长形式内容,集中于"电影"和"电视"类别,有许多不同国籍的专业演员.
我们对每个视频分析了15分钟的片段,将其统一分隔为300个不重叠的3秒片段.
采样策略将动作序列保持在连贯的时间背景中.
然后,我们手动标识每个3秒片段中间帧中所有人的边界框.
对于边界框中的每个人,注解人员从预定义的原子动作词汇(有80个类别)中选择不同数量的标签来描述个人在片段中的动作.
这些动作分为三组:姿势/移动、人-物体互动以及人-人互动.
因为我们详尽标记了执行全部动作的所有人,所以,AVA标签的频率遵循长尾分布,下面进行了简要介绍.
AVA原子动作标签的分布.
X轴中显示的标签只是我们词汇的一部分.
AVA的独特设计可让我们推导出其他现有数据集中没有的一些有趣统计信息.
例如,如果很多人至少有两个标签,我们便可测量动作标签的共现模式.
下图所示为AVA中最常见的共现动作对及其共现得分.
我们确认预期模式,比如人们经常在唱歌时弹奏乐器,跟小孩玩时把人举起,以及在亲吻时拥抱,等等.
AVA中最常见的共现动作对.
为评估AVA数据集中人类动作识别系统的有效性,我们实现了现有基线深度学习模型,该模型可以从更小的JHMDB数据集获得更好的性能.
由于缩放、背景杂波、摄影和外观变化等富有挑战性的变化,此模型在正确识别AVA中的动作时表现一般(18.
4%mAP).
这表明AVA是一个有用的试验台,可用于为未来几年开发和评估新的动作识别架构和算法.
我们希望,AVA能帮助改进人类动作识别系统的开发,能基于精细时空粒度的标签在个人动作层级为复杂活动建模.
我们将继续扩展和改进AVA,也渴望听到社区的反馈意见,帮助我们指引未来的方向.
致谢AVA的核心团队包括ChunhuiGu、ChenSun、DavidRoss、CarolinePantofaru、YeqingLi、SudheendraVijayanarasimhan、GeorgeToderici、SusannaRicco、RahulSukthankar、CordeliaSchmid和JitendraMalik.
感谢许多Google同事和注解人员对此项目的全力支持.
华纳云(HNCloud Limited)是一家专业的全球数据中心基础服务提供商,总部在香港,隶属于香港联合通讯国际有限公司,拥有香港政府颁发的商业登记证明,保证用户的安全性和合规性。 华纳云是APNIC 和 ARIN 会员单位。主要提供香港和美国机房的VPS云服务器和独立服务器。商家支持支付宝、网银、Paypal付款。华纳云主要面向国内用户群,所以线路质量还是不错的,客户使用体验总体反响还是比较好...
无忧云怎么样?无忧云,无忧云是一家成立于2017年的老牌商家旗下的服务器销售品牌,现由深圳市云上无忧网络科技有限公司运营,是正规持证IDC/ISP/IRCS商家,主要销售国内、中国香港、国外服务器产品,线路有腾讯云国外线路、自营香港CN2线路等,都是中国大陆直连线路,非常适合免备案建站业务需求和各种负载较高的项目,同时国内服务器也有多个BGP以及高防节点。一、无忧云官网点击此处进入无忧云官方网站二...
这次RackNerd商家提供的美国大硬盘独立服务器,数据中心位于洛杉矶multacom,可选Windows、Linux镜像系统,默认内存是64GB,也可升级至128GB内存,而且硬盘采用的是256G SSD系统盘+10个16TSAS数据盘,端口提供的是1Gbps带宽,每月提供200TB,且包含5个IPv4,如果有需要更多IP,也可以升级增加。CPU核心内存硬盘流量带宽价格选择2XE5-2640V2...
谷歌sb为你推荐
请务必阅读正文之后的免责条款部分经济开发区127存在问题的应用软件名单(2020年第四批)支持ipad支持ipad支持ipadeacceleratorCentOS5.2下安装eAccelerator,怎么都装不上x-routerx-0.4x等于多少?重庆电信宽带管家中国电信电脑管家是什么?怎么样?google图片搜索如何使用google图片搜索引擎?
备案未注册域名 金万维动态域名 主机优惠码 淘宝抢红包攻略 荣耀欧洲 inmotionhosting wavecom 香港cdn wordpress技巧 Hello图床 60g硬盘 12u机柜尺寸 512m内存 mysql主机 全能主机 申请个人网页 坐公交投2700元 域名转向 中国联通宽带测速 徐州电信 更多