儿童谷歌广告联盟

国际电信联盟发展部门保护上网儿童业界指南2020保护上网儿童业界指南2020致谢本指南是由国际电信联盟(ITU)和一个撰稿人工作组共同制定完成的,这些撰稿人来自活跃在信息通信技术行业以及儿童保护问题领域的顶尖机构,其中包括欧洲广播联盟(EBU)、终止暴力侵害儿童行为全球伙伴关系、GSM协会(GSMA)、国际残疾人联盟、互联网观察基金会(IWF)、PrivatelySA和联合国儿童基金会.
工作组由来自联合国儿童基金会的AnjanBose担任主席,由来自国际电联的FannyRono负责协调.
没有各位撰稿人辛勤付出、热情工作和无私奉献,本指南就不可能面世.
电子世界集团(e-WWG)、脸书(Facebook)、腾讯游戏(TencentGames)、推特(Twie)、华特迪士尼公司以及其他行业利益攸关方也提供了宝贵的意见.
大家的共同目标是让互联网成为对儿童和青少年来说是一个更好、更安全的地方.
国际电联对下述合作伙伴牺牲宝贵的时间并提供有价值的见解表示感谢(按姓氏的字母顺序排列):来自欧洲广播联盟(EBU)的GiacomoMazzone来自电子世界集团(e-WWG)的SalmaAbbasi来自Facebook的DavidMiles和CarolineHurst来自终止暴力侵害儿童行为全球伙伴关系的AmyCrocker和SerenaTommasino来自GSMA的JennyJones来自国际残疾人联盟的LucyRichardson来自国际电联的FannyRono来自互联网观察基金会(IWF)的TessLeyland来自PrivatelySA的DeepakTewari来自腾讯游戏的AdamLiu来自Twier的KatyMinshall来自联合国儿童基金会的AnjanBose、DanielKardefeltWinther、EmmaDay、JosianneGaleaBaron、SarahJacobstein和StevenEdwinVosloo来自华特迪士尼公司的AmyE.
CunninghamITU2020一些保留的权利.
该作品通过创作共享署名-非商业-共享3.
0IGO许可(CCBY-NC-SA3.
0IGO)向公众授权.
根据本许可证的条款,如果作品被适当引用,您可以出于非商业目的复制、重新分发和改编作品.
在使用该作品时,不应建议国际电联认可任何具体的组织、产品或服务.
不允许未经授权使用国际电联的名称或标志.
如果您改编作品,那么您必须在相同或等效的创作共用许可下使您的作品获得许可.
如果您创作了这部作品的译文,你应该加上下面的免责声明以及建议的引文:"这部译文不是由国际电信联盟(ITU)创作的.
国际电联对本译文的内容或准确性不承担任何责任.
英文原版应为具有约束力的真实版本".
欲了解更多信息,请访问:hps://creavecommons.
org/licenses/by-nc-sa/3.
0/igo/.
ISBN978-92-61-30085-2(纸质版)978-92-61-30415-7(电子版)978-92-61-30075-3(EPUB版)978-92-61-30425-6(Mobi版)打印本报告之前,请考虑到环境影响4前言数字技术的爆炸式发展为儿童和青少年创造了前所未有的机会,使他们能够就影响其生活和圈子的问题进行交流、联系、分享、学习、获取信息并发表意见.

然而,更广泛、更容易获得的网上服务也给儿童的安全带来了重大挑战–无论网上还是网下.
从隐私,同龄人暴力,暴力和/或少儿不宜的内容,到网络诈骗和网络诱骗、性虐待和剥削等针对儿童的犯罪,当今的儿童面临着众多严重的风险.
威胁成倍增加,罪犯越来越多地同时跨越国界采取行动,这使得他们难以被追踪,更难以被追责.

此外,新冠肺炎疫情(COVID-19)全球大爆发导致首次进入网络世界的儿童数量激增,因为他们需要继续学业并维持社交互动.
新冠肺炎病毒造成的限制不仅意味着许多年幼的儿童可能远远早于父母们原定计划开始在网上互动,而且由于需要兼顾工作任务,许多父母无法监督孩子,使青少年有可能访问少儿不宜的内容或成为犯罪分子制作儿童性虐待材料(CSAM)的目标.
犯罪分子从技术进步中渔利,如互联应用和游戏、快速文件共享、直播、加密货币、暗网和强大的加密软件.
然而,如何有效解决这一问题,技术界的行动缺乏协调,而且常常犹豫不决,给犯罪分子留下了可乘之机.
新兴技术可以提供一些解决方案,例如国际刑警组织基于人工智能的儿童性虐待数据库,利用图像和视频比对软件,迅速在受害者、施虐者和地方之间建立联系.
但不能仅靠技术来解决问题.
为了减少数字化变革带来的风险,同时使越来越多的青少年从中受益,利益攸关多方开展协作和协调共同进行应当,已变得前所未有地重要.
各国政府、民间团体、地方社区、国际组织和业界利益攸关方必须为了共同的目标携手合作.
由于认识到了这一点,因此国际电联成员国于2018年要求对《保护上网儿童指南》进行全面更新.
对新版指南进行了重新思考、重新编写和重新设计,以反映这一代儿童所处的数字环境发生的非常重大的变化.
除了反映数字化技术和平台的新发展,新版指南还填补了一项重大空白:残疾儿童面临的情况.
对于他们而言,网络世界提供了至关重要的生命线,使他们能够充分并有意义地参与社会.
在为子孙后代更安全和更有保障地使用基于互联网的服务和其他技术奠定基础方面,技术行业可发挥关键和积极的作用.
工商企业在工作中必须越来越多地以儿童利益为中心,特别注意保护青少年用户的个人数据隐私,维护他们的言论自由权,打击日益严重的儿童性虐待材料(CSAM)带来的危害,确保建立有效的系统,在发生侵犯儿童权利的情况下,能够有效予以处理.

在国内法律尚未与国际法接轨的情况下,每个企业都有机会也有责任让自己的运营框架与最高标准和最佳做法保持一致.
5对于业界而言,我们希望本指南能成为制定商业政策和打造创新解决方案的坚实基础.
本着国际电联作为全球召集人的真正精神,我感到自豪的是,本指南是全球合作努力的成果,由来自广泛的国际社会的专家共同撰写完成.
我也很高兴地介绍我们新版保护上网儿童指南的吉祥物桑哥:这是一个友好、活泼和勇敢的角色,完全由一群儿童设计,是国际电联新推出的国际青少年宣传推广计划的一部分.
在这个越来越多的青少年上网的时代,国际电联的保护上网儿童指南比以往任何时候都更加重要.
业界、政府、父母和教育工作者以及儿童本身都可以发挥重要作用.
我一如既往地感谢你们的支持,我期待着我们在这一关键问题上继续密切合作.

电信发展局主任多琳伯格丹-马丁vii致谢.
ii前言.
41概述12什么是保护上网儿童32.
1背景信息52.
1.
1数字化世界中的儿童62.
1.
2不同平台对儿童数字化体验的影响82.
1.
3残疾儿童的特殊情况112.
2现有的国家和跨国保护上网儿童模式.
123保护和促进儿童权利的领域.
153.
1将对儿童权利的考虑纳入所有适当的公司政策和管理流程之中153.
2建立处理儿童性虐待材料(CSAM)的标准流程163.
3营造更安全和符合年龄的网上环境.
183.
4就儿童安全以及负责任地使用信息和通信技术(ICT)向儿童、看护人和教育工作者开展教育.
203.
5将数字化技术作为加强公民参与方式予以宣传.
234业界一般性指南.
245具体功能特性要素清单.
305.
1功能特性A:提供连接、数据存储和托管服务.
305.
2功能特性B:提供精心策划打造的数字内容.
335.
3功能特性C:托管用户生成的内容和实现用户连接.
365.
4功能特性D:由人工智能驱动的系统40参考资料.
44词汇表.
45目录viii表目录表1:业界一般性指南.
24表2:COP功能特性A要素清单:提供连接、数据和托管设备.
32表3:COP功能特性B要素清单:提供精心策划打造的数字内容34表4:COP功能特性C要素清单:托管用户生成的内容和实现用户连接37表5:COP功能特性D要素清单:由人工智能驱动的系统.
43保护上网儿童业界指南11概述本文为信息通信技术(ICT)行业利益攸关方建立自己的保护上网儿童(COP)资源确定了方向.
本《保护上网儿童业界指南》旨在为企业制定愿景及承担保护用户的责任提供一个有用、灵活和易于使用的框架.
本指南还旨在为子孙后代更安全和更有保障地使用基于互联网的服务和其他技术奠定基础.
作为工具箱,本指南还旨在通过帮助大型和小型企业及利益攸关方在了解对儿童和社会的法律和道德责任的同时,发展和充实完善有吸引力且可持续的商业模式,以增强企业的成功.
为了跟上技术和融合方面的重大进步,国际电联、联合国儿童基金会和保护上网儿童举措的合作伙伴为在提供产品和服务过程中开发、提供或使用电信或相关活动的众多公司制定并更新了本指南.
新版保护上网儿童业界指南是与保护上网儿童举措成员以及与更广泛的民间团体、企业、学术界、政府、媒体、国际组织和青少年磋商后取得的成果.
本文的目的包括:为ICT和网络行业以及相关利益攸关方确定共同参考点和指导;为企业提供指导,以确定、预防和减轻其产品和服务对儿童权利的任何不利影响;为企业提供指导,确定如何促进儿童权利以及推动儿童成为负责任的数字化公民;提出共同原则,建立所有相关行业的国家或区域承诺的基础,同时认识到不同类型的企业将采用不同的实施模式.
范围保护上网儿童是一项复杂的挑战,包括治理、政策、操作、技术和法律等众多不同方面.
本指南试图根据现有和公认的模式、框架和其他参考资料,来解决、组织其中的许多领域并确定轻重缓急.
新版指南注重在所有方面对儿童进行保护并防范数字化世界的所有风险,因此强调行业利益攸关方的良好做法,可在起草、制定和管理企业保护上网儿童政策的过程中予以考虑.
本指南不仅为行业参与方提供指导,包括如何通过其服务来管理和遏制他们本来就有义务处理的非法网上活动(例如,网上儿童性虐待材料),还关注并非在所有司法管辖区都定义成犯罪行为的其他问题,其中包括同龄人暴力、网络欺凌和网络骚扰,以及与隐私或总体福祉相关的问题,欺诈或其他威胁,这些问题可能仅在某些情况下对儿童有害.
为此,本指南中包括有关应对儿童在数字世界中面临的风险以及如何采取行动为上网儿童建立安全的环境的良好做法方面的建议.
儿童在使用ICT、互联网或可与之连接的任何相关技术或设备(包括手机、游戏机、联网玩具、手表、物联网、人工智能驱动的系统)时业界可以采取什么措施帮助确保儿童安全,本指南为业界提供了相关建议.
所以,本指南概述了有关保护上网儿童的关键问题和挑战,并为企业和利益攸关方提出了2保护上网儿童业界指南制定本地化和内部的保护上网儿童策略的行动建议.
本指南不包括诸如实际的开发过程或业界保护上网儿童策略可使用的文本等内容.
结构第1部分–概述.
本部分重点介绍本指南的目的、范围和目标受众.
第2部分–保护上网儿童简介.
本部分概述保护上网儿童的问题,简单介绍一些背景信息,包括残疾儿童的特殊情况.
此外,本节提供一些现有的保护上网儿童安全的国际和国家模式示例,说明行业利益攸关方可进行干预的领域.
第3部分–保护和促进儿童权利的关键领域.
本部分概述公司可采取行动的五个关键领域,以保护儿童和青少年在使用ICT时的安全并促进对ICT的积极使用.
第4部分–一般性指南.
本部分就保护儿童在使用ICT时的安全和促进积极使用ICT,包括在儿童中培养负责任的数字化公民意识,向所有行业利益攸关方提供建议.

第5部分–具体功能特性要素清单.
本部分着重向利益攸关方提出关于尊重和支持儿童权利的具体行动的具体建议,包括以下功能特性.
功能特性A:提供连接、数据存储和托管服务功能特性B:提供精心策划打造的数字内容功能特性C:托管用户产生的内容和实现用户连接功能特性D:由人工智能驱动的系统目标受众在《联合国工商业与人权指导原则》1的基础上,《儿童权利与企业原则》呼吁企业通过避免因其运营、产品或服务对儿童造成任何不利影响,来履行尊重儿童权利的责任.
这些原则还阐明了尊重(企业避免对儿童造成伤害的最低要求)和支持(例如,采取自愿行动,努力促进儿童权利的实现)之间的区别.
企业需要确保儿童获得网上保护以及获取信息和言论自由的权利,同时促进儿童对ICT的积极使用.
电信和移动电话行业不同部门之间以及互联网公司和广播机构之间的传统区别正在迅速瓦解并变得模糊不清.
融合正在把这些以前迥然不同的数字流汇聚成一股单一潮流,冲击着世界各地的数十亿人口.
合作和伙伴关系在为更安全、更加可靠地使用互联网和相关技术奠定基础方面发挥着关键的作用.
政府、私营部门、政策制定机构、教育工作者、民间团体、父母和看护人都在实现这一目标中发挥着至关重要的作用.
如第3节所述,业界可在五个关键领域发挥作用.
1《联合国工商业与人权指导原则》3保护上网儿童业界指南2什么是保护上网儿童在过去10年中,互联网在人们生活中的使用和作用发生了巨大变化.
随着智能手机和平板电脑的流行,Wi-Fi和4G技术的普及以及社交媒体平台和应用程序的发展,越来越多的人出于越来越多的理由而上网.
2019年,全球一半以上的人口使用了互联网.
44岁以下的互联网用户所占比例最大,互联网使用率在16-24岁和35-44岁群体中一样高.
在全球范围内,三分之一的互联网用户是儿童(0至18岁).
根据联合国儿童基金会的估计,71%的青少年已经上网2.
互联网接入点的激增、移动技术和支持互联网设备的日益增长,再加上网络空间的巨大资源,为学习、共享和交流提供了前所未有的机会.
使用ICT的好处包括更广泛地获得有关社会服务、教育资源和医疗卫生建议的信息.

随着儿童、青少年和家庭更多地使用互联网和移动电话寻求信息和帮助并举报虐待事件,这些技术可帮助保护儿童和青少年免受暴力和剥削.
儿童保护服务提供商还利用ICT收集和传输数据,从而促进了出生登记、案件管理、家庭追踪、数据收集和绘制暴力地图等工作.
此外,互联网增加了从全球各个角落获取信息的机会,使儿童和青少年能够研究几乎他们感兴趣的任何主题、接触全球媒体、追求职业前景并谋划未来.
ICT的使用增强了儿童和青少年维护自身权利并发表意见的能力,还使他们能够与家人和朋友保持联系和沟通.
ICT也是文化交流和娱乐的重要方式.
尽管互联网带来了巨大的好处,但儿童和青少年在使用ICT时也会遇到许多风险.
他们可能会接触到少儿不宜的内容或有不当接触,包括潜在的性虐待罪犯.
他们可能会因在网上或通过"色情信息"发布敏感的个人信息而名誉受损,而且往往无法理解他们的行为对自己和他人的影响以及留下的长期"数字足迹".
他们还面临着因数据收集和位置信息的收集和使用所带来的与网络隐私有关的风险.
《儿童权利公约》是获得最广泛批准的国际人权条约3,其中规定了儿童的民事、政治、经济、社会和文化权利.
该公约确立了所有儿童和青少年都有受教育的权利;从事休闲、娱乐和文化活动的权利;获得适当信息的权利;思想和言论自由的权利;隐私权,并根据他们不断发展的能力对影响他们的一切事项发表意见的权利.
此公约还保护儿童不受任何暴力、虐待、剥削和歧视行为,并规定在一切影响儿童和青少年的事项上,应以儿童的最大利益为首要考虑因素.
父母、看护人、教育工作者和社区成员,包括社区领导人和民间团体参与者,有责任在儿童和青少年迈向成人的成长过程中对其进行养育和支持.
各国政府在确保所有此类利益攸关方履行这一职责中发挥着重要作用.

在保护儿童网上权利方面,各个行业需要共同努力,在儿童的保护权与他们获取信息和言论自由的权利之间取得谨慎的平衡.
因此,企业应优先考虑那些针对性强且不会对儿童和其他用户造成过度限制的上网儿童和青少年保护措施.
此外,人们越来越多的共识是,促进儿童和青少年的数字化公民意识,开发有助于儿童积极使用ICT的产品和平台,应成为私营部门关注的重点.
2经济合作与发展组织,"新技术与二十一世纪的儿童:最新趋势与结果",第179号教育工作文件.

3《联合国儿童权利公约》.
除了三个国家(索马里、南苏丹和美国)之外,所有国家都批准了《儿童权利公约》.
4保护上网儿童业界指南尽管网络技术为儿童和青少年进行交流、学习新技能、发挥创造力并助力社会改善提供了众多机会,但这类技术也会给儿童和青少年的安全带来新的风险.
此种技术会让儿童和青少年面临与隐私、非法内容、骚扰、网络欺凌、滥用个人数据或以性为目的诱骗甚至儿童性虐待和剥削相关的潜在风险和伤害.
儿童和青少年也可能会因"报复性色情"而名誉受损,这些"报复性色情"与在网上或通过"色情信息"发布敏感个人信息有关.
"色情信息"是用户通过手机发送露骨色情信息、照片或图像的一种方式.
在使用互联网时,他们还面临着与网络世界隐私相关的风险.
儿童由于其年龄和发育成熟度的性质,往往无法完全理解与网络世界相关的风险以及他们的不当行为对他人和自己可能产生的负面影.
尽管使用新兴和更先进的技术具有有利的一面,但也有不利的一面.
人工智能和机器学习、虚拟现实和增强现实、大数据、机器人技术和物联网的发展必将进一步改变儿童和青少年在媒体上的做法.
尽管发展这些技术的主要目的是为了扩大服务范围并增强便利性(例如,通过语音协助、无障碍获取和新形式的数字化沉浸式技术),但其中一些技术可能会产生意料之外的影响,甚至会被性侵儿童罪犯滥用以满足他们的需要.
为儿童和青少年创造安全的网上环境需要政府、私营部门和所有利益攸关方的有效参与.

关注父母和教育工作者的数字化技能和素养也必须成为其中一个首要目标.
在实现这些目标方面,行业可发挥至关重要和持续的作用.
有些儿童可能对网上风险及其应对方式有很好的了解,但这不能代表所有儿童,尤其是弱势群体中的儿童.
根据联合国可持续发展目标中的具体目标16.
2(旨在消除对儿童进行虐待、剥削、贩卖以及一切形式的暴力和酷刑),保护上网儿童至关重要.

自2009年以来,国际电联一直在实施旨在汇集国际利益攸关多方努力的"保护上网儿童举措"(COPIniave),目的是提高人们对儿童上网风险的认识以及应对这些风险的能力.
此举措汇集了来自全球社会各个行业的合作伙伴,以确保各地儿童拥有安全和有保障的上网体验.
作为该举措的一部分,国际电联于2009年发布了一套针对四个群体的保护上网儿童指南,分别是:儿童,父母、监护人和教育工作者,业界,政策制定机构.
在这些指南中,保护上网儿童举措被理解为一种兼容并包的方法,以应对儿童和青少年可能在网上遇到的或由网络技术促成的所有潜在威胁和伤害.
在本文件中,保护上网儿童还包括发生在网下但与网上暴力和虐待的证据有关的对儿童造成的伤害.
除了考虑儿童的网上行为和活动外,保护上网儿童举措还包括除儿童外的其他人滥用技术剥削儿童的行为.
所有相关利益攸关方均应发挥作用,帮助儿童和青少年从互联网提供的机会中受益,同时获得保障其网上福祉和保护所需的数字化素养和复原力.
保护儿童和青少年是所有利益攸关方的共同责任.
为此,政策制定机构、业界、父母、看护人、教育工作者和其他利益攸关方必须确保儿童和青少年能够在网上和网下均发挥潜力.
5保护上网儿童业界指南虽然没有统一定义,但保护上网儿童应采取整体性方法为儿童和青少年建立安全、适龄、具有包容性和参与性的数字化空间,其特点为:面对威胁时的应对、支持和自助;预防危害;在实现保护和为儿童提供成为数字化公民的机会之间达到动态平衡;维护儿童和社会的权利和责任.
此外,由于科技和社会的飞速发展,以及互联网的无国界特征,保护上网儿童需要保持灵活性和适应性才能发挥作用.
随着技术创新的发展,会出现新的挑战,这些挑战通常因地区而异.
因为需要找到应对这些挑战的新办法,所以这些问题最好通过国际社会的共同努力来解决.
2.
1背景信息随着互联网完全融入儿童和青少年的生活,已无法将数字世界和物理世界分开考虑.
这种连通性极大地增强了儿童和青少年的能力.
网络世界使儿童和青少年能够战胜不利和残疾,并为娱乐、教育、参与和建立关系提供了新的舞台.
目前的数字化平台被用于各种活动,而且往往是多媒体体验.
获得并学会使用和驾驭这种技术被视为对青少年的发展至关重要,因为他们在年龄还小的时候就开始使用ICT.
因此,所有参与方都必须认识到,儿童和青少年往往在达到技术行业必须遵守的所规定最低年龄之前就已开始使用平台和服务,所以教育与保护措施应一同被纳入儿童使用的所有网上服务当中.
6保护上网儿童业界指南2.
1.
1数字化世界中的儿童互联网接入2019年,全球一半以上的人口使用互联网(53.
6%),估计用户有41亿.
在全球范围内,三分之一的互联网用户是18岁以下的儿童1.
根据联合国儿童基金会的数据,全世界有71%的青少年已经上网2.
尽管有最低年龄要求,但据Ofcom(英国通信管理局)估计,近50%的10至12岁儿童已经拥有社交媒体账户3.
目前,儿童和青少年在互联网上进行着大量的、永久性的和持续性的活动.
互联网还服务于其他社会、经济和政治目的,已成为家庭或消费产品或服务,是家庭、儿童和青少年生活方式的一部分.
2017年区域层面的情况表明,儿童和青少年接入互联网与国民收入水平密切相关.
低收入国家的儿童互联网用户数量往往低于高收入国家.
大多数国家的儿童和青少年在周末上网的时间比平时多,15-17岁的青少年上网时间最长,根据国家的不同,时间在2.
5至5.
3小时之间.
1Livingstone,S.
,Carr,J.
和Byrne,J.
(2015年)《三分之一:全球互联网治理在解决儿童权利方面的任务》.
全球互联网治理委员会:报告系列.
伦敦:全球互联网治理委员会和英国皇家国际事务研究所(ChathamHouse),hps://www.
cigionline.
org/publicaons/one-three-internet-governance-and-childrens-rights.
2宽带委员会,《儿童上网安全:最大程度地减少网络暴力、虐待和剥削的风险》(2019年),宽带可持续发展委员会,2019年10月,第84页,hps://broadbandcommission.
org/Documents/working-groups/ChildOnlineSafety_Report.
pdf.
3BBC,"Ofcom称,低龄化的社交媒体使用'正在上升'".
7保护上网儿童业界指南互联网使用在儿童和青少年中,最流行的上网设备是手机,其次是台式计算机和笔记本电脑.
儿童和青少年每周平均每天花2小时上网,周末则是4小时.
虽然有些人感觉自己与外界永远保持着联系,但还有许多人仍然无法在家里上网.
实际上,大多数使用互联网的儿童和青少年通过不止一种设备上网,那些至少每周上网的人有时使用多达三种不同的设备上网.
在每个开展调查的国家中,年龄较大的儿童和富裕国家的儿童通常会使用更多的电子设备,男孩使用电子设备的数量略多于女孩.
最受女孩和男孩欢迎的活动是观看视频短片.
超过四分之三的使用互联网的儿童和青少年报告说,他们至少每周都会单独或与其他家庭成员一起观看网上视频.
可以把许多儿童和青少年视为"活跃的社交者",因为他们使用多个社交媒体平台,例如Facebook、Twier、抖音海外版或Instagram.
儿童和青少年还在网上参与政治活动,并通过博客发出自己的声音.
参与网络游戏的总体程度因国家而异,大致与儿童和青少年上网的便利程度相符.
但是,网络游戏的可得性和价格可承受性正在迅速变化,而且首次接触网络游戏的儿童和青少年的年龄越来越小.
在选定的一组国家进行的调查中,每周有10%至30%使用互联网的儿童和青少年从事创造性的网上活动1.
出于教育目的,各年龄段的许多儿童和青少年每周都会利用互联网做家庭作业,甚至在缺课后补课或在网上寻找健康信息.
年龄较大的儿童似乎比年龄较小的儿童对信息的需求更大.
1Livingstone,S.
、KardefeltWinther,D.
和Hussein,M(2019年)《全球上网儿童比较报告》,因诺琴蒂研究报告.
联合国儿童基金会佛罗伦萨因诺琴蒂研究中心,hps://www.
unicef-irc.
org/publicaons/1059-global-kids-online-comparave-report.
html.
8保护上网儿童业界指南网上儿童性剥削和性虐待网上儿童性剥削和性虐待(CESA)内容正在以惊人的速度增长.
十年前,举报的虐待儿童材料档案不到100万份.
2019年,这一数字已攀升至7000万份,比2018年的数字增加了近50%.
此外,在向主管部门的举报中,虐待的视频首次超过了照片,这表明需要新的工具来应对这一趋势.
CESA受害者来自各年龄段,但越来越年轻.
2018年,INHOPE热线网络注意到,受害者的特征从青春期少年变为青春期前少年.
此外,国际终止儿童卖淫及贩卖儿童协会(ECPATInternaonal)和国际刑警组织在2018年的研究发现,年龄较小的儿童更有可能遭受严重虐待,包括酷刑、暴力强奸或施虐癖,这包括只有几天、几周或几个月大的婴儿.
虽然女孩受到的影响更大,但男孩受到的虐待可能更为严重.

同一报告显示,报告中提到的受害者中有80%是女孩,17%是男孩.
评估报告的3%提到了男女儿童1.
数据速览2全世界有三分之一的互联网用户是儿童.
每半秒钟,就有一位儿童第一次上网.
8亿儿童使用社交媒体.
在任何时候,估计有75万人在网上以性为目的寻求与儿童建立联系.
在欧洲刑警组织(EUROPOL)资料库中,有超过4600万张关于CSAM的不重复图像或视频.
89%以上的受害者的年龄介于3至13岁之间.
有关网上CESA的规模和应对的更多信息,请参阅WePROTECT全球联盟(WePROTECTGlobalAlliance)相关介绍.
1ECPATInternaonal和国际刑警组织,《建立关于未确认身份的儿童性剥削材料受害者的全球指标:摘要报告》,2018.
2终止暴力侵害儿童行为全球伙伴关系,《安全上网》.
2.
1.
2不同平台对儿童数字化体验的影响互联网和数字化技术给儿童和青少年既带来了机会,也带来了风险.
其中一些机会和风险概述如下.
当儿童使用社交媒体时,他们从探索、学习、交流和发展关键技能的众多机会中受益.
儿童将社交网络视为让他们在安全环境中探索个人身份的平台.
掌握相关技能,知道该如何解决与隐私和声誉有关的问题,对青少年来说非常重要.
"我知道你在互联网上发布的所有内容都会永远留在那里,它可能会影响你未来的生活.
"一个来自智利的14岁的男孩说.
9保护上网儿童业界指南然而,调查显示,大多数儿童在规定的最低年龄13岁之前就开始使用社交媒体,而年龄核实服务普遍薄弱或缺乏,因此儿童可能会面临严重的风险.
此外,虽然儿童希望学习数字化技能,成为数字化公民,控制隐私设置,但他们往往更加关注与朋友和熟人有关的隐私–"我的朋友能看到什么"–而对与陌生人和第三方有关的隐私关注则较少.
这一点,加上儿童天生的好奇心和普遍较低的风险门槛,会使他们容易受到诱骗、剥削、欺凌或其他类型的有害内容或接触.
通过移动应用分享图像和视频的广泛流行,特别是儿童使用直播平台,引发了进一步的隐私关切和风险.
一些儿童制作本人、朋友和兄弟姐妹的性图像并在网上分享.
2019年,在互联网观察基金会(IWF)标注的所有网页中,有近三分之一(29%)的网页含有用户自制的图像.
其中,76%显示的是11-13岁的女孩,大多数是在卧室或家庭环境中的另一个房间.
对于一些人,特别是年龄较大的儿童来说,这可以看作是对性和性身份的自然探索;而对于另外一些人,特别是年龄较小的儿童来说,往往是受到成人或其他儿童的胁迫.
无论何种情况,由此产生的内容在许多国家都是非法的,可能会使儿童面临被起诉的风险,或被用来进一步剥削、诱骗或勒索儿童.
同样,网络游戏使儿童能够实现其玩耍的基本权利,以及建立网络、与朋友相处和结识新朋友,并发展重要的技能.
虽然这可能具有压倒性的积极意义,但在某些情况下,如果没有负责任的成年人的监督和支持,游戏平台也会给儿童带来风险.
这包括过度游戏,与过度购买游戏内物品有关的财务风险,行业参与方收集儿童的个人数据并变现,网络欺凌,仇恨言论,暴力和接触不当行为或内容,诱骗,使用真实的、计算机生成的甚至是虚拟现实的图像以及展示CSEA材料并使之常态化的视频.
这些风险并不是游戏环境所独有的,也同样存在于儿童花费时间的其他数字环境中.
此外,科技的发展导致了"物联网"的出现,越来越多和越来越广泛的联网设备能够通过互联网进行通信和联网.
这包括玩具、婴儿监测器和由人工智能驱动的设备,它们可能会带来隐私和意外接触方面的风险.
10保护上网儿童业界指南良好做法:研究关于网上或网络欺凌,微软对数字安全和网络欺凌进行了研究.
2012年,微软对25个国家的8-17岁儿童进行了关于网上负面行为的调查.
结果显示,平均有54%的参与者表示担心自己在网上会被欺负;37%的参与者表示自己遭受过网络欺凌;24%的参与者透露自己曾欺负过别人.
同一项调查显示,只有不到十分之三的父母曾与孩子讨论过网络欺凌问题.
自2016年以来,微软一直在对网络风险进行定期研究,提供年度数字文明指数报告(DigitalCivilityIndexreports).
FACES(面孔)是由日本NHK和多家公共服务广播机构联合体共同制作的多媒体节目,讲述了世界各地网络欺凌和网下欺凌受害者的故事.
通过一系列的青少年肖像,故事主人公对着镜头解释他们如何应对网络上的攻击.
该系列作品也是以两分钟短片的形式制作,已被Facebook、联合国教科文组织(UNESCO)和欧洲理事会(CouncilofEurope)采用,并有多种语言可供使用.
2019年,联合国儿童基金会发表了一份关于《儿童权利与网络游戏:儿童和业界的机遇和挑战》的讨论文件,以解决儿童在增长最快的娱乐行业所面临的机遇和挑战.
该文件探讨了以下主题:儿童玩耍的权利和言论自由(游戏时间和健康结果);不受歧视、参与和免受虐待(社交互动和包容、有毒环境、年龄限制和核实、保护免受诱骗和性虐待);隐私权和免受经济剥削的自由(以数据换取接入权限(data-for-access)的商业模式、免费游戏和货币化、商业内容缺乏透明度).
11保护上网儿童业界指南良好做法:技术谷歌虚拟现实行动实验室研究虚拟现实如何帮助鼓励青少年面对网下和网络欺凌时挺身而出1.
2019年9月,BBC推出了一款名为"OwnIT"(意为"掌控信息技术")的移动应用,这是一款针对8-13岁收到第一部智能手机的儿童福祉的应用.
该应用是BBC在当今不断变化的媒体环境中支持青少年的承诺的一部分,也是继2018年成功推出"OwnIT"网站之后的又一举措.
此应用结合了最先进的机器学习技术,以跟踪儿童在智能手机上的活动,并为儿童提供自我评估情绪状态的可选方法.
此应用利用这些信息提供量身定制的内容和干预措施,帮助儿童在网上保持快乐和健康.
当他们的行为偏离标准时,提供友好和支持性的提示.
用户在寻求帮助时可访问该应用.
此外当用户需要时,此应用也可通过特别开发的键盘在屏幕上提供即时的建议和支持.
其中一些功能包括:提醒用户在社交媒体上分享手机号码等个人信息前要三思而行.
在点击发送之前,帮助他们了解信息可能会被他人发现.
跟踪他们的情绪,必要时提供如何改善情绪的指导.
提供关于熬夜使用手机等话题的信息,以及对用户健康的影响.
这款应用的特色是内容由BBC各部门特别委托制作.
应用提供有用的材料和资源,帮助青少年充分利用上网时间,建立健康的上网行为和习惯.
它帮助青少年和父母就他们的上网经历进行更有建设性的对话,但不会向父母提供报告或反馈,用户的设备上也不会留下任何数据.
该应用不会收集任何个人数据或用户产生的内容,因为整个机器学习是在应用内和用户的设备内运行的.
为了保证不侵犯隐私,会单独在训练数据上对机器进行训练.
1有关更多信息,请参见AlexaHasse等人,《青年和网络欺凌:重新审视》,伯克曼·克莱因互联网与社会中心(BerkmanKleinCenterforInternet&Society),2019年.
2.
1.
3残疾儿童的特殊情况4残疾儿童和青少年上网面临的风险与非残疾儿童和青少年类似,但除此之外,他们也可能面临与残疾有关的特定风险.
残疾儿童和青少年在参与社区活动时经常面临被排挤、被侮辱和各种障碍(身体、经济、社会和态度).
这样的经历会对残疾儿童在网络空间中寻求社交互动和友谊产生负面影响,而这些活动本可能带来积极的影响,有助于树立自尊并建立支持网络.
但是,这也会让他们更易面临诱骗、网络教唆和/或性骚扰事件的风险.
研究表明,网下遇到困难的儿童和青少年和受到心理社会困境影响的儿童和青少年人面临此类事件的风险更高5.
4见欧洲理事会:《向前两步,向后一步:关于数字化环境中残疾儿童的报告》,2019.

5《教唆、骚扰和问题内容》,伯克曼互联网与社会中心(BerkmanCenterforInternet&Society).
12保护上网儿童业界指南总体而言,在网下受到伤害的儿童在网上也很可能受到伤害.
这使得残疾儿童在网络中面临的风险更高,但他们却更需要上网.
研究表明,残疾儿童更有可能遭遇各种形式的虐待6,特别是性侵害7.
侵害可能包括基于儿童实际的或感知的残疾或基于与残疾相关的方面(例如他们的言行方式或使用的设备或服务)的欺凌、骚扰、排挤和歧视.

对残疾儿童和青少年进行诱骗、网络教唆和/或性骚扰的罪犯不仅包括针对儿童和青少年的先决型犯罪者,还包括针对残疾儿童和青少年的先决型犯罪者.
这些犯罪者可能包括"慕残者",即在性方面对残疾人(最常见的是截肢者和使用行走辅助工具的人)产生爱慕之情的非残疾人,其中一些人甚至伪装成残疾人8.
这些人的行为包括下载残疾儿童和青少年(本质上是无害的)的照片和视频和/或通过专门的论坛或社交媒体账户共享这些照片和视频.
论坛和社交媒体上的举报工具通常不具备适当的手段来处理此类行为.
有人担心,"晒娃"(父母在网上分享其子女和青少年的信息和照片)可能会侵犯儿童的隐私,导致欺凌和尴尬,或对孩子们以后的生活中带来负面影响9.
有些残疾儿童和青少年的父母在寻求支持或建议时可能会分享孩子们的信息或媒体,从而使孩子们现在和将来都面临隐私被侵犯的风险.
这类父母还可能成为无知或不法之徒的目标,后者借口可为孩子的残疾提供治疗、疗法或"治愈"方法等.
因为不知道该如何最好地指导孩子使用互联网或保护他们免受欺凌或骚扰,有些残疾儿童和青少年的父母可能对他们采取过度保护措施10.
由于设计未考虑无障碍获取(例如应用不支持文字缩放)、拒绝提供要求的调适(例如屏幕阅读器软件或自适应计算机控件)或需要的适当支持(例如提供设备使用方法指导,一对一的支持以引导社交互动),一些残疾儿童和青少年可能会在使用中遇到困难,甚至受到网络环境的排挤11.
2.
2现有的国家和跨国保护上网儿童模式在全球层面,有若干个保护上网儿童和青少年安全的模式被采用.
业界利益攸关方应考虑将这些模式作为国际举措的指导,并作为确保业界不遗余力地保护上网儿童和青少年的框架.
互联网行业是一个多样化和复杂的领域,由不同规模和功能的企业组成.

重要的是,不仅围绕内容的平台和服务要解决儿童保护问题,而且为互联网基础设施提供支撑的企业也要解决这一问题.
6联国儿基会(2013年),《2013年世界儿童状况:残疾儿童》.
7KatrinMueller-Johnson等人,《肢体残疾青年的性侵害:对流行率、风险因素和保护因素的调查》,《人际暴力期刊》,2014.
8RichardLBruno,《慕残者、扮残者、自残者:两起做作性残疾障碍案例》,《性与残疾期刊》,1997年.
9联合国儿童基金会,《Web2.
0和3.
0时代的儿童隐私:政策的机遇和挑战》,因诺琴蒂2017-03号讨论文件.
10联合国儿童基金会,《儿童网上参与存在阶梯吗》,因诺琴蒂研究中心,2019年.

11关于这些权利的导则,《联合国残疾人权利公约及其任择议定书》,尤其是第九条"无障碍"和第二十一条"表达意见的自由和获得信息的机会".
13保护上网儿童业界指南必须要指出的是,一个行业引入全面的儿童保护策略的能力受限于其可用的资源.

因此,本指南建议各行业共同努力,部署保护用户的服务.
通过共享资源和工程专业知识,各行业才能够更有效地营造防止虐待的"安全空间".
行业合作技术联盟(TechnologyCoalion)是行业利益攸关方之间成功开展合作,应对儿童性剥削和性虐待(CSEA)的示例之一.
跨国模式各行业应将相关的国际指南纳入其结构方案之中,并遵守其经营所在国所适用的任何相关的国家或跨国法律.
各行业不仅应考虑它们必须在法律层面上采取的行动,还应考虑它们可以开展哪些活动,并在可能的情况下,寻求在全球范围内落实各种举措.
其中一些模式为此类举措提供了原则,包括:五国部长级打击网上儿童性剥削和性虐待(CSEA)自愿原则(2020);宽带可持续发展委员会,《儿童上网安全:最大限度地减少网路暴力、虐待和剥削的风险(2019年)》;WePROTECT全球联盟,《针对网上儿童性剥削和性虐待的全球战略对策(2019)》;制止暴力侵害儿童行为全球伙伴关系,《安全地学习:行动呼吁》;数字世界中的儿童尊严,儿童尊严联盟:(2018年)技术工作组报告;;欧洲议会和理事会(欧盟)第2018/1808号指令:《视听媒体服务指令》;;欧盟委员会《通用数据保护条例》(2018年);经合组织关于保护上网儿童的建议(2012年).
国家模式有一些国家和国际模式明确规定了技术行业在处理保护上网儿童方面的作用和责任.
其中一些模式并非专门针对儿童本身,但可适用于作为互联网用户的儿童.
这些模式为行业提供了有关监管政策、标准和与其他部门合作的总体指导方针.
就本文而言,着重介绍此类模式中适用于ICT行业的主要原则.
英国《适龄设计守则》2019年初,英国信息专员办公室公布了关于保护儿童数据的适龄设计守则的建议.

拟议的守则基于联合国《儿童权利公约》中所规定的儿童的最大利益,并对行业提出了若干期望.
该守则包括十五项标准,其中包括位置服务针对儿童默认关闭,行业只收集和保留最低水平的儿童个人数据,产品在设计上要具有保障隐私,以及解释要适合儿童的年龄并易于理解.
14保护上网儿童业界指南新西兰有害数字通信法《2015年法案》将网络虐待行为定为一项具体的犯罪,并关注从网络欺凌到报复性色情的广泛危害.
此法案旨在阻止、防止和减少有害的数字通信,规定发布数字通信信息意图给他人造成严重的精神痛苦是非法的,并规定了10条通信原则.
此法案授权用户发现违反这些原则的情况可以向独立组织投诉,或者在问题得不到解决的情况下向法院申请针对信息作者或托管方的指令.
澳大利亚电子安全专员办公室澳大利亚电子安全专员(eSafetyCommissioner)办公室成立于2015年,是世界上第一个致力于解决网络虐待问题、保护公民上网安全的政府机构.
作为国家独立的网络安全监管机构,电子安全专员办公室拥有强大的综合职能.
这些职能包括从通过提高认识、教育、研究和最佳做法指导进行预防,到通过多种法定监管机制进行早期干预和伤害补救,赋予电子安全专员办公室快速清除网络欺凌、基于图像的虐待和非法网络内容的权力.
这种广泛的职权范围使电子安全专员办公室能够以多层次、全方位、积极主动的方式解决网络安全问题.
2018年,电子安全专员办公室制定了设计保障安全(SafetybyDesign)举措,该举措把用户的安全和权利置于设计、开发和部署网上产品和服务的核心地位.
一套设计保障安全原则是该举措的核心,它为行业制定了现实的、可操作的和可实现的措施,以更好地保护和保障上网公民.
三大首要原则是:1)服务提供商的责任:安全的重担决不应该只落在最终用户身上.
可以采取预防措施,确保在设计和提供网上服务时,对已知和预期的危害进行评估,降低服务对促进、煽动或鼓励非法和不当行为的可能性.
2)增强用户能力和自主性:用户的尊严和他们的最大利益是最重要的.
在服务设计中应支持、扩大和加强用户的能动性和自主权,让用户可以更好地控制、管理和规范自身的体验.
3)透明度和问责制:这些都是采取强有力的安全措施的标志,可以保证服务按照其公布的安全目标运行,同时教育公众并增强他们的能力,使他们了解可以采取哪些措施来解决安全问题.
WePROTECT全球联盟"WePROTECT全球联盟"战略的核心是支持各国在联盟"国家应对措施范本"(MNR)的指导下,制定协调一致的多利益攸关方应对措施,以解决网上的儿童性剥削问题.
该范本可作为国家行动的蓝图,为各国提供用以解决网上儿童性剥削问题的框架.
在WePROTECT国家应对措施范本中,规定了一套信息通信技术企业要遵守的明确承诺,内容涉及:通知和下架程序;举报网上儿童性剥削和性虐待(CSEA)内容;开发技术解决方案;以及15保护上网儿童业界指南投资于有效的保护上网儿童预防方案和应对服务.
终止暴力侵害儿童行为全球伙伴关系和基金联合国秘书长于2016年启动了"终止暴力侵害儿童行为全球伙伴关系和基金",其目标只有一个:通过来自各个行业400多个伙伴的独特合作,促进和支持旨在到2030年消除一切形式的暴力侵害儿童行为的行动.
工作重点是营救和支持受害者,侦查和预防犯罪的技术解决方案,支持执法、立法和政策改革,形成关于网上儿童性剥削和性虐待材料规模和性质的数据和证据,以及了解儿童的观点12.
3保护和促进儿童权利的领域本节概述了公司可采取行动的五个关键领域,以保护儿童和青少年使用ICT时的安全并促进对ICT的积极使用.
3.
1将对儿童权利的考虑纳入所有适当的公司政策和管理流程之中纳入对儿童权利的考虑需要公司采取充分的措施,识别、防止、减轻以及酌情补救对儿童权利的潜在和实际不利影响.
《联合国工商业与人权指导原则》呼吁所有企业和行业制定适当政策和程序,履行尊重人权的责任.
业界在数据保护和言论自由方面应特别关注作为弱势群体的儿童和青少年.
联合国大会关于数字时代隐私权的第68/167号决议重申,隐私权和言论自由的权利不受非法干涉.
此外,联合国人权理事会关于在互联网上增进、保护和享有人权的第32/13号决议认识到,互联网具有全球性和开放性,是加速发展进程的推动力,并确认人们在网下享有的各种权利在网上也须受到保护.
在缺乏充分的法律框架保护儿童和青少年隐私权和言论自由权利的国家,公司应加强尽职调查,以确保政策和做法符合国际法.
网上通信方式在持续提高青年公民的参与程度,因此公司负有更大责任尊重儿童和青少年的权利,即便在国内法尚未跟上国际标准的情况下.
公司应建立操作层面的申诉机制,为受影响的个人提供方式,提出对潜在违规行为的关切.
操作层面的机制应可供儿童、他们的家人以及能够代表他们利益的人员使用.
《工商业与人权指导原则》第31条指出,此类机制应是合法、可用、可预见、公平、透明、权利兼容的,是持续学习的源泉,并且建立在参与和对话的基础之上.
申诉机制应与处理负面影响的内部流程共同确保公司拥有相应框架,保证儿童和青少年在权利受到威胁时有合适的求助手段.
当公司对ICT安全采取基于合规的做法,注重遵守国家立法,且当国家立法不完备时遵循国际指导原则,并且避免对儿童和青少年权利造成不利影响时,公司就是在积极促12欲了解更多信息,请参阅"终止暴力侵害儿童的行为","终止暴力行为基金受助人".

16保护上网儿童业界指南进儿童和青少年的发展和福祉,通过自发行动增进儿童和青少年获取信息、言论自由、参与、教育和文化方面的权利.
良好做法:政策与符合年龄的设计应用开发商TocaBoca为儿童生产数字化玩具.
该公司隐私政策旨在告知公司收集哪些信息以及如何加以使用.
TocaBoca公司是PRIVO儿童隐私权保障COPPA安全港认证计划的成员.
乐高生活是安全社交媒体平台的一个示例,供13岁以下的儿童分享自己的乐高创作、获得灵感并安全互动.
在这里创建账户不要求任何儿童个人信息,仅凭父母或看护人的电子邮件地址即可创建账户.
这一应用还为儿童和家庭创造了机会,在积极的环境中讨论上网安全和隐私.
符合年龄的设计示例包括一些主流公共服务广播机构对特定年龄组专门提供内容:例如,德国广播电视联合会(ARD)和德国电视二台(ZDF)针对14岁以上的受众,通过网上频道funk.
net提供定制内容.
英国广播公司(BBC)推出了面向6岁以下儿童的CBeebies.
该网站内容专门针对各个年龄组量身定制.

良好做法:政策与技术推特一直在投资有助于稳步减轻人们举报负担的专有技术1.
具体而言,50%以上推特针对其滥用性质跟进的推文目前使用技术主动浮现(2018年为20%),而非依赖向推特举报.
这一新技术用于处理隐私信息、敏感媒体、仇恨行为、虐待和冒充等方面政策内容.
1推特,"第15份透明度报告:增加对账户的主动执行行动".
3.
2建立处理儿童性虐待材料(CSAM)的标准流程2019年,网络观察基金会(IWF)对132,676个确认含有儿童性虐待内容的网页开展行动13.
任何URL均可包含数百甚至数千个图像和视频.
在IWF处理的图像中,45%的图像带有10岁或以下的儿童;而1,609个网页描绘0-2岁的儿童,其中71%含有最严重的性虐待,如强奸和性酷刑.
这些令人不安的事实突显出业界、政府、执法机构和民间团体协作行动打击CSAM的重要性.
虽然许多政府正在通过颁布立法、追捕和起诉施虐者,提高认识以及支持儿童和青少年从虐待或剥削中恢复来应对CSAM的传播,但是仍有许多国家尚未建立适当制度.
每个国家均须建立机制,使公众能够举报此类性质的虐待和剥削内容.
业界、执法机构、政府和民间团体必须合作,共同确保符合国际标准的充分法律框架落实到位.
此类框架应将所有形式的儿童性虐待和性剥削(CSEA)定为违法行为,包括CSAM的形式,同时保13IWF,"2019年年度报告–为什么、怎么样、谁及结果".
17保护上网儿童业界指南护受虐待或剥削的儿童受害者.
这些框架必须确保举报、调查和内容删除流程尽可能高效运行.
业界应提供国家热线或其他当地可用热线的链接,例如在某些国家的IWF门户网站,若没有当地举报机会,则提供其他相关国际帮助热线,如美国国家失踪与受剥削儿童保护中心(NCMEC)或国际互联网热线协会(INHOPE),其中任何国际热线均可用于进行举报.
负责任的公司正采取多项措施,防止自己的网络和服务被用于传播CSAM.
其中包括将明确禁止此类内容或行为的表述引入条款和条件或行为准则14;制定健全的通知及下架流程;以及与国家热线合作并提供支持.
此外,一些公司通过部署技术措施,防止自己的服务或网络被滥用于共享已知CSAM.
举例而言,有关部门确认网站链接含有CSAM,而网站所托管的国家没有将其快速移除的程序,在这种情况下,一些互联网服务提供商会禁止对该URL的访问.
还有其他企业正在部署哈希技术,自动检测并移除执法部门和热线已识别的儿童性虐待图像.

业界成员应对纳入其业务范围的所有相关服务做出考虑,防止儿童性虐待内容的传播.

业界参与方应承诺分配适度的资源,继续开发和共享最好是开源技术解决方案,以检测并移除CSAM.
良好做法:技术微软采用四管齐下的方式促进负责任且安全的技术使用,注重技术本身、自我管理、伙伴关系以及消费者教育和宣传.
微软还设有帮助增强个人能力的内置功能,以更有效地对网上安全进行管理.
"家庭安全"是其中一个这样的功能,方便父母和看护人监控孩子的互联网使用情况.
微软在其平台上实施了防止骚扰政策,违反规定的用户将被关闭账户,或在更严重的违规情况下采取执法措施.
微软PhotoDNA是创建图像哈希并与已识别和确认为CSAM的哈希数据库进行对比的工具.
如果找到匹配要素,图像将被屏蔽.
这一工具使内容提供商能够将数百万张非法照片从互联网上删除;有助于将儿童性侵害者定罪;并在某些情况下,帮助执法部门在潜在受害者遭到实际伤害前予以救援.
长期以来,微软一直致力于保护其用户不受其产品和服务中的非法内容的影响,而顺理成章的下一步即是应用该公司已开发的技术打击日益增长的非法视频.
但是,这一工具未采用面部识别技术,亦不能识别图像中的人或物体.
不过,随着PhotoDNAforVideo(视频)的发明,情况有了新的转变.
PhotoDNAforVideo将视频分解为关键帧,本质上对这些屏幕截图创建哈希.
PhotoDNA对为了逃避检测而更改的图像进行比对,与此相同,PhotoDNAforVideo能够在经过编辑或拼接为可能看似无害的视频中找到儿童性剥削内容.
14应注意,不当用户行为不仅限于CSAM,任何类型的不当行为或内容均应由公司相应处理.

18保护上网儿童业界指南此外,微软最近发布了一个新工具,用于识别网上聊天中诱骗儿童进行性虐待的侵害者.
这款与Meet集团、Roblox、Kik和Thorn协作开发的以微软专利技术为基础的ProjectArtemis将通过Thorn向提供聊天功能、符合资格的网络服务公司免费提供.
ProjectArtemis是一款技术工具,帮助提醒管理员需要对聊天室进行审查.
利用这一网上性诱骗检测技术,识别、处理和举报企图出于性目的引诱儿童的侵害者将成为可能.
IWF为业界成员提供一系列服务,保护用户免于无意中接触CSAM.
其中包括:灵活、保证质量的直播材料URL禁用列表;涉及CSAM的已知犯罪内容的哈希列表;已知CSAM相关隐秘术语的特有关键词列表;已知托管儿童性虐待内容的域名详细信息列表,以便快速移除托管非法内容的域名.
3.
3营造更安全和符合年龄的网上环境在生活中,可始终视为绝对安全且毫无风险的事物寥寥无几.
即便在对交通流动严格监管和密切控制的城市,事故仍然会发生.
同样,网络空间也并非没有风险,尤其对于儿童和青少年而言.
儿童和青少年可被视为网络环境中的接受者、参与者和行为者.

他们面临的风险划分为四个方面:15不当内容–儿童和青少年可能在即时消息、博客上点击看似无害的链接搜索其他内容或共享文件时,无意中遇到不当和非法内容.
他们还可能搜寻和分享不当或设有年龄限制的敏感材料.
不同国家对有害内容的界定各不相同,示例包括宣扬药物滥用、种族仇恨、冒险行为、自杀、厌食或暴力等内容.
不当行为–儿童和成年人可使用互联网骚扰甚或剥削他人.
有时儿童可能传播带有伤害性的评论或令人尴尬的图像,或者可能窃取内容或侵犯版权.
不良人员–成人和青少年均可利用互联网寻觅易受攻击的儿童或其他青少年.
通常情况下,他们的目的是让目标对象深信他们已建立有意义的关系,但根本目的在于操纵.
他们可能会试图说服儿童利用网络摄像头或其他录音设备在网上进行性行为或其他虐待行为,或者他们会试图安排见面和身体接触.
这一过程通常称为"网上性诱骗".
商业风险–这一类别指与儿童数据的收集和使用以及数字化营销相关的数据隐私风险.
网上安全是一个社区挑战,也是业界、政府和民间团体合作共同制定安全原则和做法的机会.
业界可以为父母、儿童和青少年提供一系列技术方法、工具和服15SoniaLivingstone等,"欧盟在线儿童:最终报告",伦敦经济学院,2009年.
19保护上网儿童业界指南务,并应首先创造出易于使用、从设计着手保障安全且符合广大用户年龄的产品.

其他方法包括提供工具开发适宜的年龄核实系统,该系统尊重儿童的隐私权和访问权,或限制儿童和青少年访问不符合年龄的内容,或者限制儿童可能接触的人员或可上网的时间等.
最重要的是,需要将包括隐私在内的"从设计着手保障安全"16框架纳入创新和产品设计流程之中.
必须仔细考虑儿童安全和负责任地使用技术,而非充当"事后诸葛亮".
一些程序允许父母监控儿童和青少年发送和接收的文本和其它通信内容.
若要使用这类程序,与孩子开诚布公地讨论很重要,否则此种行为可被视为"暗中监视",并且可能伤害到家人之间的信任感.
可接受使用行为(Acceptable-use)政策是一种方法,公司可通过该方法明确成人和儿童的何种行为是受到鼓励的,何种行为是不可接受的,以及违反这些政策的后果.
应向关注内容和行为的用户提供清楚、透明的举报机制.
此外,需对举报予以适当跟进,并及时提供有关举报现状的信息.
尽管公司在个案层面对后续跟进机制的实施可有所差异,但有必要设定明确的回复时间框架,告知对举报所做的决定,并在用户对回复不满意时提供后续跟进方法.
良好做法:举报为遏制数字化平台上的性骚扰,脸书与欧洲联盟共同为儿童网(Childnet)、救助儿童会(SavetheChildren)、KekVonal和中央兰开夏大学(UCLan)的合作项目deSHAME出资.
该项目旨在加强未成年人对网上性骚扰的举报,并改进防止和应对此类行为的多部门合作.
由于该项目的主要目的之一是鼓励用户举报令人不适或不当的内容,因此脸书的社区标准作为脸书上允许和不允许内容的指导原则亦有相关性.
其中还列出了不允许哪类用户在网上发布内容.
脸书还创建了一些安全功能,如"你是否认识此人"功能;"其他"收件箱从用户不认识的人那里收集新消息;如果一个未成年人被他们不认识的成年人联系,则会在新闻推送中弹出.

网上内容及服务提供商亦可描述他们所提供内容或服务的性质,以及预期目标年龄范围.
这些描述应符合已有国家和国际标准、相关规定及相关分级机构针对面向儿童的市场营销和广告所提出的建议.
但是,随着允许用户自创内容发布的交互式服务范围日益扩大,例如通过留言板、聊天室和社交网络服务,这一进程变得更加困难.
当公司专门针对儿童和青少年,和当服务主要瞄准年轻受众时,对方便用户、易于理解且通俗易懂的内容条款以及安全性的预期将高出许多.
还鼓励公司对于收集、处理和存储来自或有关儿童和青少年的数据采用最高隐私标准,因为儿童和青少年可能对透露或同意在网上共享自己的个人信息,或将个人信息用于商业目的的广泛社会和个人影响缺乏成熟认知.
瞄准或可能吸引儿童和青少年作为主要受众的服务必须考虑到获取、或收集和利用个人信息(包括位置信息)可能面临的风险,确保这些风险得到妥善处理并且用户知情.
公司尤其应确保推广服务、提供服务获取,或者获取、收集和使用个人信息时所用的任何材料或通信的语言和风格易于理解,16网络安全专员(eSafetyCommissioner),"从设计着手保障安全概览",2019年.
20保护上网儿童业界指南可协助用户以简单明了的方式管理个人隐私,并以清晰易懂的语言解释他们所同意的内容.
良好做法:创新2018年与2019年间,联合国儿童基金会东亚和太平洋区域办事处组织了五次利益攸关多方圆桌会议,分享有望解决网上CSEA的业界做法.
圆桌会议的与会者是顶尖私营部门公司,如谷歌、脸书、微软、Telenor、爱立信、MobiCom(蒙古)、Mobifone+(越南)、GlobeTelecom(菲律宾)、True(泰国)、全球移动通信系统协会(GSMA)以及包括INHOPE、国际终止儿童卖淫及贩卖儿童协会(ECPAT)和国际儿童帮助热线在内的民间团体合作伙伴.
作为该项目的一部分,儿基金于2020年2月启动智囊团,以加快业界在东亚和太平洋区域防止网络世界中针对儿童的暴力方面的领导地位.
智囊团是想法和创新的孵化器,利用业界参与方(产品创造、市场营销等)的独特视角,开发具有影响力的教育材料并找到最有效的提供平台,以及建立可衡量这些针对儿童的教育材料和信息影响的评估框架.
智囊团包括脸书、Telenor、学术专家、联合国机构,如国际电联、联合国教科文组织和联合国毒品和犯罪问题办公室,以及其他机构,如澳大利亚网络安全专员(AustraliaeSafetyCommissioner)、ECPAT、国际失踪和受虐儿童中心(ICEMEC)、国际刑警组织和消除暴力全球基金.
智囊团成立会议与保护上网儿童东盟区域性大会同时举行,汇聚包括微软在内的专家,在借鉴网上安全材料和信息的基础上,探索更好地跟踪网上行为变化的技术和研究可能性.
3.
4就儿童安全以及负责任地使用信息和通信技术(ICT)向儿童、看护人和教育工作者开展教育技术措施可作为确保儿童和青少年免受网上潜在风险影响的一个重要组成部分,但这仅仅是其中一个要素.
家长监控工具、提高认识和教育也是关键,将帮助增强所有年龄段儿童和青少年及其父母、看护人和教育工作者的能力并向他们提供信息.
尽管公司在鼓励儿童和青少年以负责任且安全的方式使用ICT方面具有重要作用,但这一责任由父母、学校以及儿童和青少年共同承担.
许多公司正在投资教育项目,旨在让用户对内容和服务做出明智决定.
公司正在协助父母、看护人和教育工作者指导儿童和青少年获得更安全、更负责且适宜的网上和移动电话体验.
其中包括对敏感内容设置年龄限制,并确保内容价格、订阅条款以及如何取消订阅等信息得到明确传达.
在所有可实施年龄核实的国家,推动社交媒体遵守最低年龄要求亦有助于保护儿童,使他们在合适的年龄获取服务.
需与这项建议一并考虑的重要因素是可能要求的额外个人数据的收集,有必要限制此类信息的收集、存储和处理.
直接向儿童和青少年提供有关更安全地使用ICT和积极、负责任行为的信息亦很重要.
除提高安全认识外,公司可通过为儿童和青少年制作关于使用ICT时相互尊重、善良、豁达以及关照朋友的内容,促进积极的体验.
如果儿童和青少年遇到网上欺凌或网21保护上网儿童业界指南上性诱骗等负面体验,则公司可提供采取行动的信息,让举报此类事件更为容易,并提供选择不接收匿名信息的功能.
父母有时对互联网和移动设备的了解和认识不及儿童和青少年.
此外,移动设备与互联网服务的融合使家长监督变得更为困难.
业界可与政府和教育工作者协作,增强父母支持孩子培养数字化复原力和成为负责任的数字化公民的能力.
目的并非将对儿童和青少年ICT使用的责任全部转移给父母,而是认识到父母更适合决定什么是对孩子适宜的内容,并且应当使他们了解所有风险,以更好地保护自己的孩子并增强他们采取行动的能力.
考虑到一些父母不使用互联网服务,信息可以通过多种媒体渠道在网上和网下传达.
与学区协作向儿童和青少年提供网上安全和负责任地使用ICT的课程,同时向父母提供教育材料非常重要.
示例包括解释可用于监控活动的服务类型和可选方案,如果儿童遭遇网上欺凌或网上性诱骗可采取的行动,如何避免垃圾邮件和管理隐私设置,以及如何与不同年龄组的男孩和女孩探讨敏感问题等.
沟通是一个双向过程,许多公司向客户提供联系他们举报问题或讨论担忧的可选功能.
随着内容和服务日益丰富,所有用户将继续受益于有关特定服务的性质以及如何安全使用的建议和提示.
尽管教导儿童负责任地使用互联网很重要,但我们知道儿童喜欢尝试、冒险、拥有好奇的天性并且不一定总能做出最佳决定.
给他们机会运用自己的力量有助于他们的成长,是帮助他们培养自主性和复原力的一种有益方式,只要不产生过于严重的后果.
虽然必须让儿童在网络环境中承担一定风险,但关键是父母和公司能够在出现问题时给予他们支持,因为这可以抵消不愉快经历的负面影响,并转变为未来有用的经验.
良好做法:教育日本NHK在推特上发起了针对年轻人的预防自杀活动:在日本,青少年自杀率在暑假后重返校园之际达到最高峰.
据悉,回归现实是形成这一高峰的原因.
NHK"心网TV"(日本NHK)制作团队制作了多媒体节目#8月31日之夜.
联合电视、直播流媒体和社交媒体,NKH成功创造出一个"场所",让青少年可以无所畏惧地分享自己的感受.
推特亦发布了面向教育工作者的媒体素养指南.
该手册与联合国教科文组织共同起草,主要目的是帮助教育工作者使年轻一代具备媒体素养技能.
另一方面的推特安全工作涉及其信息行动的公开.
这是推特公开共享的国家支持的信息行动档案.
该举措的推出旨在加强学术界和公众对世界各地有关这一问题所开展活动的了解,并赋予第三方在推特平台上对这些策略进行独立审查的能力.

由脸书和欧洲联盟共同出资的deSHAME项目也促进了针对不同年龄组的资源创造,并特别关注9-13岁的儿童.
该项目的一部分是开发名为"加油,说出来!
"的工具包,提供一系列教育、培训和提高认识材料,以及针对多部门预防和应对战略的实用工具.
该项目将把这些学习材料分发至其他欧洲国家和世界各地的合作伙伴,以增进青少年的数字化权利.
22保护上网儿童业界指南良好做法:教育谷歌开发了一系列教育举措、资源和工具,帮助促进青少年的网上安全.

其中之一是与安全连接、家庭上网安全组织和维护互联网安全联盟等组织协作推出的、围绕数字化公民的"BeInternetAwesome(互联网真棒)"活动.
这项活动针对8-11岁的青少年,其中含有面向青少年的基于网络的游戏(Interland),讲授数字安全基础知识,还有面向教育工作者的资源,如数字化公民与安全课程.
安全课程针对活动的五个关键主题领域设置课程计划,其中一个关注网上欺凌.
除此之外,谷歌还为所有年龄段学生的教育工作者制作了网上数字化公民与安全课程,进一步支持将数字化公民和有关安全的活动纳入课堂.
谷歌还提供多个项目,帮助青少年直接参与网上安全和数字化公民工作.
全球WebRangers举措就是其中一个项目,向青少年讲授上网安全,并鼓励他们围绕积极和安全的互联网使用设计自己的活动.
谷歌还推出了针对特定国家的青少年项目,如英国的互联网公民和互联网传奇项目.
在欧洲电视网青年新闻交流节目中,欧洲广播联盟汇集15家欧洲电视广播机构在网上和网下共享节目、模式和解决方案.
最近几年,讲授数字化素养和提醒儿童注意互联网风险已成为节目的核心.
近年来最成功的举措是挪威公共广播公司NRK超级台制作的适合儿童的社交媒体广告和新闻节目.
良好做法:战略伙伴关系作为终止暴力侵害儿童基金会所支持项目的一部分,2018年,人力和社会资本备选方案(CHSAlternavo)组织与Telefónica达成伙伴关系,Telefónica是秘鲁最大的互联网、有线电视和电话服务提供商,拥有1,440万客户,包括超过800万Movistar移动用户.
多项活动已在这一富有成效的伙伴关系下开展:关于保护上网儿童的虚拟课程,由Telefónica在CHSAlternavo的技术支持下开发.
这项课程现已在Telefónica网站上公开提供,并且该公司记录了注册并成功完成课程的人数.
秘鲁教育部已同意可通过其官方网站访问该虚拟课程.
互联网安全手册,CHSAlternavo编写并由Telefónica在其300多个移动销售中心中分发.
目的是提高Telefónica客户对上网安全和网上CSEA相关风险的认识.
网上CSEA互动游戏,由Telefónica在CHSAlternavo的技术支持下开发,客户在Telefónica商店内排队等候时可以体验.
在与Telefónica成功合作的基础上,CHSAlternavo与在秘鲁边远和低收入地区运营的互联网和有线电视服务提供商Econocable结成了伙伴关系.
23保护上网儿童业界指南3.
5将数字化技术作为加强公民参与方式予以宣传《联合国儿童权利公约》第13条规定,"儿童应有自由发表言论的权利;此项权利应包括通过口头、书面或印刷、艺术形式或儿童所选择的任何其他媒介,寻求、接受和传递各种信息和思想的自由,且不论国界如何".
公司可履行其尊重儿童和青少年公民权利和政治权利的义务,确保为保护儿童和青少年免受网络伤害而开发的技术、应用的立法和制定的政策不会产生压制他们的参与权和表达权或阻止他们获取对其福祉至关重要的信息的意外后果.
至关重要的是确保年龄核实系统不会危及特定年龄段青少年获取有关自身发展的内容的真正需要.
同时,企业和业界还可以通过提供促进青少年参与的机制和工具,支持儿童和青少年的权利.
他们可以强调互联网有能力促进人们积极参与更广泛的公民生活、推动社会进步并影响社区可持续性和复原力,例如通过参与社会和环境活动以及对负责人问责.

借助正确的工具和信息,儿童和青少年将更好地获得医疗卫生、教育和就业机会,并在学校、社区和国家表达自己的意见和需求.
他们变得有能力获取有关自身权利的信息,并寻求有关影响个人问题(如性健康)以及有关政治和政府责任的信息.
公司还可对创造适合儿童和青少年及家庭的网上体验进行投资.
公司可支持技术和内容的开发,鼓励和帮助儿童和青少年学习、创新和创造解决方案.
他们应始终在产品中考虑从设计着手保障安全.
此外,公司还可通过努力缩小数字鸿沟来主动支持儿童和青少年权利.
儿童和青少年的参与需要数字化素养,即在数字化世界中理解和互动的能力.
若缺少这项能力,则公民无法参与许多已变得数字化的社会功能,包括申报纳税、支持政治候选人、签署网上请愿书、新生儿登记或者仅仅是获取商业、医疗卫生、教育或文化信息.
若不采取行动,能够参与这些平台的公民与因缺乏互联网接入和数字化素养而无法参与的公民之间差距将继续扩大,使后者处于严重不利境地.
公司可支持多媒体举措,促进儿童和青少年所需的数字技能,帮助他们成为自信、连通且积极参与的公民17.
在许多国家,数字化和媒体素养以及消除数字鸿沟的努力近年来已成为公共服务媒体使命的一部分.
例如,意大利议会已提出,国家广播机构的优先事项包括缩小数字鸿沟,并确保在网下和网上对儿童的保护,其他国家也可予以效仿.
良好做法:多机构协作近期,微软加入了由反欺凌组织主导的全球零之力量(PowerofZERO)活动,旨在帮助幼龄儿童和照顾他们的成年人学习熟练地使用数字技术,并培养作为数字公民核心的话语、同情心和包容性.
该举措为幼儿教育工作者(这项活动针对8岁及以下的儿童)和家庭提供免费的学习材料,帮助幼儿培养"12种善之力量"(零之力量的12种生活技能或"力量",使儿童能够成功畅游网上和网下世界,其中包括复原力、尊重、包容性和创造力),并在早期为他们奠定坚实的基础.
17青少年通过移动社区参与的示例可见此处.
24保护上网儿童业界指南4业界一般性指南表1列出了针对业界的广泛指南,用于识别、防止和减轻产品和服务对儿童和青少年权利的不利影响,并促进儿童和青少年对ICT的积极使用.
表1列出了针对业界的广泛指南,用于识别、防止和减轻产品和服务对儿童和青少年权利的不利影响,并促进儿童和青少年对ICT的积极使用.
请注意,表1中所列的措施并非均适合所有公司和服务,亦非此表中每项服务所需的全部措施.
这份业界一般性指南与具体功能特性要素清单(见第5节)相互补充.
表2–5中的具体功能特性要素清单强调了与单项服务最相关的附加措施.
请注意,具体功能特性要素清单可能重叠,且多个要素清单可能与同一项服务相关.
表1:业界一般性指南将对儿童权利的考虑纳入所有适当的公司政策和管理流程之中业界可通过采取以下行动,识别、防止和减轻ICT对儿童和青少年权利的不利影响,并确定支持促进儿童和青少年权利的机会:确保指定具体个人和/或团队负责这一进程并与必要的内部和外部利益攸关方接洽.
授权此人或团队发挥主导作用,提高整个公司对保护上网儿童重要性的认识.
制定保护儿童和安全防护政策和/或将有关儿童和青少年权利的特定风险和机遇纳入全公司的政策承诺(如人权、隐私、营销和相关行为守则)之中.
将保护上网儿童问题的尽职调查纳入现行人权或风险评估框架(在企业、产品或技术和/或国家层面)之中,以确定企业或业界是否可能因自身活动导致或加剧不利影响,或者不利影响是否可直接归咎于其经营、产品或服务或业务关系.
确定公司运营与设计、开发与产品和服务推出对不同年龄组儿童权利的影响,以及支持儿童和青少年权利的机会.
将对儿童权利的考虑纳入所有适当的公司政策和管理流程之中(续)对儿童保护采取以增强能力和教育为基础的方式.
考虑儿童的数据保护权、隐私权和言论自由权,同时通过公司的服务提供教育和指导.
在上网儿童安全机制方面,借鉴内部和外部专业知识并征询包括儿童和青少年在内的关键利益攸关方的意见,以获得关于公司做法的持续反馈和指导.
在缺乏充分法律框架保护儿童和青少年隐私权和言论自由权的国家,公司应确保政策和做法符合国际标准.
见联合国大会有关数字时代隐私权的第68/167号决议.
通过建立运营层面的投诉和举报机制,确保任何侵犯儿童权利的事件(如CSAM、不当内容或不良人员、侵犯隐私)可获得补救.
任命儿童保护政策主管或其他指定的保护上网儿童问题联系人.
如果某个儿童面临受到伤害的风险,则儿童保护政策主管应立即通知有关当局.
举例而言,BBC编辑指南(2019年版)明确了儿童保护政策主管的任命,这在公共服务媒体中被视为是强制性的.
制定保护上网儿童的行业标准针对具体行业和功能特性,制定并落实保护儿童和青少年的公司和行业标准.
25保护上网儿童业界指南建立处理CSAM的标准流程与政府、执法部门、民间团体和热线组织协作,业界可通过采取以下行动在打击CSAM方面发挥关键作用:禁止上传、张贴、发送、共享或提供侵犯任意一方权利或违反任何地方、州、国家或国际法律的内容一旦提供商获得有关CSAM的举报,则应立即告知国家执法机构或国家热线.
确保内部程序已到位,以履行当地和国际法律规定的报告责任.
如果公司所经营的市场对这一问题的监管和执法监督不够完善,则公司可将希望提交举报的人推荐至国际互联网热线协会(INHOPE),可在其中任选国际热线进行举报.
建立处理CSAM的标准流程(续)建立内部程序,确保在打击CSAM方面符合当地和国际法律.
设立高级职位或团队,专门负责将这些程序纳入组织之中.
业界成员随后应在其年度公司和可持续性报告中报告该团队采取的行动和取得的成果.
当国家法规无法提供充分保护时,公司应遵循高于国家法规的法规,并利用自身影响力,游说有助于业界打击CSAM的立法变革.
应在组织内部设立高级职位或团队,专门负责纳入这些程序并监督实施情况.
这些均应透明地反映在年度企业和可持续性报告中,并向公众提供.
具体说明,如果有违法内容被举报或发现,则公司将全力配合执法部门的调查,并详细说明罚款或取消计费特权等处罚措施.
利用客户条款和条件和/或可接受的使用政策,明确阐述公司对于将其服务滥用于存储或共享CSAM的立场,以及任何滥用的后果.
制定通知及下架和举报程序,使用户举能够报CSAM或不良人员,以及发现时的具体情况/位置.
建立举报跟进程序,就采集证据和立即删除或禁止访问CSAM的程序达成一致.
确保如有必要,服务提供商在销毁非法内容前,征询专家(如国家保护上网儿童机构)意见.
确保与公司有合同关系的相关第三方也拥有同样强有力的通知及下架程序.
为处理CSAM做好准备,并向相关主管当局报告案件.
如果尚未与执法机构和国家热线建立联系,则与他们合作共同制定程序.
利用客户服务、欺诈防范和安全保卫等内部职能,确保企业可直接向执法部门和热线提交疑似非法内容的举报.
理想情况下,这项工作的开展既不应让一线工作人员接触有害内容,亦不应使已受影响的孩子/儿童和青少年再次受害.
为解决工作人员可能接触性虐待材料的情况,可实施支持工作人员复原力、安全度和幸福感的政策或计划.
建立处理CSAM的标准流程(续)增强数据保留和保存政策,以便通过采集证据等活动在刑事调查期间向执法部门提供支持.
记录从监控到内容最终转移和销毁的公司处理CSAM的做法.
在文档记录中纳入负责处理材料的全体人员名单.
完善CSAM举报机制,并确保客户了解发现这类内容后的举报途径.
如果有可用的国家热线,则在公司网站上以及通过公司推广的任何相关内容服务提供该热线的链接.
利用所有相关服务/系列数据,防止在自己的服务或平台上传播已知儿童性虐待内容.
定期主动评估公司服务器上托管的所有内容,包括商业内容(第三方内容提供商具名或签约的).
考虑利用已知儿童性虐待图像的哈希扫描、图像识别软件或URL禁用等工具处理CSAM.
26保护上网儿童业界指南营造更安全和符合年龄的网上环境业界可采取以下行动,为所有年龄段的儿童和青少年营造更安全、更愉悦的数字化环境:在公司的技术和服务中采用从设计着手保护安全和隐私的原则,并优先考虑将有关儿童的数据量降至最低的解决方案.
在提供的服务中落实符合年龄的设计.
以易于理解且符合年龄的方式向儿童介绍有关网站规则的信息,并提供适当程度的详细情况.
除符合年龄、易于理解的条款和条件外,业界应同样清楚地传达规则和重要政策等信息.
应强调有关服务的可接受和不可接受行为,违反任何规则的后果,服务的具体信息以及用户签署同意的内容.
此类信息应特别着眼于青少年用户及其父母和看护人.
利用服务条款或条款和条件提醒用户注意公司网上服务中的内容不一定适合所有年龄段人群.
条款和条件还应包括举报和处理违反规则的明确机制.
营造更安全和符合年龄的网上环境(续)考虑提供家长监控软件等机制和其他工具,使父母和看护人能够管理孩子对互联网资源的获取,同时向他们提供适当使用的指导,以便不对儿童权利造成侵犯.
这些工具包括拦截/允许列表、内容过滤器、使用监控、联系人管理和时间/程序限制.
提供易于使用的家长监控可选功能,使父母和看护人能够限制儿童使用电子设备时可获取的服务和内容.
这些限制可包括网络和设备层面的控制,以及应用控制.
考虑到这对儿童提高自身数字技能的能力有极大影响,并且会减少他们的上网机会,因此这些控制应针对非常年幼的儿童,符合他们的成长背景并为父母提供适当指导.
如有可能,促进国家支持服务,在遇到虐待或剥削的情况下,父母和看护人可用于举报侵权行为并寻求支持.
避免有害或不当的网上广告内容,并对面向成年观众且可能对儿童和青少年有害的内容的服务提供商确立客户公开义务.
有害广告还可包括脂肪、糖或盐含量高的食物和饮料的广告.
企业做法应符合以儿童和青少年为对象的营销和广告方面的规定和建议.
监控儿童和青少年可能何时、何地以及如何遇到针对另一细分市场、具有潜在危害的广告信息.
确保数据收集政策符合关于儿童和青少年隐私的相关法律,包括考虑商业企业在向儿童收集或收集有关儿童的个人信息之前,是否须征得父母同意.
针对收集、处理、储存、销售和公开收集自18岁以下儿童的个人数据,包括位置相关信息和浏览习惯,调整并实施更高级别的默认隐私设置.
默认隐私设置和有关隐私重要性的信息应与用户年龄和服务性质相匹配.
采用技术措施,如合适的父母监控工具、从设计着手保障安全、年龄差异化体验、带密码保护内容、拦截/允许列表、购物/时间控制、选择退出功能、过滤和审查,以防止未成年人访问和接触不当内容或服务.
实施可以识别用户年龄的技术并为他们提供符合年龄的应用版本.
对于有年龄限制的敏感内容或服务,业界利益攸关方应采取措施核查用户年龄.
如有可能,使用年龄核实手段限制对法律或政策规定仅面向特定年龄以上人群的内容或材料的访问.
公司还应认识到,此类技术可能被滥用于限制儿童和青少年的言论自由和获取信息的权利,或者危害他们的隐私.
27保护上网儿童业界指南营造更安全和符合年龄的网上环境(续)确保不适合所有年龄段用户的内容和服务:按照国家标准和文化规范进行分类;符合同类媒体的现有标准;以醒目的显示选项标注,以控制访问;提供时设有年龄核实,如适当,提供有关清除通过核实程序获得的任何个人身份数据的明确条款.
例如,关于媒体标准,所有媒体监管机构规定一套年龄相关内容的要求,并且要求互联网提供商调整存储库并对内容提供应用指导原则.
见英国电信管理局(Ofcom)、法国最高视听委员会(CSA)和意大利通信管理局(AGCOM)的相关规定.
提供明确的举报工具,针对不当内容、不良人员和滥用的举报制定后续跟进流程,并向服务用户提供有关举报程序的详尽反馈.
确保以符合儿童隐私权和发展能力的方式,对专为儿童和青少年设计的互动空间进行预先检查.
积极审查有助于营造欺凌和骚扰不可接受的氛围.
不可接受的行为包括:针对他人的档案发布令人不快的或威胁性评论;建立羞辱受害者的假档案或仇恨网站;发送恶意连环信息和;强行侵入他人账户以发送攻击他人的信息.
对从事儿童和青少年工作的工作人员或合作者采取特殊预防措施,可能需要与警察机关开展初步犯罪记录检查.
将任何疑似网上性诱骗的事件迅速转至负责向主管当局举报的网上或互动执行管理团队:在可能的情况下,向执行管理团队和指定儿童保护政策主管报告网上性诱骗;使用户能够直接向当局举报疑似网上性诱骗的事件;建立通过电子邮件地址直接联系进行报警和举报的可能性.
始终将儿童的安全和福祉放在首位.
始终在职业范围内行事,并确保所有与儿童的接触均为服务、计划、活动、行动或项目所必需.
切勿包揽对儿童的全部责任.
如果儿童需要照顾,提醒父母、监护人或陪护.
始终倾听并尊重儿童.
如果有人对儿童做出不当行为,则应向当地儿童保护联系人举报此行为.
28保护上网儿童业界指南营造更安全和符合年龄的网上环境(续)制定一套地位重要的明确规定,且与服务条款和可接受的使用导则重点相呼应.
以方便用户理解的语言制定的规则应明确:服务的性质和对用户的预期;可接受和不可接受的内容、行为和语言,以及禁止非法使用;违规的相应后果,例如向执法部门举报或暂停用户账户等.
通过实施处理不同关切的标准和易用程序,方便客户向客服报告有关滥用的担忧,如收到强行推送通信(即垃圾短信).
保持透明,向客户提供有关所提供服务性质的明确信息,例如:内容/服务的类型与成本;访问的最低年龄要求;可用的家长监控手段,包括控制覆盖(如网络)或未覆盖(如Wi-Fi)的范围,以及有关使用方法的培训;收集的用户信息类型以及如何使用.
推广国家支持服务,使儿童和青少年对虐待或剥削情况能够进行举报并寻求支持(如国际儿童帮助热线).
就儿童安全以及负责任地使用ICT向儿童、看护人和教育者开展教育业界可通过采取以下行动,以教育和能力增强活动对技术措施进行补充:清楚地描述可获取的内容和相应的父母监控或家庭安全设置.
使语言和术语对包括儿童、父母和看护人在内的所有用户均易于理解、明显可见且清楚相关,尤其是针对条款和条件、使用内容或服务的成本、隐私政策、安全信息和举报机制.
就如何解决有关互联网使用的关切,包括垃圾邮件、数据窃取以及欺凌和网上性诱骗等不当接触,对客户开展教育,说明客户可采取的行动和如何对不当使用问题提出关切.
建立机制并教育父母参与儿童和青少年的ICT活动,特别是对幼龄儿童,例如,使父母能够检查儿童和青少年的隐私设置.
与政府和教育工作者协作,加强父母支持和与儿童和青少年探讨成为负责任的数字化公民和ICT用户的能力.
就儿童安全以及负责任地使用ICT向儿童、看护人和教育者开展教育(续)根据当地情况,提供在学校和家庭使用的教育资料,以增强儿童和青少年使用ICT的能力并培养批判性思维,使他们能够在使用ICT服务时采取安全、负责任的行为.
通过传播有关家庭上网安全的指南支持客户,鼓励父母和看护人:熟悉儿童和青少年使用的产品和服务;确保儿童和青少年适度使用电子设备,作为健康、均衡生活方式的一部分;密切关注儿童和青少年的行为,以识别可能表明网络欺凌或骚扰的变化.
为父母提供所需的信息,以了解儿童和青少年如何使用ICT服务,处理与有害内容和行为相关的问题,并具备能力指导儿童和青少年负责任地使用.
利用工具和与学区的互动,为儿童提供上网安全课程并为父母提供教育材料,有助于这项工作的开展.
利用技术进步保护和教育儿童理解文本、图像、对话和背景的保护隐私人工智能可发现和解决一系列网上危害和威胁,并使用这些信息增强儿童的能力并教导他们如何应对.
在智能设备环境中操作时,可保护青少年的数据和隐私,同时仍为他们提供支持.
公共服务和国家媒体可通过其提供的项目(网下和网上)发挥至关重要的作用,教育父母和儿童,使他们意识到网络世界的风险和机遇.
29保护上网儿童业界指南将数字化技术作为加强公民参与方式予以宣传业界可通过下列行动,支持儿童和青少年的参与权,从而鼓励和增强他们的能力:提供有关服务的信息,强调儿童将服务用于创新目的等良好和负责任的行为可获得的惠益.
建立书面程序,确保政策和流程统一落实,保护包括儿童和青少年在内所有用户的言论自由,并将这些政策执行情况记录在案.
将数字化技术作为加强公民参与方式予以宣传(续)避免过分禁止合法和与发展相适应的内容.
为确保过滤请求和工具不被滥用于限制儿童和青少年获取信息,应确保关于被禁止内容的透明度,同时建立用户上报误将信息禁止的流程.
该流程应向所有客户,包括网站管理员提供.
任何上报流程均应提供明确、负责任和具有裁决作用的服务条款.
开发网络平台,促进儿童和青少年表达自我的权利;为他们参与公共生活提供便利;并鼓励协作、企业家精神和公民参与.
制作面向儿童和青少年的教育内容,鼓励学习、创造性思维和问题解决.
提升数字化素养、能力建设和ICT技能,使儿童和青少年(特别是在农村和服务不足地区)具备使用ICT资源的能力,安全地充分参与数字化世界.
在有关扩展ICT、平台和设备的普遍、平等接入以及支持的基本基础设施的国家和当地优先事项方面,与当地民间团体和政府协作.
向包括父母、看护人、儿童和青少年在内的客户提供关于服务的信息,例如提供:内容类型和相应的家长控制;举报虐待、滥用、不当或非法内容的机制;举报的后续跟进程序;有年龄限制的服务类型;"自有品牌"交互式服务的安全、负责任使用.
着手解决围绕安全和负责任数字化公民的更广泛问题,如网上信誉和数字足迹、有害内容、网上性诱骗等.
考虑与儿童非政府组织、慈善机构和家长团体等当地专家合作,帮助设计公司的信息,贴近目标受众.
如果企业已与儿童或学校开展合作,例如通过公司社会责任计划,则研究是否有将此举扩大的可能性,包括针对保护上网儿童信息对儿童和青少年以及教育工作者开展教育并让他们参与其中.
对研究进行投资投资基于证据的数字技术研究和深入分析,技术对儿童的影响,数字环境中对儿童的保护以及儿童权利的考虑因素,以便将上网保护系统整合到儿童和青少年使用的服务中,更好地了解哪种类型的干预措施对于改善儿童上网体验最有效.
30保护上网儿童业界指南ICT公司类型尽管国际电联指南针对整个ICT行业,但有必要认识到ICT公司提供的服务、其运营方式、运作依据的监管方案以及所涉范围和规模都极为不同.
任何产品或服务直接或间接针对儿童的技术公司均可从上文所列的一般性原则中受益,并可根据运营的具体领域进行调整.
核心理念是支持和指导ICT行业采取正确的措施,更好地保护上网儿童免受伤害,同时增强他们的能力,以可能的最佳方式畅游网络世界.
以下类型将有助于更清楚地了解某些目标受众,以及如何与下一节中的要素清单相对应.
应指出的是,这些仅为一些具体示例类别,并非详尽:(a)互联网服务提供商,包括通过固定陆地线路提供宽带业务或移动网络运营商的蜂窝数据业务:虽然通常指向签约用户提供的更为长期的服务,但也可扩大至提供免费或付费公共WI-FI热点的企业.
(b)社交网络/消息平台和网络游戏平台.
(c)硬件和软件制造商,如手持设备提供商,包括移动电话、游戏机、语音辅助家用设备、物联网和儿童智能联网玩具.
(d)提供数字媒体的公司(内容创建者、提供对内容的访问或托管).
(e)提供包括直播流媒体在内的流媒体服务公司.
(f)提供数字文件存储服务的公司,云服务提供商.
5具体功能特性要素清单本章为提供具有尊重和支持儿童网上权利具体功能特性的服务的企业提出建议,对之前针对业界的一般性清单予以补充.
以下具体功能特性要素清单概述补充表1中给出的共同原则和方式的方法,因为这些方法适用于不同的服务,因此除表1中的步骤之外,还应考虑这些方法.
此处强调的功能特性是跨领域的,因此若干功能特性要素清单可能与同一家公司相关.
以下功能特性要素清单是按照表1中的一般性指南组织的,并涉及相同的关键领域.

每个功能特性要素清单都是与相关文稿主要撰写人协作制定的,因此各表之间会有一些细微差异.
5.
1功能特性A:提供连接、数据存储和托管服务互联网接入是实现儿童权利的基础,连接可为儿童打开全新的世界.
连接、数据存储和托管服务提供商有巨大机会将安全和隐私纳入其为儿童和青少年提供的服务中.
这一服务功能主要针对移动运营商、互联网服务提供商、数据存储系统和托管服务.

31保护上网儿童业界指南移动运营商能够促成互联网接入,并提供一系列针对移动设备的数据服务.
许多运营商已签署保护上网儿童(COP)行为守则,并提供一系列工具和信息资源来支持他们的承诺.
大多数互联网服务提供商通过其托管、缓存和存储服务,既发挥互联网双向接入(接入到互联网和从互联网进行接入)管道的作用,又充当数据存储库.
因此,他们对保护上网儿童负有主要责任.
大多数互联网服务提供商通过其托管、缓存和存储服务,既发挥互联网双向接入(接入到互联网和从互联网进行接入)管道的作用,又充当数据存储库.
因此,他们对保护上网儿童负有主要责任.
公共场所的互联网接入城镇、零售商、运输公司、连锁酒店和其他企业及组织越来越多地通过无线热点(Wi-Fihotspot)提供互联网接入.
这种接入通常是免费的或以最低成本提供的,且有时作为一项公共服务只需简单的注册手续,或由一家公司提供以吸引顾客到其场所或说服更多的人使用其服务.
推广Wi-Fi网络是确保特定地区互联网可用性的有效方法.
然而,当在儿童可能经常出现的公共场所提供这种通道时,需谨慎行事.
用户需要注意这样一个事实,即Wi-Fi信号可能会被路人获得,导致用户数据可能泄露.
有鉴于此,Wi-Fi网络提供商不一定能够始终支持或监督其提供的互联网连接的使用情况,因此用户需要采取预防措施,避免在公共Wi-Fi上分享敏感信息.
在公共场所,Wi-Fi网络提供商可能希望考虑采取额外措施来保护儿童和青少年,例如:除了阻止访问CSAM外,主动阻止访问已知包含不适合广大受众的内容的网址.
在使用条款和条件中加入条款,禁止使用Wi-Fi网络服务访问或展示任何可能不适合儿童环境的材料.
条款和条件还应包括关于违反这些规则的后果的明确机制.
采取一切措施防止可能导致个人数据被篡改或丢失的未经授权的访问.

在Wi-Fi网络系统上安装过滤器,以强化有关不适当材料的政策.
提供程序和软件,指导和提供与儿童和青少年访问互联网内容相关的、可选的父母监控手段.
良好做法:例如,大多数欧盟成员国的电信规则规定,必须通过个人身份识别卡(SIM)或其他识别工具来识别网络接入.
表2为连接、数据存储和托管服务提供商提供指导,说明他们可以采取哪些行动来加强保护上网儿童和儿童参与.
32保护上网儿童业界指南表2:COP功能特性A要素清单:提供连接、数据和托管设备将对儿童权利的考虑纳入所有适当的公司政策和管理流程之中连接、数据存储和托管服务提供商可确定、预防和减轻ICT对儿童和青少年权利的不利影响,并确定支持促进儿童和青少年权利的机会.
参见表1中的一般性指南.
建立处理儿童性虐待材料(CSAM)的标准流程通过与政府、执法部门、民间团体和热线组织协作,连接、数据存储和托管服务提供商可通过采取以下行动在打击CSAM方面发挥关键作用:与政府、执法部门、民间团体和热线组织协作,有效处理CSAM案件,并向有关当局做出报告.
如果尚未建立与执法部门和热线组织的关系,请让他们参与流程制定工作.
连接、数据存储或托管服务提供商也可为执法人员提供ICT培训.
如果一家公司所处的市场对这一问题缺乏完善的法律和执法监督,则该公司可以将希望提交报告的方面推荐给国际互联网热线协会(INHOPE),在那里可通过任何国际热线提交报告.
考虑部署国际公认的统一资源定位符(URL)或由有关当局(例如国家执法部门或热线、加拿大Cyberp、互联网观察基金会(IWF))创建的网站禁访清单(blockinglists),使用户更难获取已查明的CSAM.
制定通知、下架和报告流程,通过就响应程序和下架时间达成公共服务协议将滥用报告与这些流程联系一起.
例如,见联合国儿童基金会和GSM协会(GSMA)关于通知和下架政策和做法的指南.
建立报告机制,提供关于其使用的明确信息.
例如,就需报告的非法内容和行为提供指导,并澄清哪些材料不可附在报告中,以避免在网上进一步传播.
建立处理CSAM的标准流程(续)在进行刑事调查时,通过捕获证据等活动支持执法工作.
使用服务条款和条件明确禁止利用服务来存储、共享或分发CSAM.
确保这些条款清楚地表明绝不容忍CSAM.
确保服务条款和条件规定,如果发现或得到有关CSAM的报告,则公司将全力配合执法调查.
目前在国家层面存在两种网上CSAM报告解决方案:热线和报告门户.
INHOPE提供所有现有热线和门户网站的完整最新列表.
热线:如果没有全国性的热线,请探索设立热线的机会(参见GSMAINHOPE热线指南,了解一系列可选方案,包括与INHOPE和INHOPE基金会合作).
现提供GSMAINHOPE指南的交互式版本,该版本提供如何开发内部流程的指导,以便客服人员向执法部门和INHOPE提交有关可疑内容的报告.
报告门户网站:IWF提供报告门户网站解决方案,方便没有热线的国家的互联网用户通过定制的在线门户网站页面直接向IWF报告涉嫌儿童性虐待的图像和视频.
对于其服务涉及某种内容托管(许多提供商不参与这类服务)的连接、数据存储和托管服务的提供商而言,应出台通知和下架流程.
33保护上网儿童业界指南营造更安全和符合年龄的数字环境连接、数据存储和托管服务提供商可通过采取以下行动,帮助为所有年龄段的儿童营造更安全和更愉快的数字环境:数据存储/托管服务提供商应考虑在所有网页和服务上提供报告功能,并制定和记录清晰的流程,以便快速管理滥用或其他违反条款和条件的报告.
连接提供商应提供自有品牌的技术控制手段或标志,说明专业提供商开发的可用工具是适合所提供的服务的、易于最终用户实施,并提供阻止或过滤通过公司网络访问互联网的可能性.
如果公司提供的内容或服务(包括公司推广的自有品牌或第三方服务)仅对成年用户是合法或适合的(如某些游戏、彩票),则应提供符合年龄与否的核实机制.
就儿童安全及其负责任的对ICT的使用向儿童、父母和教育工作者开展教育连接、数据存储和托管服务提供商应采纳以用户友好语言编写的社区指南条款和条件中的关键信息,以对儿童及其父母和看护人形成支持.
具体到服务本身,在上传内容时,需包含相关提醒,说明哪些是不适当的内容主题.
向儿童和青少年提供更安全使用互联网的信息.
考虑以创造性的方法传播关键信息,例如:"永远不要与任何你不认识的人分享任何联系方式,包括你的实际位置和电话号码.
""在没有咨询成年人之前,不要同意和任何你在网上认识的人见面.
一定要把你的行踪告诉值得你信任的朋友.
""不要回应欺凌、淫秽或冒犯性信息,但请保存证据–不要删除这些消息.
""如果你对某事或某人感到不舒服或不安,请告诉值得你信任的成年人或朋友.
""永远不要泄露你的账户密码或用户名!
请注意,网上的其他人可能会提供虚假信息来说服你分享你的私人信息.
"服务提供商可与更具能力的组织合作,就更安全的互联网使用和相关问题对儿童进行教育并提供支持.
例如,参见儿童帮助热线国际和GSMA的《儿童帮助热线与移动运营商实用指南:携手努力保护儿童权利》.
将数字技术作为加强公民参与方式予以宣传参见表1中的一般性指南.
5.
2功能特性B:提供精心策划打造的数字内容互联网提供各种类型的内容和活动,其中许多是针对儿童和青少年的.
提供在编辑上精心策划打造内容的服务可赢得巨大机会将安全和隐私融入为儿童和青少年提供的服务中.
这一服务功能特性既针对正在创建自己内容的企业,也针对促成对数字内容进行访问的企业.
除其他外,该种服务系指新闻和多媒体流服务、国家和公共服务广播以及博彩业.
表3为提供在编辑方面精心策划打造内容的服务提供商提出指南,介绍这些提供商可采取哪些政策和行动来加强对上网儿童的保护和儿童的参与.
34保护上网儿童业界指南表3:COP功能特性B要素清单:提供精心策划打造的数字内容将对儿童权利的考虑纳入所有适当的公司政策和管理流程之中提供精心策划打造的数字内容的服务有助于识别、预防和减轻ICT对儿童和青少年权利的不利影响,并通过采取以下行动,获得支持促进儿童和青少年权利的机会:制定政策,保障在网上贡献内容的儿童和青少年的福祉,考虑到参与节目、电影、游戏、新闻等的18岁以下青少年的身心健康和尊严,无论父母或其他成年人是否已同意.
建立处理儿童性虐待材料(CSAM)的标准流程通过与政府、执法部门、民间团体和热线组织协作,提供精心策划打造数字内容的公司可通过以下行动在打击CSAM方面发挥关键作用:在CSAM方面,通过(举例而言)"评论"或"审查"功能–用户有能力通过这一功能上传内容–工作人员应与负责向有关当局报告此类材料的执行管理人员取得联系.
此外,他们应:立即提醒国家执法机构;提醒他们的经理并将材料报告给儿童保护政策管理人员;通过电话或电子邮件联系内部调查服务部门,说明事件的详细情况,并寻求意见和建议;在删除材料、将其保存到共享空间或转发之前,等待相关机构的意见和建议.
建立处理CSAM的标准流程如果材料得以确定,则应直接向专门从事互联网安全的组织做出报告,这类组织设有热线报告系统,供公众和信息技术专业人员报告特定形式的潜在非法网上内容.
例如,基于其儿童保护和保障政策,英国广播公司发布了关于与儿童和青少年进行网上互动的编辑指南.
该公司为在网上与儿童和青少年合作进一步制定了清单和行为守则,这些清单和行为守则也延伸适用于分包商和外部提供商.
英国通信部(Ofcom)的儿童保护政策分别涉及网上内容、移动设备和游戏机.
如果发现已发布CSAM或怀疑有非法行为,则实施快速有力的更强政策.
为此:向用户提供一种简单且易于使用的方法,随时提醒内容制作者有关违反网络世界规则的后果;删除违反规则的内容;向用户提供一种简单且易于使用的方法,随时提醒内容制作者有关违反网络世界规则的后果;删除违反规则的内容.
在将年龄敏感的、在编辑上精心策划打造的内容上传到社交网站之前,要了解相关网站的条款和条件.
对不同社交网站的最低年龄要求需保持敏感.
每个网上空间的条款和条件还应包括违反此类规则的明确报告机制.
35保护上网儿童业界指南营造更安全和符合年龄的网上环境提供精心策划打造数字内容的公司可通过采取以下行动,为所有年龄段的儿童和青少年创造更安全和更愉快的数字环境:与业界其他方合作,开发基于公认的国家或国际标准的内容分类/年龄评级系统,并与同等媒体采用的方式保持一致.
在可能的情况下,不同媒体平台的内容分类应保持一致.
例如,电影院和智能手机上的电影预告片应向客户展示相同的分类.
为儿童和青少年开发适合儿童和青少年年龄的产品,这些产品应自带设计安全性,并辅之以可靠的年龄核实系统.
为了帮助父母和其他人决定内容是否适合儿童和青少年,应在所有媒体中构建与内容分级系统保持一致的应用程序和服务.
采用适当的年龄核实方法,防止儿童和青少年访问对年龄敏感的内容、网站、产品或互动服务.
就他们使用的内容的性质和年龄分类提供意见和建议并予以提醒.
提供视听和多媒体服务的公司可能希望向试图访问对儿童和青少年有害的内容的用户提供个人身份号码.
确保产品和服务价格以及收集的用户信息的透明度.
确保数据收集政策符合有关儿童和青少年隐私的相关法律,包括商业企业在收集儿童个人信息之前是否需要得到父母的同意.
确保广告或商业信息清晰可辨.
监督网上提供的内容,并使其适应可能访问这一内容的用户群体,例如,为针对儿童和青少年的网上广告制定适当的政策.
如果内容提供支持互动要素,如评论、网上论坛、社交网络、游戏平台、聊天室或留言板,则应在服务条款和用户指南中以客户友好的语言传达一套清晰明了的"内部规则"(houserules).
在推出网上服务之前,确定需要何种级别的参与.
旨在吸引儿童的服务应只呈现适合年轻受众的内容.
如果有疑问,则可征求负责儿童保护的国家有关当局的意见.
提供清晰、真实的内容标签.
值得警惕的是,用户可通过跟踪第三方网站上绕过上下文页面的链接看到不适当的内容.
36保护上网儿童业界指南就儿童安全及其负责任的对ICT的使用向儿童、父母和教育工作者开展教育提供精心策划打造数字内容的公司可通过采取以下旨在赋予儿童能力的教育活动对技术措施予以补充:向客户提供具体和清晰的内容信息,如内容类型、年龄等级/限制、强势语言或暴力以及相应可用的父母管控措施;如何报告滥用和不适当或非法内容以及如何处理报告.
在交互式世界中,应以每个节目的内容标签形式提供这些信息.
鼓励成年人,特别是父母、看护人和教育工作者参与儿童和青少年的网上内容消费,以便他们能够在购买时帮助和指导儿童和青少年选择内容,并帮助建立行为规则.
帮助儿童(以及父母和看护人)学会管理自己的屏幕时间,并了解如何以让他们感觉有意的方式使用技术,包括何时停下来做其他事情.
以清晰易懂的语言提供使用规则,鼓励儿童和青少年在浏览互联网时保持警惕和负起责任.
开发适合年龄的工具,如教程(tutorial)和帮助中心.
酌情与网上或面对面的预防方案和心理咨询诊所合作.
例如,如果存在儿童和青少年过于沉迷于技术的风险,使他们难以发展与他人的关系或参加健康的体育活动,则网站可提供帮助热线或咨询服务的联系链接.
当网上内容可能吸引很大比例的儿童和青少年时,应使安全信息(如指向意见和建议的链接)十分醒目、易于获取和清晰明了.
提供父母指导工具,如"锁定"工具,以控制可通过特定浏览器访问的内容.
与父母合作,确保在互联网上披露的关于儿童的信息不会使他们面临风险.
在编辑上精心策划打造的内容中如何识别儿童的问题需要得到仔细考虑,且会由于环境的不同而有所不同.
在节目、电影、视频等媒介中介绍儿童时,需获得他们的知情同意,并尊重任何拒绝参与的行为.
将数字技术作为加强公民参与方式予以宣传提供精心策划打造数字内容的公司可通过以下行动支持儿童和青少年的参与权,从而鼓励和增强他们的能力:开发和/或提供一系列高质量、有挑战性、有教育意义、令人愉快和有趣的内容,这些内容应适合儿童和青少年的年龄,并帮助他们理解其生活的世界的意义.
除了具有吸引力和实用性、可靠性和安全性之外,这些内容还可通过提供娱乐和教育的新机会,促进儿童和青少年的身体、精神和社交能力发展.
应大力鼓励让儿童接受多样性和成为积极榜样的内容.
5.
3功能特性C:托管用户生成的内容和实现用户连接曾几何时,网络世界由成年人主导,但现在很明显,在创建和共享用户生成内容的爆炸式增长中,儿童和青少年是多个平台上的主要参与者.
本服务功能包括与创意实现相关的社交媒体服务、应用和网站.
将用户相互连接一起的服务可分为三类:主要消息传递应用(脸书信使、Groupme、Line、Tinder、Telegram、Viber、WhatsApp).
37保护上网儿童业界指南主要社交网络服务,旨在搜索和托管用户生成的内容,并允许用户在网络内外共享内容和进行连接(Instagram、脸书、SnapChat、TikTok).
主要实时流媒体应用(Periscope、BiGolive、脸书Live、家庭派对(Houseparty)、YouTubeLive、Twitch、GoLive).
服务提供商要求提供平台注册的最低年龄,但这很难执行,因为年龄核实依赖于所报告的年龄.
大多数连接新用户的服务还允许有位置共享功能,使得使用这些服务的儿童和青少年更容易处于网下危险中.
表4改编自某一最大社交网络所应用的规则,为托管用户生成内容和连接新用户的服务提供商提供指导,说明他们可采取哪些政策和行动来加强网上儿童的保护和儿童参与.
表4:COP功能特性C要素清单:托管用户生成的内容和实现用户连接将对儿童权利的考虑纳入所有适当的公司政策和管理流程之中托管用户生成内容和连接用户的服务可识别、预防和减轻ICT对儿童和青少年权利的不利影响,并获得支持促进儿童和青少年权利的机会.
参见表1中的一般性指南.
建立处理CSAM的标准流程通过与政府、执法部门、民间团体和热线组织合作,托管用户生成内容和连接用户的公司可通过采取以下行动在打击CSAM方面发挥关键作用:为所有站点建立程序,以便在紧急情况下和例行查询时为执法部门提供即时协助.
具体说明,如果有违法内容被举报或发现,公司将全力配合执法部门的调查,并详细说明罚款或取消计费特权等处罚措施.
与客户服务、欺诈预防和安全等内部职能部门合作,确保公司能够直接向执法部门和热线提交有关可疑非法内容的报告.
理想情况下,这样做的方式不应使一线工作人员接触到内容,也不应使受影响的儿童和青少年再次受到伤害.
为解决员工可能接触到虐待材料的情况,实施相关政策或方案,以支持员工的复原力、安全和福祉.
使用服务条款和条件禁止非法内容和行为,其中应强调:不容忍有害内容,包括出于接触或非接触虐待目的对儿童进行可疑诱骗;不容忍非法内容,包括上传或进一步传播CSAM;如果得到有关非法内容的报告或发现非法内容或任何违反儿童保护政策的行为,公司会将情况转呈执法部门并全力配合其调查.
以文件记录公司处理CSAM的做法,从监控开始,一直拓展到内容的最终转移和销毁.
在文件中包括负责处理材料的所有人员的名单.
采取关于用户生成内容所有权的政策,包括应用户要求删除用户创建内容的可选方案.
删除违反提供商政策的内容,并向发布该内容的用户发出警告.
38保护上网儿童业界指南建立处理CSAM的标准流程(续)指出用户未能遵守可接受使用策略将会产生后果,包括:删除内容、暂停或关闭账户;取消他们共享特定类型内容或使用特定功能的能力;防止他们接触儿童;将问题提交执法部门.
建立处理儿童性虐待材料的标准流程推广关于CSAM或任何其他非法内容的报告机制,并确保客户了解如何在发现此类内容时提交报告.
建立系统并提供训练有素的员工,根据具体情况评估问题并采取适当的措施.
建立全面且资源充足的用户支持运营团队.
理想情况下,这些团队将接受培训来处理不同类型的事件,以确保进行适当的响应并采取适当的行动.
当用户提出投诉时,根据事件的类型,应将其转至适当员工.
公司还可能成立专门团队处理报告可能出现错误时的用户申诉.
建立流程,立即删除或阻止对CSAM的访问,包括通知和下架流程,以便在发现非法内容后立即予以删除.
确保与公司有合同关系的第三方亦有类似的严格通知和下架程序.
如果法律允许,则材料可作为犯罪证据保存,以备查之用.
开发能够发现已知非法内容并防止其被上传(包括上传到私人群体)的技术系统,或对相关内容做出标记,以供公司安全团队立即进行审查.
采取一切相关措施,保障服务不被滥用于托管、传播或创建CSAM.
在可能情况下,制定积极主动的技术措施,分析与个人资料(prole)相关的对象和元数据,以发现犯罪行为或规律,并采取适当行动.
如果应用或服务允许客户将照片上传并存储在公司拥有或运营的服务器上,则出台所需流程和工具以识别最有可能包含CSAM的图像.
考虑采用主动识别技术,如扫描技术或人工审查.
39保护上网儿童业界指南营造更安全和符合年龄的网上环境提供用户生成内容和连接用户服务的提供商可通过采取以下措施,为所有年龄段的儿童创造更安全和更愉快的数字环境:在服务条款和用户指南中用客户友好的语言传达一套清晰的"内部规则",这些规则确定:服务的性质以及对用户的期望;就内容、行为和语言以及禁止非法使用而言,什么是可接受的,什么是不可接受的;任何违规行为的后果,例如,向执法部门报告和暂停用户账户.
在注册以及在网站上采取不同行动时,以适合年龄的形式(即利用直观的图标和符号)及时呈现关键性的安全和法律信息.
让客户能够轻松地向客户服务部报告对滥用的担忧,并出台处理不同担忧–例如接收无用通信信息(垃圾邮件、欺凌)或查看不适当内容–的标准和易于访问的流程.
提供适合年龄的内容共享和可见性设置.
例如,默认情况下为儿童和青少年设置的隐私和可见性比为成年人设置的更严格.
实施最低年龄要求,并支持研发新的年龄核实系统,如生物识别技术,同时使用开发此类工具的已知国际标准.
采取措施识别和删除虚报年龄获取访问权的未成年使用者.
需要考虑这可能带来的额外个人数据收集问题,以及限制这种信息的收集和存储及其处理的必要性.
如果尚未出台,则应建立适当的注册流程,以在不牺牲用户的身份、位置和个人详细信息的情况下确定用户是否到了可以访问内容或服务的年龄.
如果存在有关儿童主体数据隐私的措施,则应酌情使用国家建立的职能部门的年龄核实系统.
报告功能或帮助台/中心可鼓励用户对伪造年龄者做出举报.
营造更安全和符合年龄的网上环境(续)保护青少年用户免受不请自来的通信信息的影响,并确保隐私和信息收集导则到位.
找到查看托管图像和视频的方法,并在发现不合适图像和视频时将其删除.
诸如已知图像的哈希扫描和图像识别软件等工具可帮助实现上述目标.
在针对儿童的服务中,可事先检查图片和视频,以确保儿童不发布关于自己或他人的敏感个人信息.
可使用多种措施控制对用户生成内容的访问,并保护儿童和青少年免受不适当或非法内容的影响.
确保在游戏和其他社交媒体环境中使用安全密码作为保护儿童和青少年的一个步骤.
其他技术包括:审查讨论组,旨在确定有害主题、仇恨言论和非法行为,并在发现此类内容违反使用条款时将其删除;开发工具以主动寻找和删除非法或违反公司条件和服务条款的内容,以及防止已知非法内容上传到网站的工具;由专门的儿童和青少年版主组成的团队对留言板进行预先检查,筛查与已公布"内部规则"相矛盾的内容.
每条信息在发布前都可受到检查,检查员也可发现可疑用户以及处于困境的用户并加以标注;建立社区主持人团队,当主持人对某用户有顾虑时,可充当检查员的第一联系人.
负责审查商业内容,包括论坛、社交网络和游戏网站.
实施适当的标准和规则,保护儿童免受不合年龄的广告的影响,并为儿童和青少年设定明确的网上广告限制.
40保护上网儿童业界指南就儿童安全及其负责任的对ICT的使用向儿童、父母和教育工作者开展教育提供用户生成内容的服务提供商可通过采取以下教育和赋能活动对技术措施予以补充:创建一个部分,专门介绍关于数字化公民的安全提示、文章、功能和对话,以及指向第三方专家提供的有用内容的链接.
有关安全的意见和建议应易于发现,并以易于理解的语言提供.
还鼓励平台提供商在不同设备(如电脑、平板电脑或手机)之间建立统一的导航界面.
向家长提供有关可用内容和服务类型的清晰信息,例如,包括对社交网站和基于位置的服务的解释、如何通过移动设备访问互联网以及家长可用于管控的选择方案.
告知父母如何报告虐待、滥用和不适当或非法内容以及如何处理相关报告.
让父母了解什么服务是受年龄限制的,并让他们了解在使用交互式服务时如何安全和负责任地行事.
通过建立基于"信任和声誉"的系统来鼓励良好行为,并使同伴通过榜样相互传授最佳做法.
宣传报告社交活动(socialreport-ing)的重要性,因为报告社交活动方便人们联系其他用户或值得信任的朋友,从而帮助解决冲突或开启关于有问题内容的对话.
就特定服务或内容的性质以及如何安全使用这些服务和内容提供意见和建议,并做出必要提醒.
将社区指南构建到交互式服务中,例如,使用安全弹出窗口提醒用户适当和安全的行为,如不透露自身的详细联系方式.
与父母合作并指导他们确保在互联网上披露的关于儿童的信息不会使儿童处于危险之中.
可能情况下,在父母自己的用户创建内容中展示儿童时要获得儿童的知情同意,并尊重儿童的任何拒绝行为.
将数字技术作为加强公民参与方式予以宣传托管用户生成内容的服务可通过支持儿童和青少年的参与权来鼓励他们并赋予他们能力.
参见表1中的一般性指南.
5.
4功能特性D:由人工智能驱动的系统随着人们对深度学习技术的关注度越来越高,"人工智能"、"机器学习"和"深度学习"这些术语在某种程度上已被公众互换使用,以反映在机器中复制"智能"行为的理念.
我们将通过本节重点介绍机器学习和深度学习过程如何影响儿童的生活以及如何最终影响他们的人权.
"由于基于人工智能的技术在过去几年里呈指数级发展,因此现有保护儿童权利的国际框架不存在明确解决人工智能的发展和使用所提出的许多问题.
然而,上述框架确实确定了这些技术可能涉及的几项权利,从而为分析儿童权利如何受到新技术的积极或消极影响提供了重要起点,例如隐私权、受教育权、玩耍权和不受歧视权.
"18人工智能的应用会影响社交网络(如视频流平台)上使用的不同服务对儿童的影响.
机器学习算法–主要由流行的视频共享平台使用的推荐引擎–得到优化,以确保在给定时间内特定视频的最大观看量.
19触摸屏技术和这些平台的设计方便非常年幼的儿童浏览这些内容.
尤其令人担忧的是,使用推荐视频的算法可能会将儿童困在劣质或不18联合国儿童基金会和加州大学伯克利分校,"内容提要:人工智能与儿童权利",2018年.

19同上.
41保护上网儿童业界指南适当内容的"过滤泡沫"(lterbubbles)中.
由于儿童特别容易受到内容推荐的影响,因此令人震惊的"相关视频"会吸引他们的注意力,分散他们对更适合儿童的节目的注意力.
20人工智能在智能玩具方面也对保护上网儿童具有影响.
智能玩具的操作过程各不相同,但也有各自的挑战,即玩具(与儿童互动)、移动应用(作为Wi-Fi网络连接接入点)和存储数据的玩具/消费者个性化网上账户.
这类玩具与基于云的服务器通信,后者存储和处理与玩具互动的儿童提供的数据.
如果不在每一层都设置安全性,则这种模式就存在隐私问题,这一点已被许多个人信息被泄露的黑客案件所证明.
此外,一些被黑客攻击的设备(包括智能网络设备,如婴儿监视器、语音助手等)可在用户不知情或不同意的情况下用于监视用户.
当通过提供提示和基于所发现行为的建议(如前面在英国广播公司OwnItapp应用中提到的)利用这些设备来整合针对已发现儿童威胁的响应机制时,设计智能设备的公司将这些建议建立在证据的基础上并与儿童保护和儿童儿童权益保障专家协商制定这些建议是至关重要的.
虽然一些公司正在推进以符合道德的方式使用人工智能的原则,21但不清楚是否存在任何针对人工智能与儿童的公共政策.
22一些技术和贸易协会以及计算机科学团体已起草了关于人工智能的伦理道德原则.
23然而,这些并未明确提到儿童权利、这些人工智能技术可能给儿童带来风险的方式或减轻这些风险的积极计划.
"与企业一样,世界各国政府都采取了成为人工智能开发和使用领域领导者的战略,培育适合创新者和企业的环境.
"24然而,目前尚不清楚这些国家战略可如何直接解决儿童权利问题.
改善脸书上对自杀和自残相关内容的处理2019年,脸书开始与来自世界各地的专家进行定期磋商,讨论一些与自杀和自残相关的更难的话题.
这些包括如何处理自杀笔记,与压抑的网上内容相关的风险以及有新闻价值的自杀描述.
这些会议的更多细节可在脸书安全中心内新的自杀预防页面上找到.
通过这些磋商,脸书改进了处理这类内容的若干方法.
例如,关于自残的政策得到加强,禁止以图形形式呈现切割图像,以避免无意中促进或触发自残.
即使有人在寻求支持或表达自己来帮助他们康复,但脸书现在也会在自残愈合后的伤口图像上显示敏感屏幕.
当前正在通过人工智能的应用发现这种类型的内容:通过人工智能,对潜在有害内容的操作,包括删除相关内容或增加敏感屏幕,可自动进行.
从2019年4月到6月,脸书在其网站上对超过150万条自杀和自残内容采取了行动,并在用户举报之前识别出其中95%以上的内容.
在同一时期,Instagram对80多万条类似内容采取了行动,其中77%以上是在用户举报之前被发现的.

20同上.
21参见微软,"突出的人权问题",报告–2017财年;谷歌,"人工智能的负责任发展"(2018).
22微软官方博客,"未来计算:人工智能及其在社会中的作用",2018年.
23《卫报》,"谷歌、脸书、亚马逊、IBM和微软结成的'人工智能伙伴关系'",2016年.

24同上.
42保护上网儿童业界指南实时识别潜在的欺凌或点对点暴力,并向用户发送消息Instagram正在推出人工智能来根除诸如侮辱、羞辱和不尊重等行为.
通过使用尖端复杂的报告工具,版主(检查员)可迅速关闭网络欺凌肇事者的账户.

良好做法:使用人工智能发现儿童性虐待材料基于微软对PhotoDNA打击儿童剥削的慷慨贡献,以及最近谷歌内容安全应用的推出,脸书还开发了发现儿童性虐待内容的技术.
这些技术被称为PDQ和TMK+PDQF,是脸书用来发现有害内容的系列工具的一部分.
业界可用的其他算法和工具包括pHash、aHash和dHash.
脸书的照片匹配算法PDQ,很大程度上得益于pHash,尽管它是作为独立软件实现的独特算法从头开始构建的.
视频匹配技术TMK+PDQF,是由脸书的人工智能研究小组和来自摩德纳大学和意大利雷焦艾米利亚的学者联合开发的.
这些技术创造了一种将文件存储为短数字哈希的有效方法,可确定两个文件是相同还是相似,即使没有原始图像或视频.
哈希也可更容易地与其他公司和非营利组织共享.
PDQ和TMK+PDQF被设计用于大规模操作,支持视频帧哈希和实时应用.
表5提供一些建议,供企业在设计和实施针对儿童的基于人工智能的解决方案时参考.
这些建议基于儿童基金会的工作,即针对政府和业界制定关于人工智能与儿童的全球政策指导.
关于该项目的更多信息,请见hps://www.
unicef.
org/globalinsight/featured-projects/ai-children.
这些建议还借鉴了联合国儿童基金会和加州大学伯克利分校关于人工智能与儿童权利的论文.
2525联合国儿童基金会和加州大学伯克利分校,"内容提要:人工智能与儿童权利",2018年.

43保护上网儿童业界指南表5:COP功能特性D要素清单:由人工智能驱动的系统将对儿童权利的考虑纳入所有适当的公司政策和管理流程之中提供由人工智能驱动的系统的提供商可确定、预防和减轻ICT对儿童和青少年权利的不利影响,并确定支持促进儿童和青少年权利的机会.
人工智能系统的设计、开发、实施和研究应做到尊重、促进和实现《儿童权利公约》规定的儿童权利.
在数字环境中经历越来越丰富的童年是一段需要专门特殊照顾和帮助的时期.
应充分利用人工智能系统最大限度地提供这种支持.
在开发面向儿童的产品时,应采用包容性设计方式,最大限度地增加性别、地理和文化多样性,并包括广泛的利益攸关方,如父母、教师、儿童心理学家以及儿童本身(适当时).
应建立治理框架,包括道德规范导则、法律、标准和监管机构,以监督确保人工智能系统的应用不侵犯儿童权利的程序.
建立处理CSAM的标准流程提供由人工智能驱动的系统的提供商应与政府、执法部门、民间团体和热线组织合作,通过采取以下行动,在打击CSAM方面发挥关键作用:参见表1中的一般性指南.
营造更安全和符合年龄的网上环境提供由人工智能驱动的系统的提供商可通过采取以下措施,为所有年龄段的儿童创造更安全和更愉快的数字环境:在开发影响儿童的技术时采取多学科方式,并与包括学术界在内的民间团体协商,以确定这些技术对各种潜在最终用户权利的潜在影响.
通过设计实现针对儿童或儿童常用产品和服务的安全,并通过设计实现这些产品和服务的隐私.
由于人工智能系统需要大量数据,因此使用人工智能服务的公司应特别警惕儿童个人数据的收集、处理、存储、销售和发布.
人工智能系统应是透明的,因为可以发现一个系统是如何以及为什么做出某一特定决定,抑或在机器人的情况下,是如何行动的.
当怀疑儿童受到伤害时,这种透明度对于建立信任和促进审计、调查和追索至关重要.
如果儿童受到或声称受到人工智能系统的伤害,则应确保有职能和法律申诉机制.
应建立程序,及时纠正任何歧视性产出,并设立监督机构,以便就儿童的安全和保护提出申诉并继续进行监督.
问责制和纠正机制是相辅相成的.
制定计划,处理特别敏感的数据,包括可能与公司共享或通过公司产品泄露的虐待或其他伤害信息.
数字平台和人工智能系统应最大限度地减少儿童数据的收集,最大限度地提高儿童对其所创建数据的控制.
使用条款应便于儿童理解,以增强他们的意识和能动性.
44保护上网儿童业界指南就儿童安全及其负责任的对ICT的使用向儿童、父母和教育工作者开展教育提供由人工智能驱动的系统的提供商可通过教育和赋能活动对技术措施予以补充.
应有可能向儿童用户及其父母或看护人解释人工智能系统的目的,使他们能够决定使用还是拒绝这种平台.
将数字技术作为加强公民参与方式予以宣传提供由人工智能驱动的系统的提供商可通过支持儿童和青少年的参与权来鼓励他们并赋予他们能力.
参见表1中的一般性指南.
利用技术进步保护和教育儿童所有系统设计、开发和实施的结果应当是所开发的、由人工智能驱动的系统支持儿童的发展和福祉.
最好的可用和被广泛接受的发展和福祉指标应成为参考坐标.
公司应投资研发基于合乎道德规范的人工智能工具,与儿童权利方面的关键专家和儿童自身合作,发现网上CSAE行为、网上骚扰和欺凌行为.

人工智能技术的进步应被应用于针对儿童的适龄信息,同时不损害他们的身份、位置和个人信息细节.
参考资料GDPR文本(欧洲议会和理事会2016年4月27日关于在处理个人数据和此类数据的自由流动方面保护自然人的第2016/679号条例(欧盟)、废除第95/46/EC号指令(一般数据保护条例))和在《欧盟公报》中发布的文本.
经修订的AVMS(视听媒体服务)修正了关于协调成员国法律、法规或行政行动中关于提供视听媒体服务的某些规定的第2010/13/EU号指令(视听媒体服务指令),以应对不断变化的市场现实,以及在《欧盟公报》中发布的文本.
英国广播公司政策:儿童保护和保障政策2017年版、2018年修订版和2019年更新版;在英国广播公司与青少年和儿童一起工作;为BBC制作节目的独立制作公司框架:关于儿童保护的外部提供商规则;指南:就网上活动的编辑指南与儿童和青少年进行网上互动.
调查证明英国社交媒体不遵守关于年龄核实的规定:2016年;2017年;2020年.

45保护上网儿童业界指南词汇表以下定义主要取自1989年《儿童权利公约》、儿童性剥削问题机构间工作组编制的2016年《保护儿童免受性剥削与性虐待术语导则》(卢森堡导则)、欧洲理事会2007年《保护儿童免受性剥削与性虐待公约》以及联合国儿基会2019年《全球上网儿童报告》中的现有术语.
青少年青少年指年龄在10-19岁的人.
请特别注意:在国际法中,"青少年"一词并不具有约束力.
年龄在18岁以下的均视为儿童,而18-19岁则视为成人,除非国家法律规定成年的法定年龄低于18岁26.
人工智能(AI)从最广义上讲,该术语既指纯粹科幻小说中的系统(所谓的"强"人工智能,具有自我意识构成),亦指已投入运行且能够执行高难度任务的系统(如面部或语音识别、车辆驾驶–这些系统称为"弱"或"中度"人工智能)27.
人工智能系统(AI)人工智能系统是一个基于机器的系统,能够对一组人类定义的目标,做出预测、建议或影响真实或虚拟环境的决定.
人工智能系统的设计使其可在不同自主程度下运行28.
Alexa亚马逊Alexa,简称Alexa,是亚马逊开发的人工智能虚拟助手.
该助手能够实现语音交互、音乐回放、创建待办事项清单、设置闹铃、流播客、播放有声书以及提供天气、交通、体育和新闻等其它实时信息.
Alexa自身还可作为家庭自动化系统,控制多个智能设备.
用户能够扩充Alexa的功能,即安装"技能"(由第三方供应商开发的附加功能,属通常称为应用的其它设置,如天气程序和音频功能)29.
儿童的最大利益系指在具体情况下针对特定的一名儿童或一群儿童做出决定时所需考虑的所有要素30.
儿童根据《儿童权利公约》第1条,儿童系指18岁以下的任何人,除非国家法律规定的成年年龄低于18岁31.
儿童性剥削和性虐待26联合国儿基会和国际电联,《保护上网儿童行业导则》,2014年.
27欧洲理事会,"什么是人工智能".
28经合组织,理事会关于人工智能的建议,2019年.
29联合国儿基会和国际电联,《保护上网儿童行业导则》,2014年.
30见《联合国儿童权利公约》.
31联合国儿基会和国际电联,《保护上网儿童行业导则》,2014年.
46保护上网儿童业界指南指一切形式的性剥削和性虐待,如"(a)引诱或强迫儿童从事任何非法的性生活;(b)利用儿童卖淫或从事其他非法的性行为;(c)利用儿童进行淫秽表演和充当淫秽题材"32以及"未经同意的性接触,通常涉及暴力".
33通过互联网或与网上环境的某些连接对儿童实施的性剥削和性虐待(CSEA)日益增加.
儿童性剥削和虐待材料ICT的迅速发展产生了新形式的网上CSEA,可通过虚拟形式实施,且不一定含有与儿童的现场面对面见面34.
尽管许多司法管辖区仍将儿童性虐待的图像和视频称为"儿童色情制品"或"儿童猥亵图片",但本指南将此类问题统称为儿童性虐待材料(CSAM).

这一术语符合宽带委员会导则和WePROTECT全球联盟国家响应模式35,并更准确地描述内容.
色情制品系合法的商业化行业,卢森堡导则阐述了该词的用法:"可能(无意或有意)将实质为对儿童性虐待和/或性剥削行为的严重性降低、淡化甚至合法化[……]'儿童色情制品'一词可能暗示行为经儿童同意开展,是合法的性材料".
使用CSAM一词指表现对儿童进行性虐待和/或剥削行为的材料.
其中包括但不限于记录成年人对儿童性虐待的材料;包含在直接性行为中的儿童图像;主要用于性目的制作或使用的儿童性器官图像.
关于"计算机或数字生成的儿童性虐待材料"等术语,见《卢森堡导则》.

儿童和青少年系指18岁以下的所有人,其中儿童(在国际电联本指南中也称为"低龄儿童")涵盖15岁以下的所有人,而"青少年则"由15至18岁年龄组人群构成.

联网玩具联网玩具使用Wi-Fi和蓝牙等技术与互联网连接,一般与配套应用结合使用,以实现儿童的交互式玩耍.
据Juniper研究机构称,2015年联网玩具的市场达到28亿美元,预计到2020年将增至110亿美元.
这些玩具收集并存储儿童的个人信息,包括姓名、地理定位、地址、照片、音频和视频记录36.
网络欺凌(亦称网上欺凌)网络欺凌指团体或个人使用数字技术,针对无法轻易自卫的受害者反复实施的蓄意攻击行为37.
通常涉及"使用数字技术和互联网发布关于某人的伤害性信息,以伤害性方式故意共享私人信息、照片或视频,发送威胁性或侮辱性消息(通过电子邮件、即时消32《联合国儿童权利公约》第34条.
33《保护儿童免受性剥削和性虐待术语导则》(卢森堡导则),2016年.
342016年《卢森堡导则》(如上)和2019年儿童基金会《全球上网儿童报告》.

35宽带可持续发展委员会,"儿童上网安全:尽全力降低网络暴力、虐待和剥削风险",2019年;WePRO-TECT全球联盟(2016年),"防止和应对儿童性剥削和性虐待(CSEA):国家响应模式".

36JeremyGreenberg,"危险游戏:联网玩具、COPPA和安全隐患",乔治城法律技术评论,2017年12月4日.
37AnnaCostanzaBaldry等人,《网络欺凌和网络受害与父母对青少年网络活动的监督、监控和控制》,儿童和青少年服务评论,2019年.
47保护上网儿童业界指南息、聊天或文本),散布有关受害者的谣言和虚假信息,或故意将其排除在在线通信之外"38.
网络仇恨、歧视和暴力极端主义"网络仇恨、歧视和暴力极端主义是网络暴力的一种特殊形式,针对集体身份,而非个人……,通常涉及种族、性取向、宗教、国籍或移民身份、性别和政治"39.
数字化公民数字化公民指基于有效通信和创造的技能,积极、批判性且出色地参与数字化环境的能力,通过负责任地使用技术,实践尊重人权和尊严的社会参与形式40.
数字化素养数字化素养指在日益通过互联网平台、社交媒体和移动设备等数字技术进行通信和获取信息的社会,拥有生活、学习和工作所需的技能.
其中包括清楚的沟通、技术技能和批判性思维41.
数字化复原力该术语形容儿童在情绪方面处理在网上遇到的伤害的能力.
这一术语还指当孩子在网上遇到危险时,了解如何寻求帮助、从经验中学习以及在出现问题时恢复所需要的情商42.
学校各级管理人员指在学校管理或治理结构中担任职务的所有人员.
性诱骗/网络性诱骗根据卢森堡导则中的定义,性诱骗/网络性诱骗指面对面或通过使用互联网或其他数字技术与儿童建立/培养关系的过程,促成与该相关人进行网上或网下性接触.
为试图说服孩子建立性关系而与孩子成为朋友是一种犯罪行为.
信息通信技术信息通信技术(ICT)指强调通信方面的所有信息技术.
其中包括所有连接互联网的服务与设备,如计算机、笔记本电脑、平板电脑、智能手机、游戏机、电视和智能手表等43.
还包括无线电广播和电视等业务以及宽带、网络硬件和卫星系统.
网络游戏38《2016年卢森堡导则》和《2019年儿基会全球上网儿童报告》(如上).
39儿基会,《全球上网儿童报告》.
40欧洲理事会,"数字化公民与数字化公民教育".
41西悉尼大学,"什么是数字化素养".
42AndrewK.
Przybylski博士等人,"共同的责任–培养儿童网上复原力报告",维珍传媒和父母地带,2014年.
43联合国儿基会和国际电联,《保护上网儿童行业导则》,2014年(如上).
48保护上网儿童业界指南"网络游戏"的定义是通过任何连接互联网的设备(包括专用游戏机、台式计算机、笔记本电脑、平板电脑和移动电话)玩任何类型的单人或多人商业数字游戏.
"网络游戏生态系统"的定义包括通过电子竞技、流媒体或视频分享平台观看他人玩电子游戏,这些平台通常为观众提供评论或与玩家和其他观众互动的可选功能44.
父母监控工具指允许用户(一般为父母)控制计算机或其他可接入互联网的设备部分或所有功能的软件.
通常,此类程序可限制访问特定类型和级别的网站或网上服务.
一些工具亦提供时间管理范围,即可设定设备仅在特定时段连接互联网.
更高级的版本可记录设备发送或接收的所有文本.
这些程序通常设有保护密码45.
个人信息该术语指在网上收集的个人身份信息.
其中包括全名、联系方式(如家庭地址和电子邮件地址)、电话号码、指纹或面部识别材料、保险号或任何其它能够实现与人面对面或网上联系或定位的要素.
在此种情况下,该词还指由网上服务提供商在线收集的关于儿童及其随行人员的任何信息,包括联网玩具和物联网以及任何其他联网技术.