联合国A/65/321大会Distr.
:General23August2010ChineseOriginal:English10-49238(C)230910230910*1049238*第六十五届会议临时议程*项目69(b)促进和保护人权:人权问题,包括增进人权和基本自由切实享受的各种途径秘书长的说明秘书长谨向大会成员转交人权理事会法外处决、即决处决或任意处决问题特别报告员菲利普·阿尔斯通根据大会第63/182号决议提交的报告.
*A/65/150.
A/65/32110-49238(C)2法外处决、即决处决或任意处决问题特别报告员的临时报告摘要法外处决、即决处决或任意处决问题特别报告员的这份报告重点特别放在新技术与应对法外处决挑战的关系,以及与法外处决相关的有罪不罚现象猖獗的问题.
该报告指出,众所周知,新技术已改变21世纪的世界,特别是在信息、通信和武器装备等领域.
然而,相比之下,人权界似乎往往仍固守在20世纪.
它没有考虑到如何充分利用新技术所提供的机会,来进行实况调查、监测或监督国家的义务;而且,它显然没有能够迅速理解在机器人等领域的新技术所产生的影响.
在该报告中,特别报告员分析了(a)新技术与人权实况调查;(b)定点清除与问责制;及(c)法外处决与机器人技术.
它建议成立两个专家组.
一个将研究如何更有效地利用新的信息和通信技术监测和保护人权,另一个将研究如何积极主动采取步骤,确保优化机器人技术,以便促进更有效地履行国际人权法和人道主义法.
A/65/321310-49238(C)目录页次一.
导言4二.
新技术与人权实况调查4三.
定点清除和问责制8四.
法外处决和机器人技术10A.
导言10B.
发展杀伤性机器人技术的趋势12C.
令人关切的问题16五.
结论和建议20A/65/32110-49238(C)4一.
导言1.
这是法外处决、即决处决或任意处决问题特别报告员菲利普·阿尔斯顿向大会提交的最后一份报告.
该报告分析了(a)新技术与人权实况调查;(b)定点清除与问责制;及(c)法外处决与机器人技术,并在最后提出了具体的行动建议.
2.
在编写本报告时,我非常感谢纽约大学法学院法外处决问题项目的SarahKnuckey和HinaShamsi所做的精湛研究和提供的专业知识.
SaschaBollag、AnnadeCourcyWheeler、KatyGabel、DanielleMoubarak和RebeccaPendleton也提供了有价值的研究.
二.
新技术与人权实况调查3.
即使在涉及大规模法外处决的情况中,主要困难仍然是能否搜集到有关事件的准确资料.
部分原因是一些国家政府越来越坚决和熟练地阻碍获取资料,但也因为人权团体总的来说尚未充分和系统地利用新的信息和通信技术提供的巨大潜力,来加强它们的实况调查能力.
4.
国际人权实况调查目前主要依靠证人的证词,通常是由经验丰富的调查人员和倡导者通过长时间的亲自采访收集的.
国际实况调查人员有时需要花几周或几个月的时间调查各种事件和寻找证人,有时依靠可信任的地方组织、媒体的报道或联系人的说法.
能对多少事件进行记录很大程度上取决于实况调查小组的人数、他们可以在相关国家花多少时间,以及有多少资金.
而且,如果调查人员出于安全原因或因准入方面的其他障碍,无法与潜在的证人见面,或无法考察据称发生侵犯事件的现场,实况调查则可能受到阻碍,有时甚至无法进行.
在这种情况下,外界可能数月或更久无法知道严重的侵犯事件,包括屠杀,这会拖延原本可能挽救生命的报告和干预.
1在其他情况下,严重依赖未得到更多更客观资料证实的证人证词,会使得调查结果受到政府或涉嫌犯罪者的质疑.
通常详细说明实况调查团调查结果的很长书面报告,不见得能更容易充分说明复杂的情况,或可能无法吸起广泛受众的注意.
5.
新技术对这些问题提供了大量可能的解决方案,并能对现有的实况调查方法进行重大改进.
然而,令人惊讶的是,人权领域与信息和通信技术领域之间仍存在巨大差距.
整个人权界几乎尚未持续开展工作,来运用现有技术或研究它们的潜在用途和问题,而且更不重视信息和通信技术应用到人权领域的研究和开发.
因此,1见A/HRC/14/24/Add.
3,第26至30页(介绍了2009年4月至8月在刚果民主共和国发生的屠杀事件,但在数月之后才得到报告).
A/65/321510-49238(C)人权领域工作采用信息和通信技术只是处在萌芽阶段.
2不过,正如下面讨论的例子表明,目前已开展一些努力,利用新技术扩大公众参与监督和举报侵犯事件.
有些努力或许能够实时报告侵犯事件,从而提高对各种事件的认识,加快对这类事件的反应,甚至可能防止这类事件;有些努力向人权调查人员提供新型数据,这类数据可能对侵犯人权事件提供重要的辅助证据;其他努力提供新的倡导机会.
6.
新的社交媒体、社交网站、用户生成内容的网站或平台,以及其他一系列信息和通信技术,使任何人均可获得必要的技术,来实时分享和报告与杀人或其他侵犯人权有关的行为,如通过Facebook、Twitter或如Ushahidi等众包技术.
3例如,Ushahidi平台技术最初主要是由几名肯尼亚人在他们的国家2007-2008年选举后发生暴力行为时开发的,可以让用户使用短信、智能电话应用、Twitter、电邮或网络提交关于侵犯人权事件的报告,诸如某个侵犯人权事件的时间、地点、性质等信息,以及图片和视频片段,然后可以地理标签方式在地图上或时间轴上标出.
该平台已经被用在一系列的情况中,包括刚果民主共和国、南非、加沙地带、印度、苏丹、阿富汗和布隆迪,以及2010年1月海地地震之后.
通过众包和短信报告平台(如FrontlineSMS平台)能够增加人权监测的速度、深度和范围是显而易见的.
这种平台有数百或数千名用户,因此可作为一个早期预警系统,或追踪暴力的格局或自然灾害的影响,或便利快速的反应或提供服务.
危机状况成图4可以提供事件的重要可视介绍,促进更有效的战略规划或宣传.
手机报告系统也被用于改善提供卫生和人道主义援助,以及环境保护.
5这些技术也可让使用者回避主流媒体的偏见或政府审查,这一点从Twitter在伊朗伊斯兰共和国2人道主义界与信息和通信技术界之间的联系也存在巨大差距,但正在缩小,尤其是自海地地震以来.
见DianeCoyle和PatrickMeier,"新技术在紧急情况和冲突中的应用:信息和社交网络的作用"(联合国基金会-沃达丰集团基金会合作伙伴关系,2009年);PGGreenough等人著,"人道主义援助中的应用技术:2009年应用技术工作组的报告",《入院前和灾害期间的医疗》第24期,增编2(2009);美国国务卿希拉里·罗德姆·克林顿,"关于因特网自由的讲话"(2010年1月21日).
3通常来说,众包是指公开邀请众人提供信息和想法.
更具体地来说,该术语经常被用来通过网络2.
0技术进行的众包.
通常参看:AnkitSharma,"众包成功关键因素模式",工作文件(2010),以及在该文件中援引的资料来源;KarthikaMuthukumaraswamy,"当媒体遇到群众的智慧",《新闻实践》第4期(2009年7月24日);JeffHowe,"众包的兴起",见www.
wired.
com(2006);以及AnandGiridharadas,"非洲给予硅谷的礼物:如何跟踪一场危机",《纽约时报》(2010年3月12日).
4见http://www.
crisismappers.
net/;http://irevolution.
wordpress.
com/2009/08/08/proposing-crisis-mapping/;http://hhi.
harvard.
edu/programs-and-research/crisis-mapping-and-early-warning.
也见开发计划署编写的"苏丹境内的威胁和风险状况成图分析",参看http://www.
sd.
undp.
org/projects/dg13.
htm.
5例如,儿童基金会已利用手机报告系统提供人道主义援助.
在埃塞俄比亚,儿童基金会利用RapidSMS更好地分配粮食供应.
见"利用手机防止饥馑"(2008年12月21日),参看www.
mobileactive.
org.
也见SheilaKinkadeandKatrinVerclas"无线技术促进社会变革:非政府组织利用手机的趋势",联合国基金会-沃达丰集团基金会合作伙伴关系(2008年).
A/65/32110-49238(C)6众所周知的使用情况中已得到证明;能够从实况调查人员本身无法到达的地方进行报道;并通常能够扩大公众参与倡导人权.
6一系列维基和用户生成内容或协作网站,如Wikileaks,OpenStreetMap(一种能编辑世界各国街道的地图)、YouTube,7以及Hub8均可发挥类似的功能.
7.
但是,这些技术有效应用到人权领域也存在重大障碍.
信息是否可信和可靠是实况调查的主要关切问题.
人权问题调查之后的报告和倡导活动必须供人们质疑,如果"实况"是通过不可靠的方法,或由经验不足、有偏见的实况调查人员收集,则很容易受到抨击.
例如,众包可能产生"一种未经证实的报告海啸".
9由于众包获得的信息可能含有错误或伪造的资料,10因此,目前还难以想象人权报告完全基于众包获得的信息.
但各种组织(如国家人权机构、监察员和非政府组织)当然可以利用众包来收集涉嫌侵犯行为的报告,然后可以进行跟踪和调查,或可将众包平台加以限制,以便只有某些可靠来源(如联合国调查人员或其他指定的本地实地调查人员)可以向有关组织提供信息.
11目前也正在开发一些程序,来解决可靠性和准确性的问题,如SwiftRiver,该程序利用自然语言计算、机器学习以及精确算法,来聚合、筛选和划分网上新闻、博客、Twitter、短信和其他来源的信息.
128.
众包还有可能对那些报告侵犯行为者带来隐私和安全方面的问题.
在敏感的环境中部署技术之前,需要仔细考虑这方面的问题.
例如,专制政府可能会监测送到某个平台的短信,或要求当事者登记个人信息.
13在协调和信息共享方面也6见MollyBeutzLand,"通过网络开展行动"《哈佛人权学刊》第22期(2009)205;GeoffreyA.
Fowler,"公民记者打破对缅甸新闻的封锁"《华尔街日报》(2007年月28日).
7见LarryDiamond,"解放技术"《民主杂志》第21期(2010年)76(提到一系列"解放"和"问责"技术,并将YouTube作为"透明和监测"工具的范例:"在YouTube的搜索栏里输入"侵犯人权"一词,你能获得大约1万个各类相关内容的视频,从乌兹别克斯坦种棉花农民的工作条件,到菲律宾采矿的作法,以及中国摘取人体器官等等").
8Hub是WITNESS国际组织的一个项目.
WITNESS提供如何使用录像技术的培训和设备,来记录侵犯人权的事件.
Hub是一个能够分享有关人权的录像的网站.
9见美国国务院,"海地地震:在人道主义信息领域开辟新天地"(2010年7月),第4页.
10见AnahiAyalaIacucci,"Ushahidi-智利:众包核查信息的范例",参看"http://crisismapper.
wordpress.
com/2010/06/28/ushahidi-chile-an-example-of-crowd-sourcing-verification-of-information/(讨论在智利地震之后有人做出假报道的情况);PeterSmith,"手机和因特网准入有助于-也阻碍了肯尼亚事件的准确报道",参看www.
csmonitor.
com(2008年1月31日)(讨论了假信息和谣言的情况).
11例如,见PetervanderWindt,"来自南北基伍的声音(刚果民主共和国境内的Ushahidi)",在关于危机状况测绘问题国际会议上的发言(2009)(讨论刚果民主共和国东部的一个试点项目,向村里的领导人提供手机,以便通过短信报告侵犯行为).
12见http://swift.
ushahidi.
com.
13见PatrickMeier,"如何在专制环境中安全通信"(2009年7月15日),参看http://www.
humanitarian.
info/2009/03/30/correcting-crowdsourcing-in-a-crisis/.
A/65/321710-49238(C)可能出现其他问题.
因此,在海地地震之后,有人指出,"每个系统是一个信息孤岛,从而导致不必要的重复、区隔和严重的挫折感.
"14其他重要问题包括获得技术的机会不均衡(这可能歪曲调查结果或倡导的重点),可持续性(特别是在某个危机的紧迫性似乎要减退时)、蜂窝移动网络或互联网连接的开支和可靠性,以及潜在的用户培训和知识.
人道主义、救灾,以及信息和通信技术领域的各界人士目前正对这些问题进行重要的讨论,15其中大部分是与人权领域行为体有关.
9.
地理空间技术在协助在人权工作方面也有巨大的潜力,一些组织正开始使用它们进行调查和宣传.
16例如,作为其"科学促进人权"方案(与美国促进科学协会合作17)的组成部分,大赦国际正利用成图和卫星图像,来提供支持证人证词的证据,记录侵犯人权行为(如对房屋或乡村的破坏),并正在其倡导工作中提供交互式可视化信息.
18但是,购买卫星图像会很贵,可能需要从政府获得,并可能受到诸如时间滞后和云的干扰等因素的限制.
为此,一些人建议或已开始研发无人驾驶飞行器或其他空中摄影机制,用于人道主义目的(同样也可用在人权领域),尽管这些飞行器或机制的实际使用目前仍受保险问题和无人驾驶飞行器的民事用途管制问题的限制.
1914和平基金会的信息和通信技术,"海地地震之后:如何正确进行危机信息管理"(2010年3月).
15例如,见PatrickMeier在http://irevolution.
wordpress.
com/上的文章;再比较http://www.
humanitarian.
info/2009/03/30/correcting-crowdsourcing-in-a-crisis/.
也见"打开人道主义信息领域的新局面",参看上文注9.
16例如,见国际危机组织,"斯里兰卡境内的战争罪"(2010年5月17日)(提到卫星图像提供侵犯人权的证据);人权观察,"格鲁吉亚与俄国:2008年8月使用集束弹药的情况"(2009年4月9日)(提供了使用集束弹药地点的地图和卫星图像);人权观察,"以色列与加沙:使用白磷弹的卫星图像"(2009年3月25日).
也见世界粮食计划署使用卫星图像的情况:http://www.
wfp.
org/our-work/our-competences/being-ready/technology-helping-wfp.
也见DavidTalbot,"卫星图像捕捉到缅甸侵犯人权的情况",《技术观察》(2007年9月28日).
关于GoogleEarth的使用情况,见MapAction,"GoogleEarth及其在人道主义领域的潜力:简报"(2008年4月).
17美国促进科学协会有一个专门的"科学与人权方案",包括一个"空间技术与人权项目".
见美国促进科学协会,"空间技术能为人权界做什么》",参看http://shr.
aaas.
org/geotech/whatcanGISdo.
shtml.
也见战术性技术合作组织,"倡导的地图:绘制地理地图技术的介绍"(2008年9月).
18例如,大赦国际的"关注达尔富尔"项目收集卫星图像、证人证词和地面照片,来证明达尔富尔境内侵犯人权的行为.
卫星图像表明村庄被毁前后的情况.
见http://www.
eyesondarfur.
org/about.
html.
该机构的"关注巴基斯坦"项目使用互动地图来表明对平民袭击的地点:http://www.
eyesonpakistan.
org/.
19见HBendea等人著,"低成本的无人驾驶飞行器用于灾后评估",《摄影测绘学、遥感和空间信息科学国际档案》(第XXXVII卷(2008)(介绍了研制低成本无人驾驶飞行器用于人道主义灾难早期影响的分析情况及其优势);Bendea等人著,"移动绘图的新技术",在第五次移动绘图技术国际研讨会上发表的论文(2007).
A/65/32110-49238(C)810.
其他技术也有潜力,包括人工智能、20机器人学、21Photosynth,22以及高光谱图像,23但大部分未开发应用到人权领域.
三.
定点清除和问责制11.
2010年6月,特别报告员向人权理事会提交了一份专题报告,分析了可适用于定点清除的人权和人道主义法律,以及这些做法所引起的法律问题.
24在该报告中,特别报告员强调这种做法已经蔓延的程度,并警告说,它们对国际法治迅速构成了不断扩大的严重挑战.
近几年,美利坚合众国、以色列和俄罗斯联邦宣称,在武装冲突的有限允许范围之外、过于广泛情况下的定点清除的合法性,同时未能证明它们使用定点清除的作法符合可适用的规则.
该报告警告说,这些国家如今对法律的过分宽泛的解释,必然会使其他国家今后仿效,而且,如果定点清除缺乏透明度和问责制,则会严重损害国际社会为保障生命权一直精心建造的法律框架.
美国选择了不回答报告的实质性问题,而以色列和俄罗斯联邦则无视该报告.
12.
该报告以及特别报告员向人权理事会的发言均特别重视美国的作用,因为美国最积极也最多地支持有时似乎已违反可适用的国际法律的定点清除作法.
特别报告员敦促美国政府公开其定点清除政策的法律基础,以及根据该政策已杀害的人数,其中包括平民,并公布已实施的问责机制.
他表示,特别关切美国中央情报局(下称"中情局")定点清除方案,因为该方案完全没有公开的问责制和透明度,包括中情局拒绝透露据说杀害了数以百计的人的理由.
2513.
关于定点清除,美国政府的反应包括三个方面.
第一是完全拒绝与人权理事会或其特别报告员进行任何直接的接触,从而破坏了理事会的合法监督作用,在20例如,见人工智能促进发展,参看http://ai-d.
org/index.
html.
21例如,见JohnG.
Blitch,"人工智能技术用于机器人协助城市搜寻和抢救工作",《带有应用程序的专家系统》第11期(1996年)(讨论了如何利用可移动的机器人营救困在倒塌建筑中的人).
也见:综合区域信息网,"机器人无国界"(2009年6月22日),参看:http://www.
irinnews.
org/Report.
aspxReportId=84933(讨论了自动化人道主义救援的潜力);http://www.
humanitarianfutures.
org/main/content/science-panel;http://crasar.
org/.
22Photosynth允许用户创建一系列上传到该网站的照片的三维模型.
例如,如果几个用户拍摄了某个涉嫌侵犯人权行为的现场照片,这些照片都可以"缝合"一起,共同创造一个从不同的角度拍摄的许多图像的汇编;这可以是一个重要的采集证据工具.
见http://photosynth.
net/about.
aspx;SanjanaHattotuwa,"通过微软Photosynth提供的信息视觉化:是否能成为人权记录的工具"(2008年7月31日),参见http://ict4peace.
wordpress.
com.
23见MargaretEKalacska等人著,"利用遥感技术寻找乱葬坑:来自哥斯达黎加的一个试验性动物案例研究",《司法鉴定》第54期,159.
24A/HRC/14/24/Add.
6.
25特别报告员2010年6月3日在人权理事会的发言,参看http://www.
extrajudicialexecutions.
org/application/media/Statement-Alston1.
pdf.
A/65/321910-49238(C)针对许多其他国家的行为时,美国却一直大力支持这种作用.
第二是一直在媒体中积极但基本上是匿名地为这种政策辩护,美国官员坚持认为,定点清除是高度有效的作法,只造成少数的平民伤亡,而且完全合法.
26第三是一贯拒绝通过关于主要关切问题的任何具体说法来支持美国官员所给予的一般性保证.
中央情报局发言人的讲话最能说明这一点,他们既不证实也不否认该机构开展的定点清除方案,同时又坚称任何此类方案导致的平民伤亡不超过40或50名,而且受国内严厉的问责制安排制约.
27总之,尚未就特别报告员报告中提出的任何基本问题提供具体的资料.
这些问题包括:在何时何地,政府认为自己有权杀戮;谁可能被杀死;有何保障措施来保护平民;以及什么是可适用的问责机制.
甚至发言人提供的平民伤亡数字也完全像秘闻,不加任何进一步解释.
14.
美国继续拒绝向国际社会提供相关信息,来履行有关透明度和问责制的义务,同时,不断扩大其定点清除的方案.
在特别报告员向人权理事会提交报告之后的两个月里(到2010年7月底),据报,在巴基斯坦和阿富汗边境地区发生了10次美国无人驾驶飞机的袭击.
这些袭击估计杀害了64至112名之间的所谓"激进分子",但如果有平民死亡,其人数是未知的.
28自美国在2002年左右开始采取定点清除政策以来,仍然无法核实关于死亡人数的报道,以及关于死者是否为平民或是合法打击目标者的声称.
其主要原因是美国政府拒绝透露(只通过非常有选择性地泄漏消息)谁被作为杀害的对象,以及是否有平民伤亡;另外也还因为人权监测员和独立的媒体无法进入受影响地区.
例如,据英国广播公司的报道,尽管在2009年1月至2010年6月期间,有700多人被无人驾驶飞机的袭击杀害,"无论是巴基斯坦当局或美国当局对受害者身份的确认均不超过十几次.
"2915.
除了有关中情局活动的问题之外,又有关于美国军方领导的美国特种部队在阿富汗主导定点清除行动的令人不安的信息曝光.
特别报告员在关于其2008年5月前往阿富汗考察的报告中关切地指出,美国为首的捕捉或杀死在阿富汗的嫌疑人的秘密行动缺乏透明度和问责制,而且这些行动似乎常常基于糟糕的情报.
30最近刚获得的2004-2009年期间的美国政府文件,表明在很大程度上这种关切是26FrankJordans,"联合国专家认为:美国、以色列和俄国采取的'定点清除'可被视为战争罪",美联社,2010年6月2日;CharlieSavage,"联合国报告严厉批评美国的无人驾驶飞机的袭击",《纽约时报》,2010年6月2日.
27例如,见PeterFinn,"联合国官员敦促美国停止中情局无人驾驶飞机对基地组织和塔利班的袭击",《华盛顿邮报》,2010年6月3日;DavidCloud,"联合国报告批评美国大量使用无人驾驶飞机的袭击",《洛杉矶时报》,2010年6月3日;JonathanAdams,"美国在联合国报告尖锐批评之后为无人驾驶飞机的袭击辩护",《基督教箴言报》,2010年6月3日.
28PeterBergen和KatherineTiedemann,分析了2004年至2010年美国无人驾驶飞机在巴基斯坦的袭击,新美国基金会,参看http://counterterrorism.
newamerica.
net/drones.
29英国广播公司新闻,"分析美国无人驾驶飞机和穆斯林好战分子在巴基斯坦的袭击",2010年7月22日,参看http://www.
bbc.
co.
uk/news/world-south-asia-10648909.
30见/HRC/11/2/Add.
4.
A/65/32110-49238(C)10有道理的.
这些文件表明,一支美国特种部队(373特遣部队)负责捕捉或杀害塔利班和基地组织的领导人,这些人包括在约有2000人的联合优先结果名单内.
这些文件还对德国政府参与执行美国定点清除政策表示关切,因为373特遣部队成员驻扎在阿富汗的德国基地.
这些文件表明,373特遣部队可能误杀了平民,包括妇女和儿童;而且,373特遣部队可能非法地选择杀害某人,而非捕捉和扣留他们.
31目前从文件中尚无法了解某人如何被选上杀害/捕获名单,某人如何能从名单上除名,或以什么为根据来决定是杀害而非捕捉某人.
大会应呼吁美国和任何其他参与国政府充分公布这些行动的法律依据以及造成的结果,并采取措施惩治违法者,赔偿受害者.
16.
满足定点清除的透明度和问责制的法律要求,并不会给有关国家造成沉重负担.
最低要求是:公布针对某人作为目标加以杀害的法律标准;在世界何处以及何时可以允许这种杀人行为的法律依据;已采取哪些预防措施,来确保这种杀戮是合法的;以及当平民被非法杀害时,有什么后续行动.
32政府官员或他们在媒体的代理人的回答常常表明,披露这类信息必然会涉及泄露情报来源和方法.
但事实并非如此,公布制定定点清除政策的法律分析依据,不需要披露任何国家机密.
公布为确保打击的对象是正确而实施的一般性程序保障措施,同样不至于披露情报,关于正在调查和纠正一个不法行为,或者受害者得到赔偿的报告也不需要披露情报.
相反的,不公布这些情况会对本国社会和国际社会造成取消公共法律责任的影响,无法证实政府说法的合法性,从而破坏了法治.
四.
法外处决和机器人技术A.
导言17.
在过去十年期间,为武装冲突和执法研制和在其背景下部署的无人系统或机器人系统的数量和类型一直以惊人的速度增长.
机器人系统的速度、范围、能力和自动化都在迅速提高.
已在使用或处于发展后期的无人技术设备——包括无人驾驶飞机、直升机、水上和地面车辆——可以由人远程控制履行各种任务:监视、侦察、检查站的安保、消除简易爆炸装置的爆炸能力、生物或化学武器检测、清除瓦砾、搜寻和救援、街头巡逻等等.
这些设备也可以配备武器,用于打击目标或自卫.
这些技术有些是半自动的,并可以在不需人为控制的情况下着陆、起飞、飞行或巡逻.
在一些国家的边界使用机器人岗哨,包括有监测能力和配备机枪的塔楼.
在可预见的将来,将有技术能创造在最少的人为参与或不需要直接人为控制或授权的情况下能够瞄准目标和杀人的机器人.
31NickDavies,"阿富汗战争记录:373特遣部队",《卫报》,2010年7月25日;有线新闻网,"Wilileaks揭露神秘的373特遣部队",2010年7月26日.
参看Wikileaks阿富汗战争日记,参考号AFG20070617n853(介绍了意图用火箭打击AbuLaithal-Libi,结果造成7名儿童死亡).
32见/HRC/14/24/Add.
6.
A/65/3211110-49238(C)18.
此种技术有些确实是有益的,或是可用于带来明显积极的结果,其中最重要的是,拯救平民的生命和限制军事人员的伤亡.
然而,这些技术的迅速发展,特别是那些具有致命能力的技术和人为控制程度下降的技术的迅速发展,提出了几乎完全没有经人权或人道主义行为者研究的严重关切事项,尽管一些军事律师、哲学家、伦理学家和机器人专家已开始这样做.
33国际社会普遍缺乏对这个问题的关注是可以理解的,其他人道主义或人权问题似乎迫切得多,如巴基斯坦灾难性的洪水、刚果民主共和国的杀戮和性暴力或墨西哥的团伙杀人事件,而且,资源、时间以及联合国、非政府组织和智囊团的人员能力经常捉襟见肘.
此外,任何具有科幻小说意味的东西似乎更适于出现在阿西莫夫的小说或《终结者》电影中,而不是在人权报告中.
19.
多种因素可以解释为何人权界仍然将机器人技术的发展视为一个在相关技术实际得到使用前不需要处理的奇特专题.
首先,很多关于这些发展的信息还局限于军事研究机构和专家的科学文献.
其次,对技术的了解需要大多数人权专家不具备的专业知识.
第三,更多地使用机器人技术的吸引力在公众心目中大大超过了潜在的不利因素.
最后,有一个涉及南北方的问题,即北方有充足的资金和发展技术的技术诀窍,而其使用的很多消极后果会对南方较为贫困的国家造成较为严重的影响.
20.
以下的分析是以两个主要假设为前提的.
第一个是新的机器人技术在生命权和打击法外处决的工作方面具有非常重要的影响,而且这些技术提出了需要现在而不是以后解决的问题.
第二个是,虽然很大一部分目前正在开展的研究和技术创新是由军事和有关问题驱动的,没有任何内在的原因可以证明人权和人道主义法方面的考虑因素不能被积极纳入新技术的设计和运作中.
但是,除非并且直至人权界促使公共和私营部门确保这种情况的发生,这种情况不会发生.
而且,由于人权层面问题不能孤立地解决,国际社会迫切需要解决发展致命机器人技术的法律、政治、伦理和道德影响.
33例如,见2008年6月哈佛执行会议摘要,无人战争和机器人战争:问题、选择和未来,第14页http://www.
lnwprogram.
org/publicfiles/download/Future+of+Unmanned+and+Robotic+Warfarefile_id=505283("2008年哈佛会议");RonaldArkin,控制自动机器人的致命行为(2009);PeterAsaro,"机器人战争究竟会是什么样",PhilipBrey,AdamBriggle&KatinkaWaelbers(编),计算机科学和哲学的当前问题(2009);WilliamH.
Boothby,武器和武装冲突法(2009);JasonBorenstein,"自主军事机器人的伦理道德",《伦理道德、法律和技术研究》第2卷(2008),参看http://www.
bepress.
com/selt/vol2/iss1/art2;CharlesJ.
Dunlap,Jr.
,"技术:使国家捍卫者的道德生活再次复杂化",《参数:美国陆军战争学院季刊》第24期(2009);NoelSharkey,"自主杀人机器和计算机专业",《计算机学刊》(2007);NoelSharkey,"死亡攻击从天而降:相称性的演算",电气和电子工程师学会《技术与社会学刊》第28期,第16-19页(2009);RobertSparrow,"机器人武器与未来战争",JessicaWolfendale&PaoloTripodi(编),新的战争和新的士兵:当前世界的军事与道德(即将出版);RobertSparrow,"铸剑为犁机器人武器的军备控制",电气和电子工程师学会《技术与社会杂志》第28期,第25页(2009);PatrickLin,GeorgeBekey,&KeithAbney,自动军事机器人科学:风险、伦理道德和设计(2008),参看http://ethics.
calpoly.
edu/ONR_report.
pdf(为美国海军部编写的报告).
A/65/32110-49238(C)12B.
发展杀伤性机器人技术的趋势21.
虽然在战争中使用致命机器人并非没有先例,34自2001年9月11日的恐怖袭击、阿富汗和伊拉克的冲突以及这两起冲突引发的军事研究和发展实现巨大增长以来,致命机器人的发展和使用大大增加了.
军事专家指出,这两起冲突正充当"机器人战争""超常规发展"的实时实验室.
3522.
这项技术的主要用户是美国.
2000年至2008年,美国无人驾驶飞机系统的数量从不到50架增至6000多架.
36同样,美国国防部部署的无人地面车辆的数目从2001年的不到100辆增至2007年的近4400辆.
37其他国家,包括澳大利亚、加拿大、法国、德国、以色列、大韩民国和大不列颠及北爱尔兰联合王国,也已研制或正在研制无人驾驶系统.
3823.
目前,使用的大部分机器人武器技术是由人远程直接操作的系统.
一个著名的例子是"bombot东",这种车辆可以通过遥控驱动驶向简易爆炸装置,向简易爆炸装置投掷炸药,然后在引爆之前被驱动离开.
39另一个例子是特别武器观测侦察探测系统(SWORDS),以及后来的模块化先进武装机器人系统(MAARs).
特别武器观测侦察探测系统是一个小机器人,可以装载几乎任何重量不到300磅的武器,包括机关枪、步枪、榴弹发射器和火箭发射器,可在多种地形上行进.
40它可以通过遥控器和摄像机从两英里远的地方进行操作,并可用于街头巡逻和检查站安34远在第二次世界大战之时,德国就使用了安装在坦克履带上的遥控起爆炸弹,而美国使用了装满爆炸物的无线电驾驶轰炸机.
见SteveFeatherstone,《即将到来的机器人军队》,哈珀斯杂志,2007年2月;P.
W.
Singer,《遥控战争》(2009)(讨论无人或机器人技术的历史发展).
352008年哈佛会议,上文脚注33,第2页.
36见政府问责办公室向空军和陆军小组委员会、武装部队委员会、众议院提交的报告,"无人驾驶飞机系统:为满足战士需求改进对国防部工作的管理和整合需要更多的行动",2008年11月,参看http://www.
gao.
gov/new.
items/d09175.
pdf.
37国防部向国会提交的报告:"机器人科学和无人地面车辆的研制和使用"11(2006年10月),参看http://www.
jointrobotics.
com/Activities/congressdocs/UGV%20Congressional%20Report%20-%20Final%20%28October%202006%29.
pdf.
美国法律要求,到2015年三分之一的美军地面作战车辆实现无人驾驶.
同上,第45页.
国防部部长办公室,"2007-2032年无人系统路线图"(2007年),参看http://auvac.
org/research/publications/files/2007/unmanned_systems_roadmap_2007-2032.
pdf.
对于2010财年,美国国防部为无人系统争取了54亿美元的预算(包括在陆上、空中和海上使用的系统),比上两年增长37.
5%.
"2010财年五角大楼的无人系统支出超过54亿美元",DefenseUpdate,2009年6月14日,参看http://defense-update.
com/newscast/0609/news/pentagon_uas_140609.
html.
38见机器人科学和无人地面车辆的发展和使用,脚注37,第47页(说明目标为发展美国盟国机器人和无人地面车辆的军事能力的研究和发展活动).
39同上,第12页.
40《遥控战争》,上文脚注34,第29-32页.
A/65/3211310-49238(C)保以及哨所.
模块化先进武装机器人系统与其类似,但可以携带更强大的武器,还可以装载催泪瓦斯等不致命的武器.
4124.
目前在已部署系统中普遍存在的自动化水平,仅限于无人驾驶作战飞行器或激光制导炸弹根据设计方案自动或只在人为监测(而不是控制)下起飞、航行或除冰的能力.
2010年6月,进行了直升机完全自动飞行的试验.
42还存在可以自动围绕一个敏感的贮存设施或基地巡逻的哨兵系统.
例如,移动探测评估和响应系统(MDARS),是一个小型的机器人巡逻部队,可以减轻工作人员巡逻外部地区的重复有时甚至危险的任务负担,而且可以自动进行随机巡逻.
43对于现存的有致命能力的系统,目标的选择和开火的决定是由人做出的,虽然通过遥控,还是由人实际开火的.
随着这样的武器系统的出现,存在军事术语中"环中人",使用致命武力的决定同任何其他种类的武器一样取决于操作者和指挥系统.
目前使用的这种半自动化武器系统的例子包括美国和英国在伊拉克和阿富汗部署的"捕食者"和"收割者"无人驾驶飞机,44以及以色列哈比无人机.
"空中勇士"等系统将取代这一代技术,该系统是能自动起飞和着陆的无人驾驶飞机系统,还有搭载和发射4枚Hellfire导弹的能力.
4525.
还正在研制"蜂拥"技术,以使较小数量的军事人员能够遥控大量的机器.
正在研制的一个系统预计将使一名操作者通过一个连接各个机器人和机器人与操作者的无线网络,监测一组半自动的空中机器人武器系统.
在一个"蜂拥"中的每个机器人将自动飞到指定的区域,并通过使用人工智能、传感信息和图像处理"探测"威胁和目标.
4626.
机器人技术的发展使机器人的速度加快,并能做出更迅速的反应.
军事战略文件预计将会发展技术,使机器以致命武力对可察觉威胁做出反应的所需时间缩41同上;另见SethPorges,"现实生活中的变形金刚可能是第一个在战斗中开火的机器人",《大众机械》,2009年10月1日,参看http://www.
popularmechanics.
com/technology/military/4230309.
42OliviaKoski,"首架无人协助飞行的全功能机器人直升机",Wired(2010年7月14日).
43"移动探测评估和响应系统——二十一世纪机器人哨兵系统",通用动力公司机器人系统,http://www.
gdrs.
com/about/profile/pdfs/0206MDARSBrochure.
pdf.
44美国空军,2009-2047年美国空军无人驾驶飞机系统飞行计划,第26页,参看http://www.
fas.
org/irp/program/collect/uas_2009.
pdf.
45见通用原子航空的说明,http://www.
ga-asi.
com/products/aircraft/er-mp-uas.
php;DefenseUpdate,投产空中战士、为美国军队ER/MP计划提供设备,2010年7月9日,http://www.
defence-update.
net/wordpress/20100709_sky_warrior_lrip.
html.
462009-2047年无人驾驶飞机系统飞行计划,上文脚注44,第33-34页.
一群由达索公司领导的欧洲公司正在为欧洲市场研制类似的技术.
"美国没有的五种顶尖的携带炸弹和持枪的战争机器人",《大众机械》,2009年10月1日,参看http://www.
popularmechanics.
com/technology/military/4249209.
A/65/32110-49238(C)14短到微秒或纳秒.
越来越多的人将不再是"环中人",而是"环上人"——监测某些决定的执行.
47可以通过将能够以比人类更快的速度"感觉到并行动"的无人机器连成网络提高该设想技术的速度.
27.
迄今为止,任何在半自动化基础之上运行的武装机器人系统尚未被用于袭击目标.
一些国家的军事代表表示,人类将在可预见的未来,仍处于任何决定使用致命武力的"环节"中.
48例如,美国国防部指出:在今后相当长的时期内,扣动扳机或从无人系统发射导弹的决定是不会完全自动化的,但指出,发射序列的很多方面将会自动化,即使最后开火决定可能在法律、交战规则以及安全问题都得到彻底研究和解决之前不会完全自动化.
49但是,一些机器人专家指出,为自动致命机器人系统的到来正在有条不紊地开展工作,在战场上自动与目标交战只是时间问题.
50一些国家据说已经在部署或研制有能力使人类处于致命决策环节之外的系统.
例如:差不多自2007年以来,以色列沿其与加沙边界每隔几百码部署了安装在瞭望塔上的7.
62毫米遥控机枪,作为其"哨兵科技"武器系统的一部分,也称为"发现并开枪"或希伯来文的"Roeh-Yoreh".
51这种"机器人狙击手"系统通过传感器定位潜在目标,将信息传输到作战指挥中心,在那里一名士兵可以确定目标位置、跟踪目标并开枪将目标杀死.
52哨兵技术系统已经向数十名据称"恐怖分子"射击.
53关于使用哨兵科技杀死一人的首次报道似乎发生在2008年12月铸铅行动期间.
542009年12月使用该系统杀死了两名据称"恐怖分子",552010472009-2047年无人驾驶飞机系统飞行计划,上文脚注44,第41页.
48英国空军元帅SteveHillier认为"仍然需要人类处于决策环节中.
当你进行攻击时,你需要有人来作出判断.
"http://www.
flightglobal.
com/articles/2010/07/13/344077/farnborough-uk-unmanned-air-vehicles.
html.
49美国国防部,2009–2034财年无人系统综合路线图,2009年4月6日,参看http://jointrobotics.
com/documents/library/UMS%20Integrated%20Roadmap%202009.
pdf.
50RonaldCArkin,AlanRWager和BrittanyDuncan,"无人系统的责任和致命性:合乎道德的行动前责任的考虑",GVU技术报告GIT-GVU-09-01,GVU中心,佐治亚理工学院,2009年.
51RobinHughes和AlonBen-David,"以色列国防军在加沙边境部署哨兵科技",简氏防务周刊,2007年6月6日.
52NoahSchachtman,机器人狙击手,保护以色列边境的"自动杀戮区",Wired,2007年6月4日,http://www.
wired.
com/dangerroom/2007/06/for_years_and_y/.
53AnshellPfeffer,"以色列国防军的最新英雄:加沙边界的妇女弹着观察员",Haaretz,2010年3月3日,参看http://www.
haaretz.
com/print-edition/news/idf-s-newest-heroes-women-spotters-on-gaza-border-1.
264024.
54以色列战争室妇女"观察员"使用新的"看见——射击"遥控技术,英国广播公司中东监测,2009年1月9日.
55YaakovKatz,"以色列国防军公布了对加沙围栏的改进措施",《耶路撒冷邮报》,2010年3月3日,参看http://www.
jpost.
com/Israel/Article.
aspxid=170041.
A/65/3211510-49238(C)年3月,哨兵科技杀死了另一个人并打伤四人;据媒体报道,目前尚不清楚死者和受伤者是农民还是持枪者.
56未来的计划设想建立一个在确定身份、瞄准和杀戮程序中不需要任何人为干预的"闭环"系统.
57大韩民国已研制出SGR-1,这是一个无人枪塔从2010年7月开始,在朝鲜民主主义人民共和国和大韩民国的非军事区试用履行哨兵责任.
58SGR-1使用感热及运动探测器和模式识别算法探测可能的入侵者;它可以向位于远方指挥中心的操作者报警,操作者可以使用SGR-1的音频和视频通信系统评估威胁,并作出是否使用机器人控制的5.
5毫米机枪开火的决定.
59媒体报道表明,虽然现在使用致命武力的决定是由人类指挥官做出的,机器人已有能力自动开火.
6028.
这种自动化技术也日益复杂化,并且人们正在积极研究人工智能推理和决策能力,并为此得到了大量资金.
各国军队和国防工业的开发人员正努力开发"全自动能力",这种人工智能技术的进步将使无人驾驶飞行器能做出并执行复杂的决定,包括确定人的目标和杀死他们的能力.
612003年美国联合部队司令部授权开展的研究,据称预测了到2015年将研制出使机器人能在有限的人为监督下追捕和杀死敌人的人工智能和自动目标识别能力.
62所设想的全自动武器系统的用途有:"非致命和致命的人群控制、下车进攻作战和武装侦察及突击行动".
63已开发的地面机器人GuardiumUGV是一种高速车辆,可以携带武器并用于战斗支援以及边境巡逻和其他保安任务,例如机场和发电厂的周边安全.
6456AliWaked,"巴勒斯坦人:以色列国防军在加沙开火造成一死四伤",2010年3月1日,参看http://www.
ynetnews.
com/articles/0,7340,L-3856218,00.
html.
57"遥控机械碉楼守卫敌对边界",国土安全部新闻专线,2010年7月19日,参看http://homelandsecuritynewswire.
com/remotely-controlled-mechanical-watch-towers-guard-hostile-borders;NoahSchachtman,"机器人狙击手,保护以色列边境的"自动杀戮区",Wired,2007年6月4日,http://www.
wired.
com/dangerroom/2007/06/for_years_and_y/;JonathanCook,"以色列为遥控杀戮铺平了道路",TheNational,2010年7月13日.
58"军队在非军事区测试机枪哨兵机器人",联合新闻社,2010年7月13日,可在http://english.
yonhapnews.
co.
kr/national/2010/07/13/14/0301000000AEN20100713007800315F.
HTML上查阅.
59同上;"在非军事区部署的持机枪机器人",《星条旗报》,2010年7月12日,参看http://www.
stripes.
com/news/pacific/korea/machine-gun-toting-robots-deployed-on-dmz-1.
110809.
60五种顶尖的携带炸弹机器人,上文脚注46.
612009-2047年无人驾驶飞机系统飞行计划,上文脚注44,第50页.
62SteveFeatherstone,"即将到来的机器人军队",《哈泼斯》杂志,2007年2月,参看http://www.
wesjones.
com/robot.
htm.
632009-2034财政年度无人系统集成路线图,上文脚注49,第10页.
64GNIUS无人地面系统,GuardianUGV,参看http://www.
g-nius.
co.
il/unmanned-ground-systems/guardium-ugv.
html和http://www.
defense-update.
com/products/g/guardium.
htm.
A/65/32110-49238(C)16C.
令人关切的问题29.
虽然机器人或无人驾驶武器技术发展速度惊人,关于利用此类武器技术所产生的法律、伦理和道德问题的公共辩论仍处于初级阶段,人们还很少考虑到处理由此导致的问题所必要的国际法律框架.
30.
使用现有和正在开发中的技术有很多可能的好处.
65这些技术或许可作为"效力倍增系统",极大地扩展军事力量的能力或行动范围,而且机器人可以牺牲掉,或派遣到对士兵来说过于危险的环境中.
它们可能比部署士兵的经济成本更低.
而且,机器人被毁坏不会导致无可替代的人类生命的结束.
正如美国政府报告中所说:越来越多的机器人在战斗中被摧毁或损坏,而不是男女军人被杀伤,这是一个人们更乐见的结果.
66机器人或许能比人类更加慎重地使用致命武力(因为它们不必将保存自我作为首要驱动力67),而且它们根据从更多来源处理的信息,可以更快更准确地采取行动和作出反应,得以减少附带损害和其他人类所犯错误.
它们或许还能避免因恐惧、疲倦和报复欲等人类情绪而导致的错误或伤害.
如果机器配备了记录行动和监测遵守法律要求情况的能力,它们或许将提高军事透明度并加强问责制.
31.
但是,这些设想中的好处未必能够反映在实际技术的设计或编程中.
而迄今为止的实际情况是,即便关于部署致命机器人技术的人道主义和人权影响的讨论,都远远落后于技术的发展.
下文所述令人关切的问题需要深入研究.
6832.
定义.
解决这些技术问题的法律和道德后果首先遇到的障碍是,缺乏对"自主"、"自主性"或"机器人"等关键术语的一整套统一定义.
各国军方对这些术语的用法差异极大,防务行业人员、学者和平民的用法之间同样千差万65对这些观点的更多讨论,例见RonaldArkin,管理自主机器人的致命行为(2009);自主军事机器人学:风险,上文脚注33.
66美国国防部,提交国会的报告,机器人学和无人地面车辆的开发和利用,2006年10月,第9页,参看http://www.
ndia.
org/Divisions/Divisions/Robotics/Documents/Content/ContentGroups/Divisions1/Robotics/JGRE_UGV_FY06_Congressional_Report.
pdf.
另见2009-2034财政年度无人系统综合路线图,上文注释49.
67RonaldC.
Arkin,"战争中的机器人道德",第2页.
68关于对这些观点的更多讨论,例见PeterAsaro,机器人战争将有多公正载PhilipBrey,AdamBriggle&KatinkaWaelbers(编),计算机科学和哲学的当前问题(2009);JasonBorenstein,自主军事机器人的伦理,《伦理、法律和技术研究》第2期(2008),参看http://www.
bepress.
com/selt/vol2/iss1/art2;NoelSharkey,自主杀人器和计算机专业,《计算机学刊》(2007);NoelSharkey,死亡攻击从天而降:相称性的演算,电气和电子工程师学会《技术与社会学刊》第28期,16-19(2009);Sparrow,"机器人武器与未来战争",上文脚注33;Sparrow,"铸剑为犁",上文脚注33.
A/65/3211710-49238(C)别.
69例如,"自主"描述的是一台机器依据道德和伦理推理行动的能力,还是仅指不由人类控制采取行动的能力(例如,设定程序的无人驾驶飞机可以在无人引导的情况下起飞和降落;一台记录温度的温度计),这两者之间的差异可能导致混乱.
70随着国际社会开始就机器人技术展开辩论,有必要至少寻求对这些系统及其特征达成共同认识.
33.
国际责任和刑事责任.
自主化程度提高带来的最重要问题之一是对平民伤亡或其他危害或违反战争法的责任问题.
正如特别报告员在以往多份报告中所作的详细分析,71应用在武装冲突或执法领域的国际人权和人道主义法,设立了旨在保护平民或尽量减少对平民伤害的标准,并设立了对各国军方、警察或其他武装部队使用武力的限制.
当这些限制受到侵犯时,各国可能须为所犯错误承担国际责任,官员或其他人可能承担个人刑事责任.
国际人权和人道主义法框架的前提,均是该框架约束国家和个人并力图向其问责.
当机器人用远程控制操纵时,使用致命武力的最终决定由人类作出,通常也易于确定由此导致伤害的个人和指挥责任.
34.
但是,随着自主化程度提高,国家和个人责任的框架越来越难以适用.
如果一个机器人违反可适用的国际法杀死了平民,谁来负责呢设计指导机器人行动的程序的程序员、批准编程设计的军事官员、受命负责该机器人的指挥官、一个本应监督机器人但却选择不这样做的士兵如果杀戮是因某种故障引起呢部署该机器人的政府、主要工程师或制造商、或承担编程的最后责任的个人,还是其他人应该负责一个人需要对机器人行使多大程度的监督,才应对机器人的行动负责是否可以设想合法地为机器人编制违反有关国际法行动的程序的条件或者反过来,机器人能否编程设计为自动推翻其认为在当时特定情况下违反了国际法的指令是否存在一些情况,其中可以得出适当结论认69在过去10年中,快速地、有时近乎混乱地开发无人驾驶飞机系统,导致一些术语在军事和民用语境中同时出现.
其结果,一些以往术语已过时,同时各国观点不同导致难以实现新术语的标准化…….
同样,与无人驾驶飞机有关的概念,例如自主和自主化等,即便在英国,也有许多差异极大的定义.
当军方、工业界和学术界之间讨论无人驾驶飞机问题时,这些领域都有可能导致混乱或误解.
英国国防部,共同学说附注3/10,无人驾驶飞机系统:术语、定义和分类,2010年3月,参看http://www.
mod.
uk/NR/rdonlyres/FBC33DD1-C111-4ABD-9518-A255FE8FCC5B/0/JDN310Amendedweb28May10.
pdf.
另见http://www.
jointrobotics.
com/documents/masterplan/2005%20JRP%20Master%20Plan.
pdf;自主军用机器人,上文脚注33;Singer,WiredforWar67(定义"机器人").
70例如,可对比美国国防部和英国国防部对"自主"、"半自主"和"自主化"的定义:美国国防部,"冲锋陷阵"(OutFrontinHarm'sWay),联合机器人方案,2005财政年度总计划,参看http://www.
jointrobotics.
com/documents/masterplan/2005%20JRP%20Master%20Plan.
pdf;英国国防部,共同学说附注3/10,无人驾驶飞机系统:术语、定义和分类,2010年3月,参看http://www.
mod.
uk/NR/rdonlyres/FBC33DD1-C111-4ABD-9518-A255FE8FCC5B/0/JDN310Amendedweb28May10.
pdf.
71例见E/CN.
4/2005/7;A/61/311;以及A/HRC/14/24/Add.
6.
A/65/32110-49238(C)18为,尽管事实清楚地表明非法行动已导致平民或其他人死亡,但没有个人应当承担责任35.
有些人认为,机器人永远不应完全自主——允许机器人自主杀人是不道德的,因为无法明确人类的责任,而且,整个问责制框架会崩溃.
还有RonaldArkin等人认为,有可能设计出关于责任的道德操守系统.
72他认为,机器人可能成为比人类更好的有操守的决策者,因为它们没有情感和恐惧,其程序可以设计为确保遵守人道主义法标准和可适用的接战规则.
还有些人回答说,这种想法的前提是关于规则性质,以及怎样设计机器人程序使其理解这些规则的未经证实的假想,低估了价值观和道德操守对规则应用的指导作用,而这是机器人无法复制的.
73一些伦理学家认为,为了理解如何使责任与违法行为相称,需要进行更多的研究,以理解人类自身如何决定遵守法律和道德操守规则及其原因,以及机器人编程与人类决策异同的程度.
36.
由于无人系统的设计不支持调查,它们引起了人们对透明度和问责制担忧.
一些人指出,从国际法的角度看,或许最令人困扰的是,无人系统的设计不支持调查,它们没有档案信息.
存在这样一种可能性:士兵指着机器说,"我没有责任,是机器的责任.
"74为了与各国的国际法义务相符,以提供对使用致命武力的问责制,任何无人武器系统,不论其自主化程度如何,均不得妨碍各国调查不法行为的能力,事实上还应为调查提供便利.
37.
保障措施和部署标准.
另一个重要问题涉及机器人遵守人权和人道主义法律的能力,以及有关编程和开发部署技术的标准.
在武装机器进行人群控制、在平民区域巡逻,或获得决定将一个据称是战斗员的人当作靶子的能力之前,必须实行怎样的标准或进行怎样的测试虽然任何一种技术都有可能发生故障,导致致命错误,但人们对机器人武器的迅猛发展特别担心的是,为预防无意或其他错误使用致命武力技术的情况,保障措施是否被预制在系统中,以及达到多大程度.
已实行或应当实行哪些程序设计或其他技术保障措施,以确保采取了国际人道主义法所要求的预防措施国际人道主义法应要求怎样的程序设计保障措施38.
令人困扰的是,军事专家和民间专家承认,机器人开发基本上是被国防工业驱动的,而且,实地系统很少接受过严格或标准化的测试或实验.
75例如,美国72无人驾驶系统的责任和致命性,上文脚注50;RonaldCArkin,PatrickUlam和BrittanyDuncan,"制约自主系统致命行动的伦理管理器",GVU技术报告GIT-GVU-09-02,GVU中心.
佐治亚理工学院,2009年.
73例如,PeterAsaro,"道德使用者建模",电气和电子工程师学会《技术与社会》,第28期,(2009);NoelSharkey,"死亡攻击从天而降:相称性的演算",电气和电子工程师学会《技术与社会》,第28期,16-19(2009);Sparrow,"机器人武器与未来战争",上文脚注33.
742008年哈佛会议,上文脚注33,第8页.
752008年哈佛会议,上文脚注33,第2页.
A/65/3211910-49238(C)军方承认,为了在伊拉克和阿富汗的冲突中挽救军人生命,机器人系统可以不经必要的可靠性测试即进行部署.
7639.
在武装冲突的情况下,特别是在城市地区,军事人员往往难以区分可能是合法目标的人和平民——前者是战斗员或直接参与了敌对行动,而后者却没有.
这种决策要求判断是否满足关于必要性和相称性的可适用法律要求、是否已采取了所有适当预防措施,而有时作决策的环境在迅速变化,且情况难以归类.
何种标准可用于确定机器人是否终有一日能够以必要的方式作出此类决策,或是如何评价可能声称已经将所有此类考虑纳入一套特定指令的方案,以期引导机器人技术,这两个问题均仍没有明确答案.
40.
此外,有人担心,致命能力的发展已经超出了对技术错误或通信错误的保障措施的发展.
例如,军事战略规划文件提出警告,无人飞行器系统"在技术上有可能"在为该系统开发保障措施之前拥有核打击能力,而且必须在近期进行伦理讨论并作出政策决定,以指导未来无人飞行器能力的开发,而不应允许开发工作自行其是.
7741.
还有人质疑,情报和其他数据得到快速处理的好处如何以及何时被仓促决策带来的风险所掩盖.
例如,"环上人"系统带来的忧虑是,技术的发展超出了人类依据可适用法律进行有效监督的能力.
对于蜂拥技术,一些研究发现,当人类操作员控制同时两个无人驾驶飞机系统时,他们的绩效水平平均下降了50%.
78研究表明,随着人类"监督"机器数量的增大,发生致命错误的可能性也增大.
除非采取了充分预防措施,而且将其预制在系统内,所犯错误将发展为明显违反可适用法律的可能性将增大.
42.
与此有关的一个忧虑是,为防止人对机器人的最终控制被规避,应当或必须采取怎样的保障措施,以及为防止致命机器人被叛乱分子或恐怖主义团体劫持或利用,可以实施那些保障措施.
43.
平民支持.
一个重要的政治考虑是,在平民环境中广泛使用机器人——例如用于城市执法或戡乱行动——是否将疏远它们本来意在援助的群体.
过于依赖技术增大了下述风险:政策制订者和指挥官把重点放在相对容易使用的武装或致命762009-2034财政年度无人系统综合路线图,上文注释49,39-40("当前作战部队的任务中,一些无人驾驶系统未经建立正常情况下应在一个系统投入实战之前或之中建立的所需可靠性和可维护性基础设施即投入实战.
为了保存战士的生命,决定甘冒投入实战的设备存在可靠性和可维护性问题的风险,这是一个经过考虑的决定,是情有可原的".
).
77无人驾驶飞机系统飞行计划2009-2047,上文脚注44,第41页.
78P.
W.
Singer,"战争中的机器人:新战场",《威尔逊季刊》,2009年冬季号;另见JessieY.
C.
Chen等,人-机器人接口:操作员绩效问题,接口设计和技术,美国陆军研究实验室,ARL-TR-3834,2006年7月,http://www.
dtic.
mil/cgi-bin/GetTRDocLocation=U2&doc=GetTRDoc.
pdf&AD=ADA451379(讨论关于自主化利弊的研究结果).
A/65/32110-49238(C)20战术,从而损害结束一场冲突所必需的所有其他要素的风险,包括赢得人心,以及政策制定者高估新技术实现可持续和平的能力的风险.
此外,虽然机器人或许有不会感情用事的好处,但它们也不会有怜悯、自责或同情,而这些感情往往适当地调节并指导战斗员及其指挥官的行为.
44.
使用武力的门槛和诉诸战争权的考虑.
由于是否进行战争的决定受到军事人员生命损失的前景和战争的高昂经济成本的制约,机器人军队可能使政策制定者更轻易地选择卷入一场武装冲突,这增大了违反诉诸战争权所需条件的可能性.
当另一方不具备同等技术的时候,尤其如此.
同样,在武装冲突中,只要机器人由本身没有实际危险的人类遥控,人们就会担心,一名操作员的位置远离战场,将鼓励他们对战斗和杀戮产生一种游戏工作站心态,无人驾驶飞机操作员等人使用武力的门槛可能会降低.
因此,国际社会应考虑,因广泛使用机器人技术而减少的对一个国家的武装部队的风险,是否以及何时会令人难以接受地增加对立方平民的风险.
五.
结论和建议45.
新技术已经改变了21世纪的世界,特别是在信息、通信和武器领域的新技术,这已是老生常谈.
但是,相比之下,人权界往往似乎决意紧抱住20世纪不放.
人权界往往未能充分利用新技术提供的实况调查、监测或监督国家义务等方面的机会.
在领会机器人学等领域新技术的意义方面,人权界也相当落后.
这种缄默或忽视严重影响了其减少法外处决和世界许多地方仍然猖獗的对法外处决有罪不罚现象的能力.
46.
人权方法论往往被一种追赶的心态所主导.
其假定往往似乎是:只有现有办法确定无疑不足敷用时,才应考虑新办法.
这种情况需要改变,联合国以及各国政府和公民社会团体应当采取更加积极主动的做法.
为此,提出两个主要建议.
47.
人权事务高级专员办事处应当召开一个专家组会议,由信息和通信技术专家、有使用新技术经验的人道主义和人权行动者,以及有关私营部门代表等,在会上讨论新技术在人权方面的当前和潜在应用,及其有效利用的障碍.
专家组还应讨论:如何保护那些报告侵权事件的人的安全(例如位置跟踪;保密数据传输技术);如何改进卫星和其他空中图像的获取和利用;人权行动者利用众包平台接收侵权指控;如何促进新技术的使用并联系当地社区;如何衡量信息和通信技术对促进人权的影响;以及如果在该领域建立新国际标准的话,应建立何种类型的标准.
48.
亟需考虑开发和利用机器人技术带来的法律、伦理和道德后果,特别是但不限于其战争用途.
不应仅强调这种技术进步带来的挑战,还应强调积极主动的采取措施的办法,以确保这种技术促进更有效遵守国际人权和人道主义法的能力得A/65/3212110-49238(C)到优化.
为此目的,秘书长应召集会议,由来自各国的军方和民间代表、人权和人道主义法的首要权威、应用哲学家和伦理学家、科学家和开发商,在会上就旨在促进该目标的措施和指导方针提供咨询意见.
与会者应考虑可采取哪些措施确保此类技术符合可适用的人权和人道主义法要求,包括:(a)任何无人驾驶或机器人武器系统采用与具有可比性的有人系统相同或更高的安全标准;(b)在部署技术之前要求测试其可靠性和效能;及(c)纳入记录系统和其他允许对不法使用武力现象进行有效调查并实行问责制的技术.
49.
在其工作中,该小组可以解决与下列事项有关的提高定义一致性的需要:正在开发的技术类型、需要经验性研究以更好地理解技术的人权后果,以及是否应当允许致命武力完全自主化这个根本性问题.
LOCVPS发来了针对XEN架构VPS的促销方案,其中美国洛杉矶机房7折,其余日本/新加坡/中国香港等机房全部8折,优惠后日本/新加坡机房XEN VPS月付仅29.6元起。这是成立较久的一家国人VPS服务商,目前提供美国洛杉矶(MC/C3)、和中国香港(邦联、沙田电信、大埔)、日本(东京、大阪)、新加坡、德国和荷兰等机房VPS主机,基于XEN或者KVM虚拟架构,均选择国内访问线路不错的机房,适合建...
GigsGigsCloud新上了洛杉矶机房国际版线路VPS,基于KVM架构,采用SSD硬盘,年付最低26美元起。这是一家成立于2015年的马来西亚主机商,提供VPS主机和独立服务器租用,数据中心包括美国洛杉矶、中国香港、新加坡、马来西亚和日本等。商家VPS主机基于KVM架构,所选均为国内直连或者优化线路,比如洛杉矶机房有CN2 GIA、AS9929或者高防线路等。下面列出这款年付VPS主机配置信息...
DogYun是一家2019年成立的国人主机商,提供VPS和独立服务器租用等,数据中心包括中国香港、美国洛杉矶、日本、韩国、德国、荷兰等,其中VPS包括常规VPS(经典云)和按小时计费VPS(动态云),使用自行开发的面板和管理系统,支持自定义配置,动态云各个硬件独立按小时计费,带宽按照用户使用量计费(不使用不计费)或者购买流量包,线路也可以自行切换。目前商家发布了6.18促销方案,新购动态云7折,经...
youtube代理软件为你推荐
怎么改ip如何修改IP地址?怎么改ip如何更改IP地址?weipin唯品会的唯品钱包里的钱怎么用spgnuxPC操作系统如何描述渗透测试web渗透测试有前途吗网站运营网站运营的工作做什么童之磊华硕的四核平板电脑,怎么样?宕机人们说的宕机是什么意思网页打开很慢为什么打开网页很慢网络广告投放网络广告的投放目的是什么?
虚拟主机 免费二级域名申请 重庆服务器托管 namecheap 香港cdn Hello图床 42u标准机柜尺寸 淘宝双十一2018 铁通流量查询 我爱水煮鱼 vip购优汇 web服务器的架设 100mbps 闪讯官网 web服务器是什么 谷歌台湾 攻击服务器 创速 谷歌搜索打不开 石家庄服务器 更多