《特别专访》 联合国海恩斯特别报告员：关于冻结 “自主机器人杀手” 研发活动

翁岳暄 北京大学法学院

时间: 2013年6月1日
方式: 通讯采访
语言: 英语

专访对象:
克里斯托夫?海恩斯（Christof Heyns）联合国特别报告员，南非比勒陀利亚大学（Pretoria）法学院人权法教授以及国际与比较法研究中心副主任。海恩斯教授拥有南非比勒陀利亚大学法学士及文学硕士、美国耶鲁大学法学硕士、南非金山大学（Witwatersrand）法学博士等学位。自2010年8月起他被任命为联合国法外处决、即审即决或任意处决问题特别报告员（UN Special Rapporteur on extrajudicial, summary or arbitrary executions），在其职权范围内负责向日内瓦联合国人权理事会（Human Rights Council）与纽约联合国大会（General Assembly）定期进行相关人权事务报告。

海恩斯教授在英美国家有丰富的科研教学经验，他目前是美国美利坚大学华盛顿法学院合聘教授以及英国牛津大学Kellog学院访问研究员，从2005年起至今担任牛津大学兼职硕士生导师。他曾任比勒陀利亚大学法学院院长与法学院人权研究中心主任，在人权法学研究方面出版了许多著作，例如“The Impact of the United Nations Human Rights Treaties on the Domestic Level (with Frans Viljoen) ”以及“非洲的人权法“收录于《Human Rights Law in Africa》专书中。他的著作也广泛地以英语、南非语（Afrikaans）、法语、西班牙语、葡萄牙语、阿拉伯语等多种语言形式出版。海恩斯教授的学术成果亦获得海内外高度肯定与承认，作为德国洪堡学者他曾在海德堡马普国际公法与比较法研究所从事国际人权法研究。他曾获得比勒陀利亚大学Chancellor’s Award for Teaching and Learning以及美国富布赖特学者身份在哈佛大学法学院从事访学活动。

克里斯托夫?海恩斯特别报告员UN网页
http://www.ohchr.org/CH/Issues/Executions/Pages/SRExecutionsIndex.aspx
联合国人权理事会第二十三届会议:法外处决、即决处决或任意处决问题特别报告员克里斯托夫?海恩斯的报告书（中文版）
http://daccess-dds-ny.un.org/doc/UNDOC/GEN/G13/127/75/PDF/G1312775.pdf?OpenElement
联合国相关新闻
http://www.un.org/chinese/News/story.asp?NewsID=19905

1. 非常感谢您拨冗接受北京大学互联网法律中心-亚洲机器人法律工作组的采访，我代表中心主任张平教授带上来自北京的问候。能否请您给我们简单介绍一下对于您所指的“自主机器人杀手（Lethal Autonomous Robotics）“之开发与部署，可能存在哪三大核心争议呢？

海恩斯: 首先，我必须强调的是虽然“自主机器人杀手（LARs）”与“无人机（Drones）”外观上都是无人航空载具的形式，但它们是十分不同的。无人机透过远程操控由人类做出扣动扳机的决定，然而自主机器人杀手却是由机上的电子计算机做出射击的决定。对于这些自主机器人杀手而言并没有人类督导介入其决策回路，所以自主机器人杀手在本质上与无人机以及任何我们已知的武器系统是不同的。 这种新科技产生了一连串的关注，包含以下几点：（1）我们是否认为让机器处于一个地位来决定人类生死是件正确的事？（2）自主机器人杀手（LARs）是否能够符合武装冲突法的要求，例如辨别敌方士兵与一般平民百姓？（3）对于机器人造成的人员伤亡究竟谁该来承担责任，如果相同情况由人类造成属违法事项？
Christof Heyns: The first point I should make is that while LARs and drones are both forms of unmanned vehicles, they are very different. Drones are remote controlled, by humans who take the decision to ?pull the trigger?, but with LARs an ?n-board computer takes that decision. With LARs there is no ?human in the loop?. LARs are thus qualitatively different from drones, and from any other weapons system we know. This new technology raises a number of concerns, including the following: 1) Do we think it is right that machines should be in a position to decide whether human should live or die? 2) Can LARs meet the requirements of the law of armed conflict, such as distinguishing between military and civilian targets? 3) Who is to be held responsible for deaths caused by robots that would have been unlawful if caused by humans?

2. 目前巴基斯坦、俄罗斯与中国是支持联合国大会（UN General Assembly）对于无人机在战争的部署使用启动特别调查的主要国家[1]。能否请您简要地谈谈关于联合国特别调查目前的最新进展？

海恩斯: 该特别调查主由我的同事Ben Emmerson律师负责，他是回答此问题的最佳人选。
Christof Heyns: My colleague Ben Emmerson is conducting this investigation, he is best placed to answer this question.

3. 在今年二月Ben Emmerson律师与您一同出席欧洲大学研究院举办的“锁定目标狙杀、无人机与欧盟政策“高级别政策研讨会[2]。您认为欧洲国家在此议题上也有政治利益吗？

海恩斯: 是的，我想在这方面他们（欧洲国家）热衷于发展自己的位置。
Christof Heyns: Yes I think they are keen to develop their own position in this regard.

4. 一个正在浮现的问题：”开放组织风险（Open-Texture Risk）”，一种基于自律机械和非结构化环境互动过程所衍生的风险，逐渐成为智能机器人安全性确保的最大挑战[3]。自主机器人杀手势必也将面临其开放组织风险的监控问题。请问目前是否有任何政策白皮书着眼于“杀手机器人”在战场上可能产生不必要的系统行为（Unwanted System Behaviors）？

海恩斯: 我明确地提出在联合国架构下选派设置一个高级别专家组探究这个问题,不论是特别管制或彻底禁令对于这些潜在问题而言都是必需的。
Christof Heyns: I have proposed the appointment of a High Level Panel precisely to investigate the question whether special regulations ? or an out-right ban ? are necessary as a result of these potential problems.

5. 您对于美国佐治亚理工学院Roland Arkin教授所主张的机器人“嵌入式伦理（Embedded Ethics）”机制有何评价 [4]?

海恩斯: Arkin教授他提倡的道德调节器是一个有趣的构想，同时他本人也高度参与此议题。这个问题值得继续探索。
Christof Heyns: Prof Arkin?s proposed Ethical Governor is an interesting concept and a serious engagement with the issue. It is worth exploring further.

6. 在四月份发布的联合国报告书“UN report of the Special Rapporteur on extrajudicial, summary or arbitrary executions” 里[5]，您建议联合国成立高级别专家组来研究管理这些自主机器人杀手，能否请您详细地介绍此一构想给中国读者？

海恩斯: 我的报告书有两个主要的诉求。 第一是对于使用这些自主机器人杀手的国家应该先实施全国性的暂缓机制；第二则是在联合国所召集组织相关领域专家成立的高级别专家组对于如何处理自主机器人杀手所衍生的相关问题作出结论之前这些暂缓冻结应该被持续实施。我认为将有三种可能的结论：（1）联合国专家组可能判定现存的法律与政策已经十分充足；（2）也许我们将需要增加一些特别的管制规定；或者（3）自主机器人杀手必须被彻底禁止。
Christof Heyns: My report makes two key proposals. The first is a national moratorium in the countries of the world on the use of these weapons. Secondly, these moratoria should be imposed pending the outcome of a study by a High Level Panel, consisting of experts in the field, on how the issue of LARs should be approached. I think there are three possible outcomes: 1) they may say the existing legal and policy framework is sufficient; 2) there should be additional, special regulation for LARs; or 3) they should be banned.

7. 对无人机投入战争的道德伦理管控方面存在一个组织叫做“国际机器人武器控制委员会（ICRAC）”[6]。请问该组织与您所提倡的联合国高级别专家组,两者主要区别在于？

海恩斯: ICRAC是一个非政府组织。虽然他们做了重要的工作但毕竟他们没有任何的官方权力，还有就是他们已经预先致力于禁止自主机器人杀手。另一方面，我所提倡的专家组必须是联合国组织体系的一部分，该组织必须保持开放中立的态度来探究一切可能性。
Christof Heyns: ICRAC is an NGO. They do important work but they do not have any official authority, and they are in advance committed to a ban. The panel I propose should be an official UN body and it should investigate all the possibilities with an open mind.

8. 最近美国总统奥巴马签署官方文件，为利用无人机在海外打击武装人员制定新规定[7]，对此决定您有何评论？

海恩斯: 他的言论是受到欢迎的。虽然美国仍有许多秘密进行的无人机相关研发项目但至少这是迈向正确方向的一步。
Christof Heyns: His comments are to be welcomed. Much of the drones programme remains secret but this was a step in the right direction.

References
[1] ?UN report calls for killer robot moratorium?, CBC News, available from http://www.cbc.ca/news/world/story/2013/05/02/un-killer-robot-report.html
[2] European University Institute?s High-Level Policy Seminar on ?Targeted Killing, Unmanned Aerial Vehicles and EU Policy?, in Florence, Italy, Feb. 22. 2013.
[3] 翁岳暄，”人机共存社会中隐含的开放组织风险：评《开放式机器人》”，网络法律评论 第13卷，北京大学出版社（2011）
[4] Ronald Arkin, Governing Lethal Behaviour in Autonomous Robots (CRC Press, 2009); Kenneth Anderson and Matthew Waxman, ?Law and ethics for robot soldiers?, Policy Review, No. 176 (2012),available from http://www.hoover.org/publications/policy-review/article/135336.
[5] Christof Heyns, UN report of the Special Rapporteur on extrajudicial, summary or arbitrary executions, April. 9. 2013, available from http://www.ohchr.org/Documents/HRBodies/HRCouncil/RegularSession/Session23/A-HRC-23-47_en.pdf
[6] International Committee on Robot Arms Control (ICRAC), see http://icrac.net
[7] ?Obama Talks Terrorism, Drones, and Guant?namo in Major Speech?, Congressional Digest, available from http://congressionaldigest.com/obama-talks-terrorism-drones-and-guantanamo-in-major-speech/