美英等国研发杀人机器人 联合国讨论封杀

无人机颠覆现代战争

关于“杀人机器人”，因发起国际禁止地雷运动而于1997年获得诺贝尔和平奖的美国人乔迪·威廉姆斯认为，“关于科技会完全改变战争的讨论一直在进行，当有人说这是不流血的战争时，我很愤怒。”

国际机器人武装控制委员会主席、人工智能与机器人技术教授诺尔·夏基认为，无人机参战意味着人类迈出了颠覆现代战争的最后一步。他说，目前所有的无人机行动仍处于人类操控阶段，“现在最大的问题是，谁在制定目标，谁在下令开火。这些杀人行为是否是自动化的一部分。”

夏基警告说，“机器人大战”给人们带来的远非科技进步的喜悦，而是忧虑。他认为，让机器人自己决定是否杀人难以保证它们不会滥杀无辜。真人士兵可以用常识判断眼前的女子是怀孕还是藏有炸弹，而机器人恐怕难以拥有这种思考能力。此外，“杀人机器人”虽有自主意识，但无法为自己的行为负责。

夏基认为如果恐怖分子利用“杀人机器人”取代自杀式袭击，后果将不堪设想，而这也许只是时间问题。

谈机器人大战为时尚早

知远防务研究院研究员周晨鸣表示，关于“杀人机器人”的讨论早在2005年就已经出现，但拥有人工智能的自主机器人一段时间内还不能用于实战。周晨鸣认为，目前讨论冻结研发“杀人机器人”只是伦理层面的考虑，现实技术尚且达不到自主机器人的程度。

周晨鸣表示，战场环境之复杂远非实验室模拟能比，所以自主机器人仍不能大规模在战场上布局。他说：“同样是可以用履带上楼的机器人，在实验室中可以安然无恙，但是实际战场上的地势复杂，还有各种爆炸，都会影响机器人的自主操作。目前在自主机器人研发上还有很多重大的技术难题，20年内不太可能实现。”

据周晨鸣介绍，美军目前正在试验一些自主意识的无人战车，但是以美国交通部的名义在做测试。“美国自2010年就开始测试这些无人战车，主要测试的是识别号牌、遇见红绿灯自动停车再启动等，”周晨鸣说，“美国曾在阿富汗战场中试用过，但最终只能根据设定好的路线完成简单的点对点运输。无人战车神经网络的自学习周期相当的漫长，但依然不能正常准确地识别红绿灯。基本的红绿灯都无法识别，在战场上更无法判断自己的动作。”