近日，在瑞士达沃斯举办的世界经济论坛上，与会人士讨论了智能机器应用于战场可能产生的后果。美国福克斯新闻网在报道中指出，尽管机器人能减轻士兵在战场上的负担，但自主机器人可以不受人类操控而自动选择目标，所以需要建设完善的道德程序才能保证安全，否则，遇到黑客袭击将会十分危险。

　　本报记者 刘 霞 综合外电

　　机器起来对抗它们的人类主人，这是科幻小说中常见的桥段，但在最近的世界经济论坛上，有专家警告称，它有可能成为一个真实的威胁。与现在无人机仍然由人类操控不同，自主武器有可能被编程从而能够自主选择并攻击目标，这些战争机器可能会有不符合道德的行为并且成为黑客的游乐场。

　　自主武器提出道德挑战

　　澳大利亚新南威尔士大学计算机科学和工程学院人工智能教授托比·沃尔什接受福克斯新闻网采访时说：“这是我们去年列出的应该关注的主要问题之一。”

　　他补充说：“令人担心的是，各国军队可能会在未来数年内将机器人派上战场，但我们中的大多数人相信，我们没有能力建造出有道德的机器人，而且，我们也不认为会有人打算建造有道德的机器人。”

　　科学小说作者艾萨克·阿西莫夫在他1942年的短篇小说《环舞》（Runaround）中提出了著名的“机器人三定律”：机器人不能危害人，或任人受伤而袖手旁观；除非违背第一定律，机器人必须服从人的命令；除非违背第一及第二定律，机器人必须保护自己。

　　研究人员认为，对于任何“有道德的机器人”来说，这样的守则必不可少，但将这些伦理规范编入机器人内是建造者的责任。不过，理想很美好，现实很骨感。

　　美国安全中心伦理自主性项目新主管保罗·谢尔说：“这样的武器目前还不存在。而且，即使先进的系统也被设计成不能选择目标，只可以在射击目标时做出纠正。”

　　尽管目前仍然没有国家研发出自主武器，但包括美国在内的几个国家已经在战区部署了无人机。美国不仅将无人机作为监控手段，而且，也作为一种远程攻击和杀死可疑恐怖分子的手段。

　　以色列飞机工业公司的“哈洛普”（Harop）巡飞无人机可能是通向真正的自主武器的第一步。“哈洛普”是基于以色列航空工业公司生产的上一代无人机“哈比”（Harpy）制造而成。《简氏防务周刊》此前报道，以色列航空工业公司2015年6月7日宣布成功对“哈洛普”无人机进行了试验，该无人机在没有探测到目标后，可以安全降落。

　　“哈洛普”这款自杀无人机可以在目标区域盘旋6个小时，发现目标后飞向并撞击目标，引爆其33磅（约15千克）重的弹头。据悉，“哈比”无人机主要用于探测并摧毁雷达站，但“哈洛普”也可以攻击汽车和地面其他目标。

　　谢尔说：“这类武器能通过遵守程序，自己选择目标，但它能变得非常狡猾。相比较而言，自动驾驶汽车自身并不能做决定。”

　　目前，这类机器仍然不能进行主动攻击。布雷德斯补充说：“主动攻击权仍然不能赋予机器，至少不能被任何文明世界的个人给机器。”

　　谢尔强调称，战争法本身并不禁止自主武器，这是一个事实。不过，他也警告称，让此类设备遵守目前共同接受的规则，是一个巨大的挑战，即便这一切成为现实，自主武器仍然提出了严重的伦理和道德挑战，也存在技术方面的隐忧。

　　谢尔说：“假定我们能建造出有道德的机器人，它们能遵守这些法则，但还是存在另一个隐忧，那就是，我们仍然无法建造任何不被攻击的系统。”

　　面临被攻击和劫持的威胁

　　即使现在的“当红炸子鸡”无人机本身也非完全安全。2011年，伊朗军队宣称“劫持”了一架美国尖端的RQ-170隐形无人机。尽管美国军方否认，但这也说明远程设备很有可能被攻击。

　　简氏信息集团下属的《国际防务评论》杂志的编辑胡武·威廉姆斯说：“科学家们一直在努力，希望通过加固数据链接的‘加密’程序来使其与操作员之间的连接变得更安全。但是，没有加密方法是完美无缺的，尽管现在的加密程序的安全性已经极高，但数据链接仍然可以被攻破；而且，也有人在不断想方设法破坏对远程系统的控制。”

　　正如一直有联网汽车会被攻击的报道那样，立法人士担心，某些人可能会对无人武器系统发动攻击。弗若斯特&沙利文咨询公司航空航天和国防领域资深分析师迈克尔·布雷德斯说：“我们打算对包括无人机在内的更多人工智能远程系统进行核查。这些系统配备的激光雷达、声学传感器等传感设备的先进性与日俱增，且与我们在目前的自动汽车内看到的大相径庭。”

　　布雷德斯说：“尽管我们现在正努力确保远程机器不被不怀好意的人接管，很多设备都拥有加密的数据连接，但威胁仍然存在。”威廉姆斯解释称：“今天的远程系统的安全性已经非常高，但仍会有人想办法来破坏它们，来窃夺控制权、窃夺GPS系统或通过其他手段来破坏对飞机的控制。”