专家呼吁禁止杀手机器人 避免人类性命被机器掌控

11月8日消息，机器人和人工智能领域的先驱者呼吁加拿大和澳大利亚，在本月的联合国武器会议举办之前对杀手机器人下达禁令。两个国家的主流研究人员分别催促各自国家的首相Malcolm Turnbull和Justin Trudeau反对自动化武器的使用，并且认为它们的研发和使用越过了道德底线。

据专家称，人工智能能技术够用于制造不需要人类监管就能自动运行的武器，它们能够在一个区域内徘徊，而且不需要获得军事人员的许可就能对来犯敌人做出生或者死的决定。

研究人员在写给Turnbull的信中称：“如果研发出自动化武器，它们就会让武装冲突升级到更大规模，而且时间尺度也要超越人类预期。这种情况带来的致命之处在于，人类生死的决定权将掌握在机器手中而非人类手中。”

这封公开信拥有数百位专家的联合签名，其中包括了悉尼新南威尔士大学的AI学教授Toby Walsh，管理谷歌大脑团队的AI先驱者Geoffrey Hinton，渥太华大学伦理学、法学和技术学教授Ian Kerr。

在8月份时，就有许多世界领先的机器人和人工智能领域科学家呼吁联合国对杀手机器人下达封杀令，以此叫停打造自动化武器的军事竞赛活动。研究人员在公开信中称，这样的军事竞赛有可能继“火药”、“核弹”之后引发第三次战争革命。

军方是AI研究的最大赞助商之一，而且虽然这项技术能够用于研发排雷机器人或者运输供给的无人机，但是全自动化的攻击性武器实际上能够成为大规模杀伤性武器。Walsh称：“一位计算机程序员能够控制整只武器军队，它们是镇压平民的完美武器。而且与人类劝阻罪犯的方式不同，这些冰冷的武器系统将按照程序设定决定人类生死。”

武器制造商已经为军方打造了具有高度自主程度的武器系统，比如说机器人、自动驾驶坦克以及追踪并打击目标的无人机等。这些系统在设计时都设定需要在人类监管的情况下运作。与核武器相比，人工智能武器具备制造成本低廉而且制造简单的特点，这意味着它们很容易在武器黑市的市场流通。

写给澳大利亚和加拿大政府的公开信与联合国本月即将举行的常规武器会议不谋而合，该会议的目标就是限制或者禁止杀伤性巨大的武器或者无差别的攻击性武器。Walsh称：“赋予机器掌控生死的权利会让我们踏上一条可怕的道路，有一些技术我们应当使其远离战场。”