英媒:学者担心未来机器人大脑失灵或导致屠杀

参考消息网 2018-09-04 20:19:36

英媒称,未来机器人大脑可能因意外或黑客入侵导致的“编码错误”而失灵。

据英国《明星日报》网站9月2日报道,此前,阻止杀手机器人运动组织的一份报告称,自动杀人机器已作好批量生产的准备。

但电脑工程师苏巴什·卡克警告制造商说,它们可能引发暴力事件,类似于2017年斯蒂芬·帕多克血洗拉斯维加斯的屠杀事件。

报道称,卡克在评论导致59人死亡的帕多克恐怖事件时说:“这些杀手机器人很容易出问题。疯狂的个人或宗教极端主义者也有可能利用它们来恐吓民众。它们可能因一个漏洞、未知的编码错误而发生故障,这个错误可能是为应对未预见到或意料之外的环境或场景而作出的反应。它们也有可能受到黑客袭击。”

据报道,已有26个国家联合起来阻止生产无人控制、以人工智能(AI)驱动的枪炮、飞机、船只和坦克。

“人权观察”组织高级武器研究员邦妮·多彻蒂警告说,杀手机器人将“在全世界扩散”。

卡克呼吁在杀手机器人扩散之前对投放战场的自动机器人进行全面测试。

卡克说:“这可能是设计或制造缺陷。在部署前对机器人进行的测试越多,出现这种情况的可能性就越低。但不能完全排除这种可能性。”

多彻蒂说,使用无人控制的机器人违反国际人道主义法马顿斯条款,而这也会令全球道德标准名誉扫地。

多彻蒂说:“允许研发和使用杀手机器人将削弱已确立的道德和法律标准。各国应并肩合作,在这些武器系统在全世界扩散前先发制人地禁止它们。科研人员、宗教领袖、技术公司、非政府组织和普通公民中如潮的反对声势表明,公众认为杀手机器人逾越道德界限。他们担心的事也是许多国家政府担心的事,应当得到迅速回应。”

卡克此前说,有意识的杀手机器人“只待时机一到”就“奴役”人类。

(原标题:英媒:学者担心未来机器人大脑失灵或导致屠杀)