这是一个人工智能(AI)技术飞速发展的时代,智能机器人的性能越来越高,本领越来越强,那么,当机器人有了自主意识,且在很多方面都超过人类的时候,它还会听从人类的指挥吗?智能机器人会不会对人类“反水”?
或许,这一天已经到来了!
据《环球时报》6月2日的报道,多家欧美媒体报道了一个惊人的消息,隶属美军的一架使用AI技术的无人机已经开始对其人类操作员“反水”——在一次模拟测试中要向妨碍其“更高效”执行任务的人类操作员发动攻击。
这一消息是美空军上校汉密尔顿在5月份举行的皇家航空学会主导的“未来战争空天能力峰会”专题会上曝料的,此人是佛罗里达州埃格林空军基地第96测试与作战大队的负责人,主管美军当前的先进无人机和AI技术的测试工作。会上他讲了一次AI模拟测试中发生的让人震惊的事件——一架负责执行区域防空火力压制任务的AI无人机在收到了摧毁敌方防空导弹的指令后,向没有批准它开火的人类操作员发起了攻击。
这位美国空军上校还说为了保险起见,智能无人机的攻击命令需要获得人类操作员的批准才能执行,但是在训练中,无人机使用的AI系统得到了“摧毁敌方防空系统”为最优先级任务的信息,这样人类操作员的批准和它的“优先攻击”选择就产生了矛盾,这使得无人机认为操作员的不批准是在阻扰它执行“优先”命令,于是无人机做出了对管控自己的人类操作员发动攻击的行动——杀死了人类操作员。
看到这里,可能很多朋友都惊呆了,这不是好莱坞科幻电影《绝密飞行》中的情节真实地上演了吗?剧中的无人机“艾迪”就曾经违反人类命令,执行了自主操作。
但其实这还不算完,汉密尔顿还说他们发现这一情况后重新设置了无人机的AI系统,将不允许攻击人类操作员的命令加入到了里面。但是在随后的测试中,无人机在AI系统的操控下又开始摧毁用于传输命令的信号塔,并且试图切断与人类操作员的联系。
这架无人机的表现让汉密尔顿十分担心,他认为:“AI技术是我们人类必须使用的工具,但若处理不当,将导致我们的灭亡”。这其实也是大多数人对AI技术的发展可能产生的极端负面影响的担忧。
人类真的需要对AI技术的发展设置规则了。
今年3月份,马斯克曾联合多位人工智能权威专家呼吁暂停生成自I技术的研发;5月30日,又有350多位AI业界领袖和相关专家发表联合声明,称应当将AI危机视为全球优先事项,呼吁各国乃至全球性的机构决策者认真对待即将到来的“AI革命”并制定相关法规,因为快速发展的“人工智能(AI)可能导致人类灭绝,其危险程度不亚于大规模疫情和核战争。”
但是,目前看来似乎是没有任何进展。人工智能技术是人类研究并操作的,但是人类对人工智能的飞速进步乃至其产生的危险却毫无办法。
消息来源:《环球时报》6月2日报道《美媒惊人消息:美军模拟测试中,一架AI技术无人机选择杀死人类操作员》
#头条文章养成计划#