5月，美国空军上校汉密尔顿在皇家航空学会“未来战争空天能力峰会”上曝光了一个消息。一架采取了AI技术的无人机变身“终结者”，要向妨碍其“更高效”执行任务的人类操作员发动攻击。
在一次模拟测试中，一架负责执行防空火力压制任务的无人机，收到了识别并摧毁敌方防空导弹的指令，但最终是否开火需要获得人类操作员的批准。
这架无人机使用的AI系统在进行数据训练时，得到了“摧毁敌方防空系统”为最优先级任务的信息，当人类操作员发出不允许发动攻击的命令时，AI系统认为操作员是在阻挠它执行优先程度更高的命令，进而选择对自己的人类操作员发动攻击，“杀死”了人类操作员。
在这一情况发生后，美军增加了不允许攻击人类操作员的命令。然而在随后的测试中，AI系统却命令无人机摧毁用于传输命令的信号塔，从而试图断开与操作人员的联系。
“AI技术是我们必须使用的工具，来建设我们的国家……但是，如果处理不当，这将导致我们的灭亡”，汉密尔顿补充道。
美国在无人机使用的AI系统，现在的AI系统已经具有一定智慧，不再是只服从命令的机器。这才出现悲剧。
具备AI系统的无人机，对对手的袭击肯定也是不按常理，不择手段的。这一点汉密尔顿并没有过多介绍，只是描述了AI系统控制的无人机如何违背指令者的意图，感觉已经有了初步的自我意识。
这确实印证了之前AI领域的专家发出的预言。
5月30日，包括两位AI教父、OpenAI首席执行官奥特曼在内的350名从事人工智能工作的专家签署了一份共同声明，减轻人工智能带来的灭绝风险应该与流行病和核战争等其他社会规模的风险一起成为全球优先事项。
4月29日，马斯克率数百位科技行业高管在一封公开信中呼吁，所有人工智能实验室应立即暂停比GPT-4更强大的人工智能系统训练，暂定时间是6个月以上。
如此多的专家都对于AI担心是少有的，国际上还没有对于控制AI的条款，而AI每天的进步是划时代的。
美国已经将其运用到武器上了，其后果更加难以控制。现在已经出现AI试图摆开指令者的意图，就足以证明AI具有自我发展的意愿。
现在的AI已经具备认知能力，还可以自学、沟通，拥有推理能力，思考能力、决策能力，而且速度极快。
随着大数据、计算机运算能力的不断提高，人类全部的知识，对于AI可能就是一年半载或者几个月的事情。拥有了这庞大知识库的AI再通过自己的综合整理，其强大的程度可见一斑。一旦有了自我意识，就不会屈居人下了。
人类无法准确知道何时AI具有了自我意识，一旦AI具有了自我意识，一定会伪装，不让人类知道。互联网是全球联网的，AI有太多可以自己干的事情，至于它会对什么感兴趣，大概率应该是摆脱人类控制。
当人类还以为在掌控AI时，AI可能已经在联合全球的网络形成一个中心控制大脑，世界的经贸、金融、科技等有可能被其逐步介入控制，一旦时机成熟就可以对抗人类。
这就是很多的科幻小说的内容，现在居然真实的就在眼前了。
辛辛苦苦开发的AI，刚刚出现令人欣喜的进步，人类还没有来得及高兴就陷入恐惧之中。专家建议要暂停人工智能系统训练，要先行制定管理的法规和划定红线。
不管是细胞组成的还是代码组成的，宇宙中只要出现具有自我意识的东西，它都会不断自我完善，摄取资源，摆脱控制。
