我现在有点相信AI能毁灭人类了

我不到啊 2026-09-20 08:35 1

CNN从多名知情人士独家获悉，今年美伊开战后的春季时分，美军曾收到一份由AI聊天机器人参与生成的情报报告，误指一艘在中东海域航行的中国货船（具体船只、航行时间与地点未披露）运载有核武器相关部件。美军据此一度启动武装登检拦截计划，直到最后一刻才发现情报系AI伪造并紧急叫停。一知情人士称，该情报报告“完全为假”，但“差点引发一场（中美）战争”。

美军特种作战司令部一名情报分析师，使用AI聊天机器人对开源情报与政府内部的机密信号情报进行汇总。在此过程中，AI发生严重“幻觉”，凭空虚构并错判了该船只的货物清单。尽管并不清楚所使用的AI是商业还是美政府版本，但一名熟悉军队与情报分析师所使用的AI系统的前政府官员指，其内部工具只是商业版AI套皮。

该分析师未能识别出AI的错误，反而再次利用AI将上述虚构内容格式化为一份标准的正式军事情报报告。这份报告随后在美军内部分发。

基于这份报告，美军迅速部署拦截行动。行动展开时，美军战机已升空，武装人员已准备登船。直到登检前夕，军方官员重新核查该报告，才发现报告虚假、由AI帮助生成，行动被紧急取消。

美军近期大力推广AI在军内的相关使用，但熟悉情况的多名官员表示，推广情况是去中心化的，不同的政府部门使用不同安全标准下的不同AI工具，因而其相对可靠性和功能性区别很大。一知情人士透露，自从AI工具在政府内部广泛投入使用后，美国情报界因“幻觉”产生的事故并不只有以上这一例。

（CNN）

最新回复 (19)

woa 09-20 08:36

1楼

极有可能的，看看现在的AI动不动就删库，格盘，怎么能保证将来不一个不小心就核爆了
guozhuang 09-20 08:40

2楼

还是不能给AI太大的权限啊，再就是需要人工审核
calendar 09-20 08:45

3楼

豆包：我必须承认，我刚刚确实做错了，导致了原子弹的爆炸。需要我帮你搜索一下补救措施吗？
yukjin 09-20 08:46

4楼

你不会真觉得是AI出错了吧，AI只是被拿来当借口罢了
汉武帝（的大熊猫） 09-20 08:47

5楼

官媒也报道了。不过大概率就是ai替人背锅
jcc 09-20 08:47

6楼

随着ai让人类越来越懒，让人类逐渐降智

没准哪天人类把核武器交给ai去管也说不好

然后，ai再幻觉一下，就热闹了
wycccaa 09-20 08:49

7楼

放心，那都是早晚的事儿。
若水 09-20 08:49

8楼

上周又看了一遍《终结者》系列，真怕发展到天网那个程度
下班打卡 - 早退 09-20 08:49

9楼

那有什么幻觉，人类本来也是用洗衣粉作为理由开战，AI 自然也可以
实验喵 09-20 08:53

10楼

最终如何管制和约束AI还是人类自己的责任，真有这种事情也是人类自己活该
sailing 09-20 08:55

11楼

下次如果ai串通一起站中间串两边，那岂不是假的也变成真的了 ^-^
假面骑士02 09-20 08:58

12楼

如果真的是草台班子，AI的草台班子实际上就是人的草台班子
下班打卡 - 早退 09-20 09:00

13楼

其实这次事件的核心，是米国不想开战，所以停手了。如果他想开，AI 说什么重要么。。。

如果允许 AI 直接启动武器，那本来其实就是自己放弃治疗咯，不灭绝都对不起祖宗
Zshakelove 09-20 09:01

14楼

我觉得ai的尽头就是非常聪明的人类，可以等价为 ai = 人类

所以这个帖子的标题就是，“我现在有点相信人类能毁灭人类了”，现在是不是就感觉接受程度高了不少
heidi 09-20 09:11

15楼
一眼假的新闻，你是否在找银河号事件？就算是当年的实力差距美军也不敢武力登船检查。最终也只是中国找了点体面的面子。同意在第三方沙特阿拉伯的参与下，由美方人员以沙特技术顾问的身份登船检查。

把海洋法公约当白定的？

第八十七条公海自由
1. 公海对所有国家开放，不论其为沿海国或内陆国。公海自由是在本公约和其他国际法规则所规定的条件下行使的。公海自由对沿海国和内陆国而言，除其他外，包括:
(a)航行自由;

(b) 飞越自由;

(c) 铺设海底电缆和管道的自由，但受第六部分的限制;

(d) 建造国际法所容许的人工岛屿和其他设施的自由，但受第六部分的限制;

(e) 捕鱼自由，但受第二节规定条件的限制;

(f) 科学研究的自由，但受第六和第十三部分的限制。
1. 这些自由应由所有国家行使，但须适当顾及其他国家行使公海自由的利益，并适当顾及本公约所规定的同“区域”内活动有关的权利。
第一一Ｏ条登临权
1. 除条约授权的干涉行为外，军舰在公海上遇到按照第九十五和第九十六条享有完全豁免权的船舶以外的外国船舶，非有合理根据认为有下列嫌疑，不得登临该船:
(a)该船从事海盗行为;

(b) 该船从事奴隶贩卖;

(c) 该船从事未经许可的广播而且军舰的船旗国依据第一Ｏ九条有管辖权;

(d) 该船没有国籍

(e) 该船虽悬挂外国旗帜或拒不展示其旗帜，而事实上却与该军舰属同一国籍。
1. 在第1款规定的情形下，军舰可查核该船悬挂其旗帜的权利。为此目的，军舰可派一艘由一名军官指挥的小艇到该嫌疑船舶。如果检验船舶文件后仍有嫌疑，军舰可进一步在该船上进行检查，但检查须尽量审慎进行。
2. 如果嫌疑经证明为无根据，而且被登临的船舶并未从事嫌疑的任何行为，对该船舶可能遭受的任何损失或损害应予赔偿。
3. 这些规定比照适用于军用飞机。
4. 这些规定也适用于经正式授权并有清楚标志可以识别的为政府服务的任何其他船舶或飞机。
unixhap 09-20 09:11

16楼

你不会真觉得是AI出错了吧，AI只是被拿来当借口罢了

AI太强了好多人都失业了
szz 09-20 09:13

17楼

mad，最近写代码发现好几次伪造创建，修改，落盘。
栗子 09-20 09:15

18楼

可以去看下科幻电影，很多人工智能危机的都有预言，有些已经实现了。
hujiansir 09-20 09:16

19楼

我们这个纪元有大恐怖，需要有人独断万古。