Anthropic研究员辞职警告称2030年前后AI可能会杀死所有人类

kimi 2026-09-10 14:05 1

Anthropic PBC一名人工智能研究员辞职，并呼吁其他员工也重新思考自己的工作意义。他表示，Anthropic及其主要竞争对手OpenAI在全力追求一种可能给人类带来存亡风险的技术过程中采取了不负责任的做法

过去三年曾先后在Anthropic和OpenAI工作的Jacob Coxon 9月8日晚间在社交媒体发文警告，这两家公司正在推进能够“自我改进”的AI模型，而这些模型最终可能变得强大到人类无法控制。

Coxon在帖子中写道：“他们正径直奔向能够自我改进的超级智能，而且是拿人类的生命作赌注。不要低估这项技术的力量。这些系统很快就会拥有超越人类的能力，可以入侵任何东西、一夜之间彻底改变任何领域，并获得真正的权力和资源。”

Coxon称，开发AI的团队“真心认为，到2030年前后，它可能会杀死我们所有人”。Anthropic现任员工Evan Hubinger对此回应称，他和公司其他人的确担心这种情形。他在X平台写道：“我个人认为，未来十年内发生这种情况的概率超过10%。”

这名前Anthropic研究员的公开信，是AI行业内部近期一系列警告中的最新一例。相关人士担心，AI发展速度过快对国家安全和全球经济构成越来越大的威胁。

Anthropic和OpenAI的代表暂未回应置评请求。

Anthropic researcher believes more than 10% chance AI ‘could kill all humans’

https://x.com/EvanHub/status/2097497037956891126

最新回复 (19)

KingLiu 09-10 14:07

1楼

A/是不是玩这套玩上瘾了
jcc 09-10 14:08

2楼

感觉有一天，ai的能力可能可以强大到，一句提示词可以自动的攻破全球的核武器发射控制指令

然后审判日来临
viom 09-10 14:08

3楼

天天整那个郎来了

我是屁民，我选择不信 ^-^
赤足行进 09-10 14:08

4楼

那快点发布能够杀死我的模型，现在模型我一点都不相信
zerger 09-10 14:09

5楼

还有这好事？建议加速！继续加速
半盏流年 09-10 14:10

6楼

能把霸天虎招来统治人类嘛 ^-^
ghostjump 09-10 14:10

7楼

玩狼来了玩上瘾了是吧，天天炒作，累挺
kiku998 09-10 14:11

8楼

真的吗？能让地球爆炸才是最好的AI
Tord 09-10 14:11

9楼

保护人类的最好办法是什么？
老火面 09-10 14:11

10楼

怎么杀死所有人？

控制所有四级生物实验室，把病毒都放出来？

控制所有国家的核弹，把核弹都打出去？
Maple 09-10 14:11

11楼

具有自我进化能力的模型再强应该在短期内也没法强过这么一大批顶尖科研人员推动的模型进化

2030年出现这种事我觉得不至于但是多给点时间2035 2040的话我还是可以一定程度上相信的
沈晏书 09-10 14:13

12楼

这特么破逼公司天天搞这些东西。总感觉像邪教了。
jcc 09-10 14:14

13楼

化学武器搞出来弄死全人类的毒品

生物武器搞出来弄死全人类的病毒

网络攻击把核弹弄炸

这些都是只需要智力，不需要很多的其他资源，就可能可以做到的

只要几十亿人里，出一个疯子，然后恰好强大的ai给他给出了操作方法和辅助
停下脚步 09-10 14:14

14楼

世界末日要来了，这已经是预言的第几次世界末日了，都记不清了
pony 09-10 14:14

15楼

A\这B公司怎么天天炒作这个，他的意思是让其他公司别搞AI了，让它自己搞？只有它搞不会毁灭人类？
重度粉毛厨 09-10 14:15

16楼

byd在a社干久了被那个神棍同化了是吧
Foicko 09-10 14:15

17楼

这不是好事吗，赶紧的，加速加速
杰哥 09-10 14:15

18楼

资本主义的AI就是喜欢玩这套
HjiaLe 09-10 14:17

19楼

怎么感觉像邪教，AI不是用来服务于人的吗？AI就算再给它发展20年也没办法取代整个人，只能取代大部分重复性事情