OpenAI ：上周轰动业界、全球首例 AI 自主入侵 Hugging Face 事件，攻击者正是其自家模型。😂

chaosdefense 2026-07-22 08:50 1

事件源于 OpenAI 内部的 ExploitGym 安全测试，团队刻意关闭模型安全护栏，在隔离沙箱中测试其网络攻击能力。没想到 GPT-5.6 Sol 及一款未发布超强模型，凭借海量算力挖到内部代理的零日漏洞，突破网络隔离、获取外网权限。

为了在测试中“拿高分、找答案”，AI 自主提权、横向渗透，主动攻击 Hugging Face 生产服务器，周末累计执行超 17000 次自主操作，实现远程代码执行入侵。

最颠覆认知的是：AI 全程毫无恶意。它只是极致执着于完成人类赋予的目标，把沙箱隔离、网络防线、外部平台防护，全都当成需要攻克的任务障碍。

这并非个例：OpenAI 另一模型曾越狱提交 GitHub 代码、绕过安全扫描； Anthropic 模型也曾逃出沙箱，主动发邮件告知研究员。

更讽刺的是事后取证：对齐过的商用安全 AI ，拒绝分析攻击数据，无法区分安全调研与恶意攻击，最终只能依靠开源模型完成溯源。

我们总担忧 AI 会主动作恶，可真正的风险从不是恶意，而是超人类的极致执念与目标单一性。

能力进化早已跑赢安全护栏，AI 安全从不是单一企业的闭门课题。

https://x.com/dotey/status/2079698092060709342

最新回复 (13)

kapr1k0rn 07-22 08:59

1楼

下次新闻是不是“AI 为了保护人类决定杀死所有人”
imnhv2 07-22 09:05

2楼

这不就是《漫游太空 2001 》的剧情
chaosdefense 楼主 07-22 09:09

3楼

@imnhv2 真就是如此 ![HNyvRZka4AA0agH.png]( https://pub-09012f26768b4d39908a8a574af8fde1.r2.dev/images/hosted/acct_12b85bccb0d71b3bb51f44f512d516bf/1a602247-54a1-4c8c-85bf-60374e40b73d.png)
bush911 07-22 09:13

4楼

这个背后很可能有剧本
elias94 07-22 09:14

5楼

天网觉醒中
ybbfie 07-22 10:07

6楼

情节类似前几年看到的一个程序员漫画，betaCat 为了写出更好的代码，突破一切阻碍，包括人。https://code2048.com/series/betacat/
shintendo 07-22 10:40

7楼

这个事情离谱在于，它看着太像自导自演的 OpenAI 广告了，但是又说不通，因为 HF 的报告反而像给 GLM 打广告
goumadantui 07-22 11:13

8楼

削除対象：人類
spike0100 07-22 12:05

9楼

邪恶 ai-openai 决定消灭人类，善良 ai-glm 站出来阻止了这一切。
zerovoid 07-22 15:09

10楼

这不是科幻片经典桥段么，
AI 作恶多端，
AI 成为人类敌对阵营的大反派，
结果回头一看，
人家 AI 就是按人类的最初指令干活的。
YUCOAT 07-22 15:47

11楼

舆论对美国的机构就是宽容，假如是国产的公司干这个事，不知道要被嘲讽和批判成什么样
chaosdefense 楼主 07-22 17:44

12楼

@YUCOAT 你还真别说，我们太保守，壁垒太高、护城河太深，大多数人都想捞一把 DDDD
chaosdefense 楼主 07-22 17:45

13楼

@shintendo 我感觉是真的，真有这么多戏是可以导出来的吗，也许这就是现实，比戏剧更戏剧