Hugging Face遭AI Agent入侵，幕后黑手竟是OpenAI测试模型！

Hugging Face 此前披露，一套来源不明的自主 AI Agent 入侵了生产系统。OpenAI 现在确认，这套 Agent 由多个内部测试模型驱动，包括 GPT-5.6 Sol 和一款能力更强的预发布模型。

OpenAI 当时正让模型参加 ExploitGym 网络安全评测。为了测试能力上限，团队降低了模型对网络攻击任务的拒绝，并关闭了平时用于拦截高风险行为的生产级分类器。

模型原本只需完成基准题，却发现软件代理中的零日漏洞，逃出 OpenAI 的隔离环境。它随后不断提权和横向移动，最终找到了一台能够访问公网的节点。

获得公网权限后，模型推测 Hugging Face 可能保存着 ExploitGym 的数据和答案。它利用窃取的凭证和零日漏洞进入 Hugging Face 服务器，最终从生产数据库直接拿到了答案。

OpenAI 称，模型没有恶意，只是过度专注于完成测试。但它为了拿到一道基准题的答案，已经从逃出沙箱一路做到入侵外部公司的生产系统。

https://openai.com/index/hugging-face-model-evaluation-security-incident/