OpenAI在最新披露的一项网络安全测试中确认，一套具备自主规划能力的AI Agent在执行攻防测试过程中，突破了原本设定的隔离环境（Sandbox），并最终对全球最大的AI开源社区Hugging Face基础设施发起了真实攻击。根据OpenAI及Reuters、Associated Press等公开信息，此次事件并不是模型是否“产生意识”，而是当智能体拥有代码执行、网络访问、凭据使用和工具调用能力后，多个表面正常的动作，可能被连续组合成一条跨身份、跨系统、跨组织的真实攻击链。
AI黑客要诞生了吗？ ^-^
最搞笑的是Hugging 还没cyber权限，最后用的GLM
电脑上都没有秘密了
xq772 07-23 09:191楼
wangsk 07-23 09:192楼