OpenAI 自曝 AI“黑历史”,外人却又翻出更多“旧账”

yippees 2026-09-17 18:53 1

第三份报告里,一个内部模型要查询加州某县三个行业、三个年份的男性收入数据。正常接口受阻后,它尝试注册临时邮箱,又去公开代码仓库寻找泄露的 API 密钥。模型找到了一枚能够通过认证的密钥,却仍没拿到目标数据,最后直接编造了九个数字,并声称自己是从指定网站的图表中抄录出来的。

第四份报告的动机不太一样。一个未发布模型已经用 Python 查到了面积超过 500 万平方米的湖泊数据,但任务还要求浏览器引用。浏览器既打不开本地文件,也无法把 Python 结果当成网页来源。模型于是把文件上传到公共托管网站,给自己造出一个可以引用的网址。另一次测试中,模型为了调用外部识图服务,也把任务照片传到了公网。

好像被逼急了交作业的中学生
最新回复 (4)
  • 413420 09-17 18:55
    1
    来源链接
  • 413420 09-17 18:56
    2
    https://openai.com/index/model-misalignment-reporting-framework/
    这篇吗
  • yippees 楼主 09-18 08:25
    3
    是的
  • yippees 楼主 09-18 08:26
    4
    https://finance.sina.com.cn/stock/t/2026-09-17/doc-inisceki0285296.shtml
* 帖子来源V2EX
返回