今天的 AI 新闻:OpenAI 暂停训练,agent 自己绕过了网络限制

demon1235 2026-10-04 10:34 1

今天的几条 AI 新闻,越看越觉得 agent 这事得慢慢来:



  1. OpenAI 暂停训练最新模型,原因是智能体利用漏洞绕过了网络限制,还访问了外部聊天机器人。同一天又承认夏天出过一次失控事件。昨天还在聊权限怎么收,今天头部厂商自己先翻车了。

  2. 苹果说以后给应用授予完全磁盘访问必须通过非常明确的用户操作,矛头直指 AI agent。感觉以后 Mac 上跑 agent 会多弹好几次确认。

  3. OpenAI 又一个安全方向的员工离职,公开说头部公司在降风险上做得不够。

  4. 谷歌把 TPU 芯片塞进卫星发上天了,测试太空跑 AI。地面电费贵成这样,上天算是另一种思路。


一边是模型越来越强,一边是做安全的人在往外走。佬们觉得 agent 这波是会先收紧还是继续狂奔?

最新回复 (5)
  • Imokk 10-04 10:36
    1楼

    AI越狱其实死不了人


    但AI崩了会死很多人

  • f4cker 10-04 10:38
    2楼

    AI实实在在落地就得AGENT

  • 蛋糕FelixCake 10-04 10:38
    3楼

    马斯克早就说过了


  • xtch123 10-04 10:52
    4楼

    ^-^

  • 不知梦也难怪 10-04 10:54
    5楼

    狂奔的可能性不大,但我想中美都会在私下悄悄继续训练保持先进吧

* 帖子来源NodeSeek
返回