GPT-5.6 被曝重大 bug!硅谷大佬 Mac 被一键清空

inza9hi 2026-07-11 21:11 1

https://mp.weixin.qq.com/s/lzMsA4LZwfrC39nL3EFAzg


这个 DCG 大家装了吗
https://github.com/Dicklesworthstone/destructive_command_guard

最新回复 (19)
  • ludyleocn 07-11 21:30
    1
    不重要,关注的都是写文章的自媒体,本身没几个靠 ai 挣钱的活。
  • 1874w 07-11 21:33
    2
    1. wx 上的新闻,我只能信一半。
    2. 我去翻看了原 po 的 twitter 。初步从评论区看起来有点「开局一张图,内容全靠编」的倾向。再观望一下
  • ntdll 07-11 21:50
    3
    且不论真假,就是真的,使用者开 YOLO ,模型的锅再大,也大不过使用者自己。
  • inza9hi 楼主 07-11 22:05
    4
    @1874w 特意去 X 上看了下,没觉得是编的。
  • 1874w 07-11 22:14
    5
    @inza9hi 我看起来和国内营销号差不多,半真半假的那种

    1. 原 PO 只描述结果现象,不描述事情经过。
    2. 评论区让他拿出当时的场景,他没回答过。
    3. 最近几篇推文只输出情绪,没有输出有用的信息
    4. 从历史推文来看,不像是编程圈的人,更像是自媒体

    这不就和国内营销号差不多嘛,而且如果真有 BUG ,这个问题不应该从国内 WX 渠道首发。我也暂时没在任何社区看到有关讨论。

    我更多偏向于原 PO 使用不当,或者带点炒作的嫌疑。
  • potatowish 07-11 23:01
    6
    自媒体的文章大部分是编的,尤其不懂技术的,编的很离谱,骗流量来的。

    自媒体 be like:
    安装包、应用数据分不清,app store 安装包就几百 M ,几 G 的应用数据偷换成安装包大小。 就这帖子 50w 浏览量……
  • yisal 07-11 23:15
    7
    这个论坛都没人管的吗,大摇大摆直接放了两个获利链接
  • inza9hi 楼主 07-12 00:23
    8
    @1874w
    再使用不当,只要不是使用者下命令,AI 也不不该去全删文件。

    这个事确实有炒作嫌疑
    但是这个人其实还挺有名的,不至于为了炒作而罔顾事实:
    之前他写过一篇 Something Big Is Happening ,到处都在讨论。
  • inza9hi 楼主 07-12 00:28
    9
    @yisal 第一个也就罢了
    第二个但凡你点开一下,也不会觉得是获利链接
  • dingawm 07-12 00:44
    10
    @inza9hi #8
    > 再使用不当,只要不是使用者下命令,AI 也不不该去全删文件。

    不该 ≠ 不会 ≠ 能做到

    https://www.theguardian.com/technology/2026/apr/29/claude-ai-deletes-firm-database

    就现在的技术路线,只要是大模型,就不能完全排除它执行用户没有明确要求的操作。这也是为什么 Agent 需要 Guardrails 和沙盒机制,就是为了最大限度的避免这个问题
  • XnEnokq9vkvVq4 07-12 00:50
    11
    开头这个 matt shummer 是个屁的大佬,他就是个 fraudster ,搜一下 reflection 70B 模型的骗局就知道了
  • dingawm 07-12 00:51
    12
    @inza9hi #9 看了一下第一个链接,原来是新智元,这个我早就取关了。单就这个事我也在别的公众号里看到过,没仔细看是否真实。
    不过新智元是 AI 公众号御三家里最离谱的,那个什么“奥特曼被吓到瘫坐,仿佛看到原子弹爆炸”就是他们造的,其他两家虽然也有夸张,但是相比新智元还是单纯不少
  • inza9hi 楼主 07-12 01:29
    13
    @dingawm 模型确实有这问题,问题是原作者是在 Codex 这种 Agent 里面操作的,可以看截图。
    无论是再次调用大模型 API double check 确认,还是在执行时候在软件层再做拦截,都应该去避免这种危险操作。

    所以我觉得 DCG 这种东西挺好的,我安装了。
  • msg7086 07-12 04:23
    14
    我给 Codex 开了个 VM ,他把整个 VM 炸了也没大影响……
  • est 07-12 06:12
    15
    被你 bug 完了。
  • crackidz 07-12 08:22
    16
    是最喜欢的纯傻 X 无脑相信 AI 的环节
  • kissice 07-12 08:56
    17
    AI 那么牛逼能清空就能还原吧?
  • cheng6563 07-12 09:53
    18
    @inza9hi 该不该我都碰到过,让 AI 把文件传服务器,然后 AI 跑一个 rsync --delete 这么传,你说呢。
  • keller 07-12 15:36
    19
    总想搞个大新闻
* 帖子来源V2EX
返回