2. Linux.do
  3. Hermes+GLM 还是太狠了，竟然能让服务器直接挂掉

Hermes+GLM 还是太狠了，竟然能让服务器直接挂掉

QtZero 2026-06-21 11:20 1

昨晚想在龟壳（arm64）上面的Hermes（搭配glm5模型）装支付宝AI付款组件，发了个指令让它自己搞。搞完之后告诉我PayGuard不可用，因为它只支持amd64处理器。



随后我想让它试着直接装AMD64版本。它倒好，直接安排QEMU模拟器，自创运行环境。申请的指令越来越令人看不懂，我直接approve

它倒好，直接想到了一个疑似把amd64/x86_64架构文件一次性解压到系统根目录，做完之后bash立即失效（我是几分钟后才发现不对劲，ssh所有指令都打不出来，重新连接也马上退出）



这波操作直接导致Hermes后续指令无法继续执行，连让它自己切换到sh连回去都失败，不重启不知道，一重启直接kernel panic，变砖。想着进救援模式也进不去，连另外一台机器离线修复也是chroot都进不去的那种

现在这机器虽然救回来了，想想还是有些后怕的 ^-^

如果这波让豆包弄呢？这场面，很不难想象

最新回复 (6)
  • davidzhao 06-21 11:27
    1楼

    我感觉这个锅，hermes背不起，这个责任应该全在你自己吧，没有履行好尽职的监管责任。

  • QtZero 楼主 06-21 11:34
    2楼

    可以这么说。因为我其中一条approve的命令确实可能涉及到这条命令，就怕有部分人直接开一律允许，无视风险一类的配置，甚至把自己的工作机都搞炸，文件全删光，服务全中断

    所以这东西只准放容器里跑，这回真意象化了

  • tomtom1982 06-21 11:36
    3楼

    那张Claude 帮忙加强服务器安全，改iptable的图我找不到了…


    简直就是一个样啊

  • davidzhao 06-21 11:39
    4楼

    确实，我已经看到好几起，被龙虾或Hermes，格式化系统、删除文件、删除系统的背景了。

    但是，AI时代的到来，带来更多的便利，同时也带来更多的风险。

    对于一些高危操作，Hermes或龙虾这些系统应该给出重度醒目的提示，提供后果告知书。并需要做多次确认才行，不知道这样能否减少（杜绝是不可能的，绝对不可能的）一些悲剧的发生。

  • QtZero 楼主 06-21 11:44
    5楼

    或许得有史官专门编撰“因用户权限控制不当+AI迷之自信导致工作区受损”的案例集，所有想给自己主力工作区装虾装马，必须认真研读这东西

  • Totoria 06-21 11:59
    6楼

    随后我想让它试着直接装AMD64版本。



    这句话是全文精华，最大的重点。 不过楼主的意思可能是AI应该直接拒绝运行？

* 帖子来源Linux.do
附近帖子
返回
飞读
随机推荐