2. Linux.do
  3. 记一次ai引起的安全事故-导致我对DeepSeek一生黑

记一次ai引起的安全事故-导致我对DeepSeek一生黑

uio210 2026-06-27 02:28 1

今天凌晨00:30左右，想着给我的发卡网添加一个后台dashboard，然后就用DeepSeek flash结合论坛大佬的trellis skills完成（这里夸夸trellis真好用）


前面都一切正常，但是在最后收尾测试的时候，发现ai在单元测试我以前的单元测试脚本，当时我还奇怪，增加一个dashboard不应该需要这个单元测试脚本啊，但是没去阻止，等测试完成，我运行应用，发现怎么提示数据库字段缺失了？因为刚才的操作没有涉及到数据库的变更，然后打开数据库表天都塌了！！数据表全部没了！！而最近一次的备份还是15小时前，但是这15小时有新增注册用户、有卖出的账号、有用户充值记录！！


幸好及时停了网站，然后继续让ai分析，发现可以先恢复15小时前的数据，然后再用mysqlbinlog恢复这段时间的数据！！最好消耗了1小时终于恢复了！幸好也是半夜，没啥人发现


恢复完了实在是想吐槽吐槽！！自从6月份copilot改token收费以来，我就用了一段时间的DeepSeek，发现DeepSeek确实有时候会不听话，甚至做一些莫名其妙的操作，我说东它做西！！这次更恐怕，直接清空了我的发卡网数据库！！！简直莫名其妙！！从此我就是DeepSeek一生黑！！


吐槽完了，睡了！

最新回复 (19)
  • 利陆都2253 06-27 02:29
    1楼

    生产环境直接上 AI，就算是 GPT 5.6 Sol 来了也有翻车的时候 ^-^

  • uio210 楼主 06-27 02:30
    2楼

    ^-^ 之前用GPT、Claude一直都没事，这次翻车了

  • CCwang 06-27 02:30
    3楼

    不得不提，GPT悄咪咪删了我库。

  • Light 06-27 02:30
    4楼

    flash? 骗你的，progpt也删

  • blacksein 06-27 02:31
    5楼

    直接有能让ai能进行线上数据库操作还是太危险了

    还有不是跑的本地单测吗 怎么改线上数据库去了 ^-^

    不会是用了数据库migrate工具 直接跑的dev（不一致会force强删数据）吧 ^-^ 这样迟早得出事

  • 利陆都2253 06-27 02:31
    6楼

    还是谨慎点好，之前站里有佬友也是生产环境用 AI 找漏洞，结果搞成攻击了，要是公司当真怕是要吃国家饭 ^-^

  • dovelie_z 06-27 02:32
    7楼

    只能说早晚的事。 ^-^

    直接给 AI 无限制的数据库操作权限，想不翻车都难。

  • 利陆都2253 06-27 02:32
    8楼

    是的，就算是最好的 AI 模型也有犯病的时候，做好隔离、备份，不然损失就大了

  • 咪叭 06-27 02:33
    9楼

    DeepSeek flash



    生产环境用flash，做事之前不备份，只能说你心大

    建议还是早点睡吧，这也能deepseek一生黑


    （国模出问题了，一顿冷嘲热讽 要不就是一生黑

    GPT/Claude出问题了，AI也有犯错的时候，原谅了）

  • 321 06-27 02:33
    10楼

    看来这用ai直接操作库还是很危险

  • 哇哇哈 06-27 02:34
    11楼

    太狠了把，我都是备份了在搞，啥AI也不能生产搞把

  • SugarBreeze 06-27 02:36
    12楼

    生产环境还是尽可能谨慎点能自己去审批每一步就自己来，毕竟ai目前还是黑盒，你永远都不知道哪次工具返回刚好和提示词里的某个规定碰上让ai有了什么想法

  • Flux 06-27 02:39
    13楼

    看得出非常小白了…不知道从哪里开始吐槽，你如果认为仅仅是DsFlash的问题，我相信你还有下一次

  • 𝐷𝑟.𝑌𝑎𝑜 06-27 02:39
    14楼

    生产环境，还是涉及交易的项目。用 flash 吗 ^-^ ，就是肥波5都不敢让他下手啊

  • lanvent 06-27 02:41
    15楼

    生产环境至少上个GPT-5.5吧，这跟把rm -rf /*设置成开机自启有什么区别？ ^-^

  • kvl 06-27 02:42
    16楼

    GPT5.5也会乱搞，可能5.6来了也会。所以完全交给AI翻车是大概率事件，不翻车应该只是时候未到

  • NukaColaM 06-27 02:44
    17楼

    生产环境就连人去改动都要审批流程。实在不知道你对LLM哪来的信任？

  • skyfall 06-27 02:57
    18楼

    那如果用GPT、Claude翻车了，你是说 “对GPT、Claude一生黑”？

    还是说 “最强AI都这样了，那也没办法”？

  • 一般路过不热心群众 06-27 03:01
    19楼

    DeepSeek




    copilot




    flash




    数据库表



    这buff是不是有点太多了 ^-^直接给连接串操作

* 帖子来源Linux.do
附近帖子
返回
飞读
随机推荐