2. Linux.do
  3. 关于ai过度防御性工程，有几个问题想请教：

关于ai过度防御性工程，有几个问题想请教：

lennney 2026-09-06 17:05 1

大家好，我是stop-that-shit作者。我最近在尝试优化ai的过度防御的问题。这是一个求助帖，希望可以得到大家的帮助


我在sts的来源数据上发现有很多朋友是这来的，了解之后发现这是个很好的地方，于是我今天就注册了账号，想有几个问题想请教一下大家，希望可以得到帮助：



  • 在使用ai中有遇到过什么具体的防御性编程的案例么？比如说：疯狂的加哈希验证，加过度的全量测试

  • 是怎么样尝试解决这些过度工程的问题的？

  • 在使用sts的时候，比起没用这个插件的时候改善了哪些地方，哪些地方遇到了问题————因为我发现有佬反馈在使用了之后ai不能完整的完成任务。（希望可以提供具体的例子，这对我非常有帮助）

  • 觉得哪些地方可以改进或者有哪些功能想要我增加的？


希望可以得到大家帮助，谢谢！ ^-^

最新回复 (11)
  • bluesky600 09-06 17:15
    1楼

    我选择换模型解决 ^-^，这种模型底层特性，我不认为skill能彻底解决 ^-^，没有别的套餐就先将就用

  • 深海泡泡 09-06 17:16
    2楼

    疯狂的加哈希验证，加过度的全量测试，只在gpt 5.6出现，没有其他任何模型有5.6这么倔

  • 神人 09-06 17:18
    3楼

    写rule禁止过度防御性编程不就完了

  • lennney 楼主 09-06 17:19
    4楼

    我看社区有评论说在claude那边模型上也出现过类似的问题 ^-^

  • lennney 楼主 09-06 17:21
    5楼

    是的，看社区反馈现在gpt6 astra会好很多，也只能是尝试解决。

  • lennney 楼主 09-06 17:23
    6楼

    写rule是指？agent md吗，这个的治理效果很有限，上下文一长就会忘，你可以看看我项目里关于agentmd治理的问题的尝试，我最后选择了skill + hook这个效果会好很多

  • RyanVan 09-06 17:26
    7楼

    这种工具容易发生提示词打架的问题，用之前得全面检查一下冲突，看官方说避免冲突对astra还挺重要的。

  • lennney 楼主 09-06 17:28
    8楼

    好的，谢谢佬的提醒，我最近使用astra的时候也开着这个插件，没有遇到比较大的问题，这个偏harness，不属于误导和具体的约束冲突。但是我没有验证具体的效果，我后续会关注一下这个问题，感谢反馈

  • Muelsyse 09-06 17:30
    9楼


    • 在使用 ai 中有遇到过什么具体的防御性编程的案例么？比如说：疯狂的加哈希验证，加过度的全量测试



    包括但不限于 sha256 烟测 各种奇奇怪怪的边界情况 等等




    • 是怎么样尝试解决这些过度工程的问题的？



    ponytail + agents.md 稍微好了点，不过还是有，astra好像就好很多了

  • lennney 楼主 09-06 17:36
    10楼

    好的谢谢佬反馈

  • 三金 09-06 17:38
    11楼

    其实是模型指令遵循和codex过度约束的问题

* 帖子来源Linux.do
附近帖子
返回
飞读
随机推荐