2. V2EX
  3. 使用同一个本地部署的模型，在不同的上下文环境使用差别非常大，有没有办法取得一致性

使用同一个本地部署的模型，在不同的上下文环境使用差别非常大，有没有办法取得一致性

tommyZZM 2026-09-20 14:56 1

使用同一个本地部署的模型，Qwen3.8-27b-q4_K_M


在 Vscode 分别使用 Github Copliot 和 Continue 插件，对同一个问题的解析和处理差别非常大


感觉 Github Copliot 的处理方式更加“聪明”“合意”


有没有办法尽可能取得一致性？发挥模型的最大效能


感觉这里是一个可探索的区间

最新回复 (4)
  • kimhooo 09-20 15:27
    1楼
    如果你没办法量化定义什么是更加“聪明”“合意”，那就没必要折腾这个问题，等模型能力变强就好
  • tommyZZM 楼主 09-20 16:11
    2楼
    @kimhooo 模型能力再好，输出结果，也会受上下文的干扰。这是一个互相作用的动力系统。
  • wanganjun 09-20 18:31
    3楼
    应该是 Github Copliot 加了什么提示词，还内建了一些什么功能，所以表现好一点。

    Continue 很原始，不适合用来做快速上手的 agent ，需要定制。

    想要探索的话，我觉得可以找一个查看 agent 历史 session 文件的软件，对比一下，Copliot 和 Continue 都给 Qwen3.8 发了什么提示词
  • SilencerL 09-20 18:54
    4楼
    harness 的问题不是模型的问题，很难让所有 agent 在同一个模型下的表现接近
* 帖子来源V2EX
附近帖子
返回
飞读
随机推荐