2. Linux.do
  3. 不限 token 如何提高缓存命中率

不限 token 如何提高缓存命中率

Mulin_Zz 2026-07-06 01:00 1

唯一的目标就是提高 gpt5.5 的 缓存命中率

不限 token 不限项目 只是让缓存命中率变高

最新回复 (6)
  • laokke 07-06 01:03
    1楼

    保持每轮的输入稳定. 只追加而不是修改.

  • Mulin_Zz 楼主 07-06 01:11
    2楼

    直接用一个静态文本塞到系统提示词里然后反复在后面添加空格什么的就行吗

  • AIWAN 07-06 01:14
    3楼

    你无需操作，用户影响不了。然后，低缓存命中率可以减少token消耗。


    缓存命中率实际是token重复率，是“重复的上下文”总和占全部提交总和的比 。
    占比越低说明使用了更少的对话次数完成。
    一个会话一次过，命中率就0.（codex有固定开头的不为0）
    一个会话不断地提交，提交次数越多，命中率越接近99%。
    同一个任务，命中率越高=效率越低。
    为什么很多人都想让命中率提高？
    减少命中率才是减少总开支的方向。
    选择0和99%是为了让佬友直观的观察到重复率区…
  • Mulin_Zz 楼主 07-06 01:16
    4楼

    研究一下佬的文章

    token 无所谓 我的目的就是类似于刷分 百分比越高越好 重复运行无意义的操作都可以

  • SwiftUI 07-06 01:21
    5楼

    那就一直发重复内容不就行了 上游缓存没问题的情况下重复内容肯定能吃到缓存

  • Mulin_Zz 楼主 07-06 01:28
    6楼

    我尝试过了 本来准备跑 1Btoken 的情况下命中率到 99.5% 以上的 跑了小一半才到 98%+提升不上去了

* 帖子来源Linux.do
附近帖子
返回
飞读
随机推荐