中转站的缓存命中都去哪了?

Leif Yang 2026-09-07 18:10 1



如图,正在做一个精简的Claude Code个性化状态栏。

途中,为了改缓存命中图标的显示问题,在Claude Code里需要测试不同的缓存阈值。

根据缓存命中率的不同,图标会有颜色、明暗、粗细的变化。

阈值分别为0-49%、50–79%、80–100%


没想到这个小任务会频频卡在缓存命中率的测试上


测试模型:Sonnet 5


第一位选手:https://api.teamorouter.cn


上下文占用率5%的情况下,出现奇奇怪怪的上下文理解,像是把我最开始聊的都忘掉了。

但这不是问题。

问题在于,缓存总是在50%-67%这里卡着。


奇怪的问题是:这家我早上也用来测过一次,那时命中率是能达到90%。短短一个下午发生了什么,是一个谜题。


第二位选手:https://www.cun.ai/



先不说为什么5句话的sonnet花了8块钱人民币这个事情(这家是1:7充值)


你这个Sonnet模型,咋那么喜欢用这个^-^表情呢?


这时候,固定50%的缓存命中甚至只是小问题。


第三位选手:https://soleapi.com


^-^让我们为这位缓存命中在今天下午首次达到80%的中转站鼓掌。



PS:这家是三家里唯一让我感觉使用上Claude的一位。


以上,一个小测试。

在这里,建议大家,决定使用中转站之前,用5句话测试一下缓存命中率十分必要。

合格的缓存命中,是能为你节省90%的开销的(可以让GPT确认加深你的印象)。

不合格的,5句话,大概60个字的Sonnet 5,是要花8块钱的。

→是3句话,搞错了,气晕了




你的中转站缓存命中多少?


  • 0-50%

  • 50-80%

  • 80以上

  • 我不用中转站






0
投票人



最新回复 (4)
  • 江海丶 09-07 18:16
    1

    如果中转愿意的话,理论上是可以修改用户的缓存率的,比如实际缓存率90%,可以改请求信息里的缓存率到60%甚至更低


    至于它们会不会这么干,就要看它们愿不愿意了

  • Neptune 09-07 18:18
    2

    水太深,我74一个月Claude能登出一千多刀,opus5一个5h能长时间运行1h以上。

  • Leif Yang 楼主 09-07 18:20
    3

    没有Claude账号,公益站也不太适合测这个,所以今天要测缓存命中时,就翻出日常薅的中转羊毛。

    知道水深,但5句话话能测出来的东西,都那么不靠谱,这也演都不演了

    点明CUN。逆天。3句Sonnet 8块钱

  • 被告404 09-07 23:59
    4

    我有一个超级离谱的,但是不是实时能用,中断之后可能等5分钟,也可能等更久。同倍率时候是其他价格的三分之一。 对比对象是某一个中转,这个中转价格又仅仅是我之前比较不错线路的三分之二。 一言难尽。 确定就是是垃圾kiro的。但是倍率没啥好说的。 几个日B,不,,日消耗B级的在用,缓存离谱到98% 有用过的应该可以。 说成宣传了。 稍微回归下主题,claude是否有单独设置的地方,我cc max的缓存都有限制?

* 帖子来源Linux.do
返回