
如图,正在做一个精简的Claude Code个性化状态栏。
途中,为了改缓存命中图标的显示问题,在Claude Code里需要测试不同的缓存阈值。
根据缓存命中率的不同,图标会有颜色、明暗、粗细的变化。
阈值分别为0-49%、50–79%、80–100%
没想到这个小任务会频频卡在缓存命中率的测试上
测试模型:Sonnet 5
第一位选手:https://api.teamorouter.cn

上下文占用率5%的情况下,出现奇奇怪怪的上下文理解,像是把我最开始聊的都忘掉了。
但这不是问题。
问题在于,缓存总是在50%-67%这里卡着。
奇怪的问题是:这家我早上也用来测过一次,那时命中率是能达到90%。短短一个下午发生了什么,是一个谜题。
第二位选手:https://www.cun.ai/

先不说为什么5句话的sonnet花了8块钱人民币这个事情(这家是1:7充值)

你这个Sonnet模型,咋那么喜欢用这个^-^表情呢?
这时候,固定50%的缓存命中甚至只是小问题。
第三位选手:https://soleapi.com
^-^让我们为这位缓存命中在今天下午首次达到80%的中转站鼓掌。

PS:这家是三家里唯一让我感觉使用上Claude的一位。
以上,一个小测试。
在这里,建议大家,决定使用中转站之前,用5句话测试一下缓存命中率十分必要。
合格的缓存命中,是能为你节省90%的开销的(可以让GPT确认加深你的印象)。
不合格的,5句话,大概60个字的Sonnet 5,是要花8块钱的。
→是3句话,搞错了,气晕了