2. Linux.do
  3. ds1.1亿token缓存命中26%好神奇的命中率不知道怎么做到的

ds1.1亿token缓存命中26%好神奇的命中率不知道怎么做到的

A_Kihi 2026-08-20 14:40 1

给大家伙看个乐子,不知道在干嘛,一上午用了1.1亿的dsv4flash 缓存命中26%,烧了200多块钱,我不知道怎么做到的,我感觉某种方面来说也是很牛逼了能一直保持这么低的缓存命中率,图是公司内部中转站的数据库统计出来的,可能稍微有点误差.

最新回复 (6)
  • Dyna 08-20 14:41
    1楼

    看用途，比如用来翻译，缓存率就是很低。

    单看一个缓存率看不出什么。

  • FleetSnowfluff 08-20 14:48
    2楼

    要去看原生统计，公司统计的，谁知道是不是接入deepseek的人把缓存字段算错了呢（毕竟我就干过 ^-^）

  • A_Kihi 楼主 08-20 14:50
    3楼

    我本地的误差在2%左右,误差肯定是有的,但是到不了这么夸张的程度,其他成员的命中都是90%往上的

  • 咪叭 08-20 14:55
    4楼

    你可以让ai帮你读取一下用的harness的session对话日志


    应该可以分析出来原因的

  • billchen 08-20 17:42
    5楼

    ^-^我们用的dsv4flash经过公司内部中转站之后缓存率最高48%

  • 白泽 08-20 17:43
    6楼

    是不是在系统提示词附加了时间等变化字段…有些玩rp的账单就是这么爆的

* 帖子来源Linux.do
附近帖子
返回
飞读
随机推荐