2. Linux.do
  3. 求佬们科普下模型输入输出缓存的知识，看下这个数据是否异常

求佬们科普下模型输入输出缓存的知识，看下这个数据是否异常

histore 2026-06-18 22:55 1

Token 明细：

输入 Token：67.085 亿

输出 Token：0.805 亿

缓存命中 Token：169.675 亿


主要是编程用，我这种数据是正常的吗



  1. 输入和输出的消耗比 200:1

  2. 缓存命中 token 比输入和输出加起来都多

最新回复 (3)
  • Raine 06-18 22:57
    1楼

    deepseek的话很正常，不用担心

  • histore 楼主 06-18 23:02
    2楼

    不是，gpt claude 都这样

  • 竹笋 竹笋 06-19 00:40
    3楼

    缓存命中有点低，deepseek一般是95%以上，gpt也有90%以上

* 帖子来源Linux.do
附近帖子
返回
飞读
随机推荐