2. Linux.do
  3. newapi的claude模型，请求都是非流的导致无法命中缓存

newapi的claude模型，请求都是非流的导致无法命中缓存

让我再睡一会儿 2026-10-01 21:47 1

我自己搭建了一个newapi，对接了上游的claude模型，然后我ccs中主模型设置的opus5.5，sonnet模型设置的sonnet5，但是我发现在执行任务的时候，ai会自己调用sonnet5，并且请求还都是非流的导致无法命中缓存，opus5.5倒是一切正常，这是为什么？

最新回复 (8)
  • 甘棠 10-01 21:49
    1楼

    claude code用的是auto模式吗

  • 让我再睡一会儿 楼主 10-01 21:51
    2楼

    应该是的，我用的claudecode-cli

  • 甘棠 10-01 21:52
    3楼

    我就记得cc的自动审核调用模型是走非流来着

  • 让我再睡一会儿 楼主 10-01 21:52
    4楼

    有解决方法吗

  • Redwind 10-01 22:03
    5楼

    流式和缓存没关系吧，你上游是什么，估计是上游在轮询没有会话粘性，导致你每次都是创建缓存，或者cc auto review设计的时候根本没考虑缓存，抓一下请求看看

  • 让我再睡一会儿 楼主 10-01 22:05
    6楼

    有关系的，非流是打不满缓存的，上游是正常的

  • 让我再睡一会儿 楼主 10-01 22:05
    7楼

    我就是不知道为啥cc会自己调用sonnet还是非流的去执行任务

  • Guoke 10-06 09:23
    8楼

    先对比同一模型两次请求的 cache_creation_input_tokens 和 cache_read_input_tokens 吧，一直重建缓存和根本没写入缓存是两回事，光看非流式还判断不了。

* 帖子来源Linux.do
附近帖子
返回
飞读
随机推荐