2. Linux.do
  3. codex切换账号是否会掉缓存

codex切换账号是否会掉缓存

qaq 2026-08-09 11:17 1

codex 不是共享缓存的吗，为啥看到很多佬/中转站在说切账号就会掉缓存。至少我自己的free号池不掉缓存。

最新回复 (11)
  • YAiOra 08-09 11:25
    1楼

    切了账号之后，上下文历史记录的那些Token应该都会掉缓存吧

    不同账号记录的缓存不通用来着

    不太懂佬说的free不掉缓存是什么

  • qaq 楼主 08-09 11:35
    2楼




    我找了昨天的请求记录，切换账号后缓存确实还在的呢。

  • king 08-09 11:40
    3楼

    从CPA调用API，codex不能生图，是我设置的问题还是就是不能？

  • YAiOra 08-09 11:43
    4楼

    话说 Codex 是有一些公共前缀的

    比如说些系统提示词啊，工具这种公共前缀 这些应该能跨账号缓存命中

    不过看佬的缓存命中率这么高，我就不知道是为什么了

  • taloslhan 08-09 11:43
    5楼

    Claude 掉缓存，但是印象里 GPT 这面缓存是和对话 sessionid 绑定的全局缓存，切号不掉，

  • qaq 楼主 08-09 11:45
    6楼

    我也是这样理解的，但是看到了好多人说codex切换账号会掉缓存，给我看迷糊了。

  • txooox 08-09 11:53
    7楼

    切号应该会掉对话缓存的, 否则的话为什么 cpa, sub2api 要做黏性会话? 就是要同一个 session 尽量命中一个账号

  • neteroster 08-09 11:55
    8楼

    错误的，OpenAI Codex 订阅全体用户都在同一个组织，缓存全员共享没有隔离

  • qaq 楼主 08-09 11:55
    9楼

    因为cpa，sub2api 不是只服务codex的。

  • netuser 08-09 12:17
    10楼

    首先缓存不可能全员共享，整个万卡集群共享缓存这事的infra听起来就很魔幻


    最合理的猜测是通过prompt key粘性路由到同一个计算节点，而codex的prompt key似乎是跨账号的，但是实测发现跨账号的缓存率是会降低的，猜测是内部有优先级和一个尽力而为的机制

  • neteroster 08-09 12:22
    11楼

    cache key 确实会提高缓存率，但跨账号降低缓存我之前大跑k12的时候没有观察到有统计学意义的差距（轮询 vs fill）


    实际上共享缓存只是说openai没有特意隔离不同账号的缓存（API上不同组织则是有隔离），prefix匹配+cache key辅助整个过程完全可以和账号完全解耦（或者说这是最自然的情况，除非出于某些理由需要绑定账号）

* 帖子来源Linux.do
附近帖子
返回
飞读
随机推荐