2. Linux.do
  3. codex和work永久缓存？

codex和work永久缓存？

空喵 2026-10-21 10:22 1

缇宝的day16如是说


Day 16/


You can now cache for 12h in the API and for logged in users across Codex & Work we keep cache forever and you don’t have any penalty for coming back to an old conversation or resuming after a few hours and are now guaranteed to hit the cache.

最新回复 (15)
  • HLiny 10-21 10:23
    1楼

    对plus用astra是利好，5h用完之后下一次5h不用缓存重建了，估计用量会增加20%

  • 贾承国 10-21 10:23
    2楼

    缇宝这是喝野生狗奶了还是吃春秋肠了 ^-^

  • Xeltra 10-21 10:27
    3楼

    话说deepseek开源推理框架和tibo发通知哪个早啊，有没有一种可能^-^^-^^-^

  • Doori Kiss 10-21 10:29
    4楼

    永久缓存，天呐，这东西确实有点好


    是 Tibo在 28 天里面放出来的 T0 级消息了吧

  • 空喵 楼主 10-21 10:30
    5楼

    所以开源是对的，可惜ds卡少了

  • gimling 10-21 10:31
    6楼

    估计只是免收网页端缓存写入吧, 只是产品上的概念, 技术上条件摆在那里。

  • foxbbqqww 10-21 10:40
    7楼

    从某种程度上这也是增加使用量了

  • Lincoln_King 10-21 10:42
    8楼

    这是这些天最有用的更新吗？

  • Kami Pasi 10-21 10:45
    9楼

    woc 这下岂不是无敌了

  • Nebula1 10-21 10:51
    10楼

    先砍一半用量，再给点甜头？再怎么样缓存也不值10倍吧

  • RHH 10-21 11:01
    11楼

  • EVELance 10-21 11:27
    12楼

    缓存价格不正好是写入的1/10吗，而且第一次创建缓存还有额外费用。

  • EVELance 10-21 11:32
    13楼

    存到硬盘里去吧，毕竟相比 vRAM 和 RAM 来说，硬盘成本就低太多太多了。


    我猜可能有过统计，用户去捞很早很早以前的会话继续聊的概率非常小，这种即便是重新计算一次不收钱，成本也不高，毕竟只需要重新计算最后一次compact之后和临近的对话。

    这样的话保留最近一个月甚至一周的缓存到硬盘上就行了。回忆下，是不是去翻出一周前的会话继续聊的场景基本可以忽略不计了。

  • blacksein 10-21 11:40
    14楼

    如果没有预先基建/扩容

    最简单的就是先改一下计费系统 凡是codex来的上下文计费所有的读取算缓存读取 ^-^

    让他看上去是永久的 但是其实不是 后续再改造了

  • 三火 10-21 11:41
    15楼

    如果官方渠道的能做到跨会话读取缓存就更强大了 ^-^

* 帖子来源Linux.do
附近帖子
返回
飞读
随机推荐