2. Linux.do
  3. codex的远程压缩是如何做到那么厉害的

codex的远程压缩是如何做到那么厉害的

西门吹风 2026-07-07 20:42 1

能做到虽然上下文压缩了很多但是几乎没失忆，有没有哪个api网关能做到类似的效果呢？


ps:与之对比的就是接第三方模型后的本地压缩，压缩完就失忆了已经忘记刚才干了些啥

最新回复 (15)
  • SALT 07-07 20:45
    1楼

    感觉和我的使用感想差的很多？我的codex压缩后就完全忘记内容了，还得重新解释一遍。个人拙见正解还是得写个skill，持续维护一个工作记忆的文档

  • Root大虾 07-07 20:46
    2楼

    感觉还是挺大区别的，compact远程接口的压缩质量确实比直接走responses接口的好

  • 西门吹风 楼主 07-07 20:50
    3楼

    你是用的官方GPT模型么？如果使用官方模型是不会失忆的～

  • john180 07-07 20:54
    4楼

    我日常使用是尽量避免触发压缩的，但从为数不多触发了压缩的会话表现看，我是没有观察到明显的失忆情况，不过我一直用的都是codex官方，没什么可以对比的。

  • Sukiyaki 07-07 20:58
    5楼

    怎么压缩的啊？Codex自动压缩的吗？还是需要prompt

  • 西门吹风 楼主 07-07 20:59
    6楼

    就是codex自动压缩的，不需要人工手动触发

  • since 07-07 21:01
    7楼

    它默认就是这样的？还是需要设置什么，例如端点之类

  • bfloat16 07-07 21:03
    8楼

    听说是远程压缩是直接压掉激活次数少的token

    这玩意是真的牛逼，压完codex和没事人一样继续干活

  • bfloat16 07-07 21:03
    9楼

    provider改成OpenAI，触发压缩的时候就是远程压缩了

  • 普锐斯 07-07 21:04
    10楼

    借帖子 我想问下sub2API部署的 啥也不管 默认是远程压缩还是本地压缩？ 远程压缩需要在哪单独开启吗

  • Rayama 07-07 21:06
    11楼

    必须要是远程压缩才行：



    • 要么是官方账号登录

    • 要么是使用第三方 && 把provider名字改为OpenAI && 第三方提供了/messages/compact接口才行

  • Vita 07-07 21:07
    12楼

    newapi 对远程压缩的支持好像有问题，不支持 zst 要自己编译

  • 西门吹风 楼主 07-07 21:13
    13楼

    正解。目前还没有发现有什么开源项目实现了这么牛逼的压缩

  • HLiny 07-07 23:51
    14楼

    话说any有这个接口吗，我好像没成功过

  • UESTC 07-07 23:53
    15楼

    只有用了本地压缩之后，才知道远程压缩有多牛逼

* 帖子来源Linux.do
附近帖子
返回
飞读
随机推荐