上下文压缩特别频繁,一看上下文只有122k

ARM 2026-06-10 22:39 1



新上的20x拼车,是不是CCS哪里配的不对?

最新回复 (9)
  • 光合作用 06-10 22:40
    1

    配置模型的地方有设置,参考一下

  • ARM 楼主 06-10 22:59
    2

    刚搜了一下,GPT5.5最大只支持400K吗

  • 尘梦 06-10 23:02
    3

    默认不是256k吗,你这不太对吧,改了配置文件的应该是

  • 光合作用 06-10 23:03
    4

    5.5的1M目前只有API能开,客户端这边config改了也没用估计 你的是网页反代理的吧

  • KiraraCat 06-10 23:03
    5

    似乎是272K输入+128K输出。

    5.4可以开1M上下文,但存在注意力衰减和额外计费,正常用途400K基本够了,考虑到自动压缩。

  • ARM 楼主 06-10 23:05
    6



    CCS里面上下文窗口留空的

  • ARM 楼主 06-10 23:06
    7

    上的别人20X拼车,应该是CPA+NEW API反代的

  • ARM 楼主 06-10 23:07
    8

    那我设置400k试试去,之前用别的中转站没有设置过

  • 深念 06-10 23:10
    9

    好像是支持1M上下文的,但需要在ccswitch声明配置,但听说超过多少k就会有衰减。 而且这个跟上游渠道来源有关,有的是不支持的。

* 帖子来源Linux.do
返回