2. Linux.do
  3. 上下文大小和压缩比例(国模为主)

上下文大小和压缩比例(国模为主)

lynn 2026-09-26 13:32 1


支持 1M 上下文的模型，佬们一般设置多大上下文或者达到多少之后必须压缩。


  • 128K - 10%

  • 256K - 25%

  • 512K - 50%

  • 1M - 100%






0
投票人



最新回复 (4)
  • lynn 楼主 09-27 00:08
    1楼

    唱票


    [128K -  10%] 获得 0 票
    
[256K -  25%] 获得 9 票
    
[512K -  50%] 获得 9 票
    
[1M   - 100%] 获得 5 票
    
总计 23 票

    结论


    支持 1M 上下文的模型，设置上下文在 256K-512K 较为常见



    我本人设置的是 256K，感觉很舒适，不使用任何子代理

  • jue 09-27 00:10
    2楼

    那压缩策略呢？ 不跟压缩策略有很大关系吗，佬友使用的什么agent的compaction

  • lynn 楼主 09-27 00:14
    3楼

    我用的 pi 内置的压缩，触发条件是达到距离100%上下文窗口小于16384token时触发自动压缩


    还使用了 rtk 钩子来节省 token ，感觉很有用

  • vinceblue 09-27 00:17
    4楼

    每次看到这国模二字，我都想到那些模特 ^-^

* 帖子来源Linux.do
附近帖子
返回
飞读
随机推荐