astra远程压缩速度很慢

leonfox28 2026-09-07 09:59 1

佬们,你们使用gpt6的时候进行远程压缩时大概要多久啊?为什么我每次都要三四分钟。之前使用sol的时候一般也就30s-1m的样子

最新回复 (5)
  • xz-dev 09-07 10:16
    1

    传统压缩也很慢,感觉就是整体很慢,不知道是做了什么特殊的针对压缩这个行为的识别和优化吗?

  • leonfox28 楼主 09-07 10:20
    2

    不太理解,sol的tps也算不上快,但是压缩时间明显比astra快的多

  • 还是不懂 09-07 10:23
    3

    确实很慢的,甚至遇到了等压缩的时候cli里面弹窗说正在忙让我切换回快速模型 ^-^


    我的astra都没上过35tps 一般都是15-30徘徊 (这也太可怕了,本地部署的千问3.8flash-next都有35-40 tps

  • leonfox28 楼主 09-07 10:56
    4

    我也是 经常压缩失败

  • 0xqaxwm 09-07 10:57
    5

    新的实验性压缩方式几乎10秒不到就完事了,目前用下来感觉还不错,只是要做好上下文的管理,重要的东西单独维护一个载体

* 帖子来源Linux.do
返回