2. Linux.do
  3. agy什么时候才能开启1m上下文..

agy什么时候才能开启1m上下文..

南 2026-10-27 09:20 1

google你真的抠死了，模型能力有1m还不让我用。。agy逆向强开1m上下文后缓存好像崩了直接额度消耗快了5倍，只能用着恶心的256k了

最新回复 (5)
  • 巧克力雷轰 10-27 09:40
    1楼


    官方的快来了

  • 南 楼主 10-27 09:53
    2楼

    wc！？佬你是ultra档位吗？我这里怎么看不到

  • 南 楼主 10-27 09:54
    3楼

    而且google tpu应该只分配了256k的kv缓存。强开1m后每一轮估计都吃不到缓存

  • 巧克力雷轰 10-27 10:08
    4楼

    社交媒体爆料这是，所以是快来了

  • 南 楼主 10-27 10:23
    5楼

    期待哈基米，速来

* 帖子来源Linux.do
附近帖子
返回
飞读
随机推荐