提升上下文容量可以提高智商嘛

F1 2026-08-27 23:32 1

现在上下文窗口可以自行提升到1M了,有必要去调整嘛,尤其对于luna max来说,虽然我知道提升上下文会带来更多用量,但是如果可以进一步提升目前足够便宜的luna也是划算的 ^-^

最新回复 (10)
  • Monkeypox 08-27 23:33
    1

    不太能

  • ajie0121 08-27 23:34
    2

    提升上下文会有效降低智商,gpt的优势上下文好像在300到400之间

  • nanami814 08-27 23:34
    3

    作用有限

  • shoaly 08-27 23:34
    4

    相反,而是控制上下文的长度

    才能够得到更精准的结果

  • F1 楼主 08-27 23:34
    5

    @ajie0121 #2 这样嘛,那提升上下文有什么好处 ^-^

  • mYh3 08-27 23:36
    6

    不会。反倒会降低智商。Transformer 架构核心还是注意力机制,上下文越多注意力约分散(术语:注意力稀释)

  • 1952444901 08-27 23:36
    7

    @F1 #5 能让1M上下文迷信者以为自己赚到了

  • F1 楼主 08-27 23:38
    8

    @1952444901 #7 所以默认的就是最好的 ^-^

  • qoney 08-27 23:39
    9

    codex不要搞1m,921k最大,超过会卡死

  • Aestas16 08-27 23:46
    10

    感觉反而会变蠢

* 帖子来源NodeSeek
返回