感觉国模都有一个共性问题

coupile 2026-10-20 07:44 1

雷霆大思考很严重,即使这次ds改进了token效率但依然是很烧token,这个是基模的注意力机制带来的问题吗?

最新回复 (9)
  • firespoon 10-20 07:45
    1楼

    其实A​^-^也有点这个问题。现在token效率只有O​^-^是独一档,但是O​^-^的模型雷霆大测试^-^

  • Mufasa 10-20 07:46
    2楼

    并非国模,是全部,海外sota只是藏了思维链,要是真的没有雷霆思考是不会那么慢的,claude最低差不多也有80 t/s的速度,但是他从思考摘要到输出工具调用,这个过程明显也是好几k的思考,有时候更久

  • jcc 10-20 07:47
    3楼

    小参数模型,在面对复杂问题的时候,都这样


    sonnet5.5也这样


    luna和之前的sol 也这样

  • 汉武帝(的大熊猫) 10-20 07:52
    4楼

    那么请问了Gpt和克劳德给你看思维链么?

  • mark 10-20 07:56
    5楼

    用kiro的opus5.5,那思考链也看得我力竭 ^-^

  • 天梦 10-20 07:58
    6楼

    只是国外的AI不给你看思维链而已,给你看了估计你会问“为什么全部AI都会雷霆大思考”^-^

  • xxy 10-20 09:16
    7楼

    不单单是国模的问题吧,思考链过长感觉是大部分模型的通病了

  • 翠花上酸菜 10-20 09:20
    8楼

    可能llm这条路暂时未找到更好的显著提高能力的方法 ^-^

  • gadfly3173 10-20 09:21
    9楼

    如果你试过同一个任务给6.1-sol和glm-5.3-flash的话,你会发现实际上glm更省token,一个任务干完glm不到80k上下文,gpt已经快200k了(都接入claude code使用)

* 帖子来源Linux.do
返回