10b以内模型哪个比较好?

7up 2026-08-01 15:47 1

主要用来翻译,看日程之类小操作?现在用qwen2.5 7b,还行,看着有没有好点的,都2026了还在用2.5

^-^

最新回复 (13)
  • Taylorjim 08-01 15:48
    1楼

    不如租算力70B

  • 7up 楼主 08-01 15:49
    2楼

    @Taylorjim #1 16G 显存不打游戏不想浪费了

  • KateTseng 08-01 15:50
    3楼

    @7up #2 电费比luna贵

  • 7up 楼主 08-01 15:51
    4楼

    @KateTseng #3 有道理

  • jasperwill 08-01 15:52
    5楼

    qwen吧

  • Waylon 08-01 15:59
    6楼

    好像没啥用吗,浪费电。

  • 7up 楼主 08-01 16:00
    7楼

    @Waylon #6 搜了一圈,也就qwen 2.5这个7b能玩玩

  • 1x 08-01 16:13
    8楼

    试试Liquid Foundation模型,不是Transformer

  • 7up 楼主 08-01 16:45
    9楼

    @1x #8 LiquidAI/LFM2.5 8B-A1B:跑个40.22 t/s,还可以

  • Taylorjim 08-01 17:52
    10楼

    @7up #2 其实16G也就勉强了 ^-^

  • LeoNuts 08-01 17:55
    11楼

    盘古模型 1000b以内最好的模型,没有之一

  • yyh2932 08-01 17:58
    12楼

    开源只跑越狱版。。。

  • yacc 08-01 18:01
    13楼

    qwen3.5的4b和9b,其实3.6的35b是moe,内存够的话要强不少,不过还是太占内存了

* 帖子来源NodeSeek
返回