2. NodeSeek
  3. 9950x3d+5080 能跑什么本地模型

9950x3d+5080 能跑什么本地模型

Acquaint1250 2026-08-31 20:38 1

9950x3d+5080 能跑什么本地模型

想部署个无审查的 能跑100 t/s 的在自己电脑玩玩

最新回复 (11)
  • HaoSir 08-31 20:43
    1楼

    配置不行，50收了 ^-^

  • 江郎才尽 08-31 20:44
    2楼

    够呛

  • jiajiaxd 08-31 20:44
    3楼

    5080的16G显存太少了，难受

  • Acquaint1250 楼主 08-31 20:46
    4楼

    @HaoSir #1 ^-^

  • Acquaint1250 楼主 08-31 20:46
    5楼

    @jiajiaxd #3 ^-^

  • 1952444901 08-31 20:51
    6楼

    量化调一下能勉强够跑qwen3.8 27b，跑minimax h3就要轻松很多。至于生图模型的选择就多了。

  • 1952444901 08-31 20:52
    7楼

    速度别指望，16GB显存就是黄狗的刀法

  • Acquaint1250 楼主 08-31 20:53
    8楼

    @1952444901 #6 好的谢谢佬

  • 桥豆麻袋 08-31 20:59
    9楼

    本地跑大模型，我觉得家用显卡都不行，显存不够

  • Gu123 08-31 21:14
    10楼

    source:https://www.reddit.com/r/LocalLLaMA/comments/1tiixql/rtx_5080_16gb_qwen36_35b_moe_at_128k_context_56/

    跑Qwen3.6 35B 开mtp，peak在80-95左右，128k上下文，在hf上找找uncensored版就行，offload到内存你64g肯定没问题，qwen3.8 27b你这个显存只能q2-q3，尽管27b强很多但量化太aggressive而且速度太慢了，所以还是推荐上35b的，q4跑85，q8跑50，世界知识也不错

  • Acquaint1250 楼主 08-31 21:48
    11楼

    @Gu123 #10 谢谢佬 学习到了

* 帖子来源NodeSeek
附近帖子
返回
飞读
随机推荐