2. Linux.do
  3. 求助佬友购买5090显卡部署qwen3.8-27B选择问题

求助佬友购买5090显卡部署qwen3.8-27B选择问题

mike8861 2026-08-26 09:59 1

我想采购两台5090显卡的主机，主要用于部署本地模型（比如qwen3.8-27B），RAG使用

目前看了几天下来有点纠结，5090满血和5090D有点贵，5090D V2又是24G显存

一台5090的价格都基本上够买两台5090D V2了，另外5090满血还没有售后

想问下有用5090D V2部署过qwen3.8-27B的佬们，24G显存够用吗？还是推荐直接上5090D或者5090？差距有多大？

谢谢 ^-^

最新回复 (9)
  • 落寞半城 08-26 10:01
    1楼

    为啥不直接上昨晚发售的Mac Studio M5ultra

  • ggbom 08-26 10:03
    2楼

    直接上4090魔改版的48G，真有大容量需求就上DGX了，两台6W能跑200B的MOE

  • mike8861 楼主 08-26 10:04
    3楼

    因为还想没事打打游戏，MAC系列的只能纯AI了 ^-^

  • laevatein 08-26 10:12
    4楼

    我用5090部署了一个nvfp4的版本，开了dspark，能开180k上下文

  • mike8861 楼主 08-26 10:19
    5楼

    佬的5090具体是5090、5090D、5090D V2哪个？

  • laevatein 08-26 10:23
    6楼

    我的是满血版的，32g显存，24g只能当玩具吧

  • wugeng 08-26 10:31
    7楼

    5090跑27b也没有那么舒服。Claudecode里开262k上下文，长任务会慢到10几。倒是dsh里可以一直跑。

  • cainiao3hao 08-26 10:32
    8楼

    不太够，32g塞q6都已经需要核显帮忙进桌面，24g想塞下至多q4了吧，不知道质量会下降多少。不过50可以nvfp4，这个我没试过，看大小应该放下不难


    速度倒是挺可用的，预填充3000也就那么几次，cache一开，能接受。推理开个MTP，也有个一百多tps ^-^

  • admini 08-26 10:37
    9楼

    单卡 24G 除非量化版本，并且批处理或者上下文小还可以跑跑。建议满血 32G 2 张卡或者专业卡。

* 帖子来源Linux.do
附近帖子
返回
飞读
随机推荐