有没有老哥现身说法,DGX spark的优缺点

tx 2026-08-21 13:12 1

真的想买DGX spark了,个人使用,需求就是跑跑视频、图片,本地部署ai来玩,现在这个价格到底合不合适,似乎没咋涨价,有没有买过的老哥现身说法。

最新回复 (19)
  • 匿名者 08-21 13:16
    1

    只能部署小模型玩。上点体量就跟便秘一样了。视频和图片也还行。没那么神,但是只要不复杂的也还行。

  • 爱你们 08-21 13:18
    2

    缺点就是带宽比较低。。。优点就是小巧,不用搞一堆服务器

  • Tibo Sottiaux 08-21 13:19
    3

    视频、图片



    就看5090 32g能不能装下了,5090内存带宽1.8TB/s, Spark 270GB/s,要是5090能装下,就比spark快很多

  • tx 楼主 08-21 13:20
    4

    5090还得换新电源,搞竖装的东西,下来将近3.7w了

  • tx 楼主 08-21 13:21
    5

    老哥有没有试过qwen3.8 27b,跑起来怎么样

  • W1nge 08-21 13:22
    6

    4090 48g? ^-^

    有钱人的世界我不懂

  • masiqi 08-21 13:22
    7

    很好奇,这东西不全是缺点么,竟然还有优点?

  • tx 楼主 08-21 13:23
    8

    显存大,拎包入住,不需要再去折腾其他配件 ^-^

  • netuser 08-21 13:24
    9

    缺点: 带宽小,原生支持的精度有限,有些模型跑不动

    优点: 功耗低,体积小,噪音小,生态好,不折腾

    只能当个大玩具用


    生产力的话,有这俩选择我觉得现阶段很合适的

    如果偏NV生态,不如4090 48G魔改(目前价格单卡2.8W一年质保

    如果不需要nv生态,可以看看AMD MI210 64G(新卡1.8W一年质保

    并且MI210原生支持桥


    这里面MI210非常适合跑qwen 3.8 27b,但v4f效果很差

    4090 48G的缺点就是跑大模型需要多卡,但哪怕PCIE互联的带宽应该也比SPARK好吧

  • masiqi 08-21 13:24
    10

    大归大,但是带宽太低了,玩玩可能还行,真的用太难了

  • tx 楼主 08-21 13:25
    11

    这个是魔改的吗 48g? 用起来怎么样

  • tx 楼主 08-21 13:26
    12

    4090的话电源1000w可以吗?魔改版有没有脱焊风险 确实这个也很不错

  • netuser 08-21 13:27
    13

    4090 48G用起来没问题,架构也是比较新的一档,找个带质保的店买就行了

    这种卡说白了怕别买,买别怕

    单卡TDP450W,单卡应该要850W以上的供电

  • 爱你们 08-21 14:10
    14

    27b Q4KM,35-40tps,256k上下文快满时大概15t/s,moe的话估计dgx多台串联能好一点,现在挺慢的,达不到工作效率

  • W1nge 08-21 14:34
    15

    主要是跑27b其实显存占用也不低,特别是超过256K的情况下,32G可能不够用

    但是dgx spark速度又太慢

    不考虑多卡的话也许4090是个好选择

    (还能打游戏 ^-^)

  • tx 楼主 08-21 15:39
    16

    速度慢到底是慢到什么程度?50tk?不会比这个还低吧

  • 马嘉祺 08-21 15:40
    17

    要不等等rubin版本的DGX呢

  • W1nge 08-21 15:50
    18

    50token/s很高了好吧

    dgx显存带宽才300g多

  • tx 楼主 08-21 18:07
    19

    所以比50还低???不至于吧,这就有点啦了

* 帖子来源Linux.do
返回