想买dgx的心情到达了顶峰,请佬友们劝劝我~

哒嘿 嗯 2026-08-03 22:04 1

这两天实测deepseek-v4-flash效果确实不错,同时也看到双路dgx,6万的硬件就可以爽跑无限v4flash了,甚至速度能有80token/s,而且能力比API效果还好……


以上只是听说,但就很心动,当然6万的api调用肯定是用到老了,但毕竟这是个硬件……不说提供永远在线的安心感,就是硬件价值本身也是保值的(…吗?)


我记得这玩意刚刚发布的时候接近4万,现在内存涨到这个地步了,它基本上稳定在3万-3万3左右一台,真的好想买!从性价比上面确实没太有!但现在开源模型感觉又大爆发,会不会未来有什么新的玩法?


也有不少人觉得这个需求实在是太小众了,本身的带宽太小。用来做模型微调肯定是合适的,但是大众还是不会去选择它,所以它应该也不会涨价,这个说法也有道理,万一破发了好像又很亏?

最新回复 (19)
  • Renew 08-03 22:05
    1

    我当时也查了很久 但都是说这个速度是硬伤 不知道佬友看了吗

  • aeroides 08-03 22:06
    2

    如果你不缺电并且不在乎噪音,咸鱼上 4 万的 DGXStation with 8xV100 可能更加适合你

  • 哒嘿 嗯 楼主 08-03 22:06
    3

    带宽确实小,跑Qwen 27b的稠密模型确实不行,但跑Moe效果还可以,比如v4flash的速度就很不错。我的理解就是只能跑MoE了……

  • 哒嘿 嗯 楼主 08-03 22:07
    4

    我去……涨见识了,我去搜搜看这是个什么神奇的配置

  • 嗯djs. 08-03 22:08
    5

    六万,综合dgx的io能力,你拿去充官key至少能蹬到dsv10了吧

  • MinQ 08-03 22:08
    6

    ^-^虽然但是刚发布的时候是2.5w

  • WWT 08-03 22:09
    7

    不如去买go套餐或者官方key

    而且万一以后ds flash小模型不怎么更新了,那不就歇菜了

    总不能一直用V4吧^-^

  • 哒嘿 嗯 楼主 08-03 22:09
    8

    啊?难道我看到的时候就已经是涨价后的了……

  • 哒嘿 嗯 楼主 08-03 22:09
    9

    确实 我现在就用的opencode go套餐 爽蹬,无限蹬

  • MinQ 08-03 22:10
    10

    好像有人算过要24小时连续蹬好几年才能回本

    再加上也许过个两年新架构就出现了,到时候dgx不适配的话估计价格要暴跌

    其实最大的诱惑就是可以断网使用,还没有道德护栏,官网人挤人的时候可以在干岸上看着 ^-^ ^-^

    除此之外并没有啥优点

  • liro2333 08-03 22:11
    11

    不建议,买不如租,况且还有官方api; 主要这年头是ai技术发展的黄金时代,硬件淘汰的节奏完全说不清楚,就像显卡一样,如果没有明确的商业变现途径,那就是买不如租,试试就好,热情过后dgx的转手可不容易;

  • Fince 08-03 22:11
    12

    除非是要部署破限版24小时生成黄色内容不然肯定不如官方api(

  • 怀疑论的循环 08-03 22:12
    13

    对 我也觉得可以租一段时间试试 想测试本地模型的能力 runpod啥的不就可以么,租个一天测一下马上就知道效果了,如果是微调也有很多选择啊

  • 嗯djs. 08-03 22:13
    14

    这个最大的价值是可以跑不太大的模型做一些辅助和验证,而不是跑去跑大模型替代官key

  • 哒嘿 嗯 楼主 08-03 22:13
    15

    感谢各位,我听劝了!那之后我打算去租一个体验一下~

  • Neige 08-03 22:14
    16

    你电费可能比api还贵,你考虑好

  • 布衣 08-03 22:14
    17

    两台加一起满载功耗差不多400w,假设一天用5个小时就要2度电,将近一块多。但是实际上充api用v4flash一天也就不到一块钱。

    除非你用单位的免费电或者高并发,不然应该是不如api的

  • 哒嘿 嗯 楼主 08-03 22:14
    18

    确实 想回本确实太难了,因为我本职是视频工作者,可能更适合我的还是等M5的studio出来……

  • 哒嘿 嗯 楼主 08-03 22:16
    19

    其实确实是自己租的公司不限电费() 不过你说的也对,跑API确实回不了本。我现在是go套餐在蹬v4flash,官方key一天不到一块钱不太可能吧……我感觉我应该至少能登20?

* 帖子来源Linux.do
返回