8张5090本地部署deepseekv4flash

牛逼，一辆车的钱了

200多token/s？？？？厚礼蟹

token 自由了！

牛逼。用的爽吗 ^-^

@TianTangJun #4 发布于2026/8/16 15:31:23

牛逼。用的爽吗 ^-^

还不错 最高的时候可以跑到300token/s 单路 只能一个人用

牛逼，但是电费也是一个开支

老哥还是有钱现在8张5090 20多个W了吧，自己的？

量化过的吗 ^-^ ^-^

牛逼，这玩应很费电吗

卧槽啊，牛阿牛啊，第一次看到本地端那么流畅

牛逼，token自由了佬

niubi

爽啊 ^-^

多大精度? int4嘛 ^-^

那可是8张5090啊。8张 5090

我不敢想这有多爽，写代码要爽上天 ^-^

太牛了，这得比我家电费高出去好几倍 ^-^

话说 dsf 最低配要多少显存能跑的算流畅？比如 30t/s 以上？

爽啊

羡慕有钱人 ^-^

牛逼 这是真羡慕

卧槽，富哥

太牛逼了 好羡慕啊 部署视频生成模型应该很屌

够狠的啊，哪来的卡？

@yunvxin #24 发布于2026/8/16 16:01:57

够狠的啊，哪来的卡？

公司闲置的卡

@TianTangJun #7 发布于2026/8/16 15:34:20

老哥还是有钱现在8张5090 20多个W了吧，自己的？

公司机房的

^-^ ^-^

羡慕。但是多模态怎么办？

大佬真是有钱

^-^ ^-^

电费都不够买token的

上下文最高支持多少

牛逼啊，我的梦想。 ^-^

我是想通过一张5090 32g + 1tb内存实现。虽然会慢很多。

@yuyu #32 发布于2026/8/16 16:48:12

上下文最高支持多少

256k

最高可以300多token/s

我用的 nvfp4，也能 150t/s 256k*2

超级无敌非常羡慕 ^-^

羡慕了，这么说来搞4张rtx pro 6000也可以

佬有算过这套部署后的日常机房成本是多少吗，和官方或者opencode套餐比，是不是能降低成本 ^-^

@qiaoen #39 发布于2026/8/16 17:35:06

佬有算过这套部署后的日常机房成本是多少吗，和官方或者opencode套餐比，是不是能降低成本 ^-^

肯定是收不回来的

8张5090能部署完整版吗？

@ZySakura #41 是的

组团去楼主家偷显卡

5090不支持NVLink吧，这怎么玩

^-^ 好羡慕 ^-^

好羡慕

什么富哥