基于之前搭建qwen3.8 27b的方案我觉得可以整一个拼车租算力

苏白 2026-09-11 18:35 1

基于之前搭建qwen3.8 27b的方案我觉得可以整一个拼车租算力我之前租的是3090 4卡配置了加速后 fp8量化大概能有60-80token/s 每天好像是73块钱如果有佬想上车可以留个言说不定

最新回复 (16)

苏白楼主 09-11 18:35

1楼

不过总kv池只有 500多k 如果人多的话可以上更多的卡
calendar 09-11 18:36

2楼

73？还是每天？这真的有性价比吗
苏白楼主 09-11 18:36

3楼

73块钱一天佬周租月租那边会给优惠
陆仁 09-11 18:38

4楼

这个模型就算找平台购买也不会很贵的，一般都是拿自己闲置卡跑来用用，并发提升之后tps会很慢也没必要
李天梭 09-11 18:38

5楼

73乘30,2190。一个月算你打五折，1095，为什么不续费同样价格的GPT6 pro20呢？
苏白楼主 09-11 18:38

6楼

佬我也只是想想看看有没有人我自己就有2个 Claude max 20x
苏白楼主 09-11 18:39

7楼

我刚刚问了一下 4卡602一周
苏白楼主 09-11 18:42

8楼

本地部署一般都是冲着破甲越狱去的
a377179415 09-11 18:42

9楼

怎么会拿4×3090跑这个模型呢佬，而且4卡只加容量速度跟单卡没啥区别，一张卡都可以玩了，2080ti 22g ×2 现在跑都40t-50t速度 128K上下文，要配置偷鸡解码的
苏白楼主 09-11 18:43

10楼

配置了的我也忘记了当时什么速度了最高能跑到 100多tps
🅄🄽🄲🄻🄴𝕁𝕚𝕞𝕒𝕠 09-11 18:43

11楼

这一周咋还反向打折了？ ^-^

73*7=511？
苏白楼主 09-11 18:44

12楼

刚刚问的涨价了现在80多一天 73是我之前租的价格哈哈
Tipper1971 09-11 18:45

13楼

部署无审查&满血版,拼车才有意义吧
苏白楼主 09-11 18:46

14楼

是的不然没意义的
苏白楼主 09-11 18:47

15楼

不过各位佬有想法可以自行组织的
windsing 09-11 19:57

16楼

60-80token/s

并行起来就没那么快了吧。感觉买算力的成本也还是太高，不知道能不能考虑colab pro那一些。我试了一下免费colab+无审核q4量化版大概只能30tps左右