本地部署的开源 AI 是不是都不咋能用

zhq566 2026-10-26 10:12 1

5060ti 16g ,只能部署量化后 qwen3.8 coder Q3 ,感觉慢还傻傻的。
升级显卡需要花的钱是不是该直接买商用付费版本就好了。

最新回复 (3)
  • skallz 10-26 10:15
    1楼
    真想本地部署可以买个那种两三万的小主机,虽然慢,但是好歹能部署能用的,不过折腾半天发现算上硬件和电费还不如直接用 deepseek ,更别说那些更强的模型了
  • penisulaS 10-26 10:55
    2楼
    现在连老矿卡都大幅涨价了,更别说为了跑什么 strata 买更大的 ddr5 内存。硬件成本实在太高了,买大肥鱼 api 搞搞得了
  • Nasdaq 10-26 11:00
    3楼
    跑跑 Decisions 类的可以,其他通用的真的拉胯,不如用小梁的。
* 帖子来源V2EX
返回