不懂就问现在最适合在5060ti16g本地部署的模型是什么？

小林 2026-07-18 10:36 1

cpu 14600kf

显卡 5060ti 16g

内存 32g

硬盘 1tb nvme

最新回复 (12)

xiaocaicai 07-18 10:38

1楼

MiniCPM5-1B
qdua 07-18 10:38

2楼

调用api
shen1e 07-18 10:39

3楼

问错地方了，去隔壁站问 ^-^
已注销 07-18 10:39

4楼

建议不要部署要的话玩玩生图即可
小林楼主 07-18 10:40

5楼

@已注销 #4 生图是defusion吗
归去来兮 07-18 10:40

6楼

^-^ 5060ti干不了什么捏
已注销 07-18 10:41

7楼

@小林 #5 可以的 ^-^
小林楼主 07-18 10:41

8楼

@归去来兮 #6 16g显存的我看评测可以跑14b的模型
归去来兮 07-18 10:45

9楼

@小林 #8 吐字快慢压根不提的，所谓测评自己试了之后就祛魅了呀 ^-^
小林楼主 07-18 10:52

10楼

@归去来兮 #9 qwen3.7 36b a3b 每秒25个汉字，我觉得可以呀
jianggaoyi 07-18 12:02

11楼

自己本地跑ai。。。真的不如拿去把显卡卖了。。除非你自己有隐私需求，但是也是慢慢磨。。等死人///不然不真如使用api。。deepseek量大便宜。
xiluo 07-18 12:33

12楼

感觉干不了多少