2. Linux.do
  3. 本地部署大模型

本地部署大模型

Yalo. 2026-08-19 14:26 1

现在很多人玩本地大模型，佬们觉得本地部署的实际用处大吗？还是更多是折腾玩具？

最新回复 (5)
  • 小帅哥 08-19 14:29
    1楼

    看模型效果和需求，比如你需要大量的图片生成且z-image生成的质量还是可以满足你的要求，这个时候部署一个不用排队的模型挺好。但目前本地大模型生成速度都很慢，制约因素导致现在本地大模型的价值不如在线。另外从安全性考虑，要安全就用本地大模型。

  • Grogu 08-19 14:34
    2楼

    这个主要还是看你的需求，需求决定是否有用

  • beimiaomiao 08-19 14:54
    3楼

    （帖子已被作者删除）

  • sungong1987 08-19 14:58
    4楼

    主要是看你做什么吧？如果是玩酒馆写小说之类的，肯定是用本地的更好，毕竟能逃避审核

  • puper 08-19 15:05
    5楼

    2080ti 22g 部署 qwen3.8 27b q4 128k上下文勉强可用

* 帖子来源Linux.do
附近帖子
返回
飞读
随机推荐