2. Linux.do
  3. 本地单张4090部署qwen 3.8 27B实践效果

本地单张4090部署qwen 3.8 27B实践效果

coldingcode 2026-08-19 10:56 1



最新回复 (5)
  • lihai 08-19 11:12
    1楼

    如果用4张3090 和一张4090 哪个好

  • coldingcode 楼主 08-19 11:29
    2楼

    听说是多张扩展效果会更好的，而且上下文更长，我没那么多卡，佬可以试试

  • lihai 08-19 11:31
    3楼

    现在用的GPT-OSS-20B 主要是想用于辅助编程，因为效果不太好，现在不怎么用了

  • coldingcode 楼主 08-19 11:38
    4楼

    3.8 27b max 评分挺好的，佬可以试试先

  • Airs_6 08-19 14:22
    5楼

    单张4090是24G显存吧，能够27B的模型部署么，那是不是可以在24G的mac mini上部署？

* 帖子来源Linux.do
附近帖子
返回
飞读
随机推荐