2. Linux.do
  3. 本地部署无审查大模型 太爽了

本地部署无审查大模型 太爽了

madafaka 2026-09-22 17:53 1

公司3090显卡，部署了个 qwen3.8 无审查版本，黑活脏活 全交给它了 ^-^

最新回复 (11)
  • 蓝芷怡 09-22 17:56
    1楼

    能写刘备文吗？质量怎么样？和claude比呢？

  • madafaka 楼主 09-22 17:58
    2楼

    啥是刘备文？我部署之后 就是让它帮我 写了些简单的爬虫和 装绿色软件 ^-^

  • Kbo 09-22 17:58
    3楼

    我这公司也有张3060还挺想折腾来着，但不知道部署哪个好，还有佬说的脏活黑活，黑活是什么呀

  • madafaka 楼主 09-22 17:59
    4楼

    3060的话 你可以去 抱脸网 看看 新发布的模型，你可以直接让 美国豆包帮你 找适合你显卡的

  • madafaka 楼主 09-22 18:00
    5楼

    这个还没 试过，不知道质量咋样 ^-^

  • 蓝芷怡 09-22 18:01
    6楼

    快快快，急死我了，我要知道结果，现在！！！

  • Kbo 09-22 18:02
    7楼

    好，我研究研究去，之前就一直手痒想部署

  • leioukupo 09-22 18:03
    8楼

    哥们，你3090部署的是什么精度的？上下文最大多少？

  • 劳模 09-22 18:04
    9楼

    3080Ti 可以布置么。没有好显卡了

  • niu12503 09-22 18:34
    10楼

    qwen3.8



    4070显卡好像是 12G能跑不？

  • lychjck 09-22 18:36
    11楼

    不能，模型限制了，不给你输出，我部的FP8的

* 帖子来源Linux.do
附近帖子
返回
飞读
随机推荐