2. NodeSeek
  3. 3060 12G能部署啥，能用一点的模型？

3060 12G能部署啥，能用一点的模型？

lele2023 2026-09-05 17:53 1

质量尽可能好，速度尽可能快。我只是想尝鲜 ^-^

最新回复 (9)
  • heishuitaotaolo 09-05 17:55
    1楼

    蹲一个

  • dtfour09 09-05 17:58
    2楼

    7b 或者你内存足够的话 可以 显卡 + 内存 部署27b的千问3.8


    但是上下文不能太长了。

  • 暴躁青年 09-05 17:59
    3楼

    7b吧

  • Totoria 09-05 17:59
    4楼

    估计可以部署一些8b的弱智小模型

  • Sheena99 09-05 18:05
    5楼

    之前我也部署过本地模型…折腾下来简直就是浪费时间，说流口水都是夸了 ^-^

  • nodeisle 09-05 18:17
    6楼

    可以让你的gpt6.0做方案和审核， 小模型干活 用dsh

  • kevin77 09-05 18:19
    7楼

    从最小的开始试

  • SedarStar 09-06 06:32
    8楼

    很小，尽量要提升配置，然后玩大一点的吧

  • Multy 09-06 06:36
    9楼

    好强,但是应该作用不大

* 帖子来源NodeSeek
附近帖子
返回
飞读
随机推荐