本地小模型能幹啥?

di 2026-09-28 09:21 1

我部署了兩三個,都是小小的1B以下或是2B,他們幾乎什麼事也做不了,聊天都困難,你們有玩過的嗎?部署哪家的?拿來幹啥?

最新回复 (21)
  • QPO 09-28 09:22
    1楼

    没啥用

  • Imokk 09-28 09:22
    2楼

    除了费电就是流口水

  • pesh 09-28 09:23
    3楼

    最起码也要qwen的27B

  • wynn 09-28 09:23
    4楼

    自娱自乐

  • Blush 09-28 09:24
    5楼

    太小真的用处不大

  • lzlf 09-28 09:25
    6楼

    翻译

  • ZySakura 09-28 09:26
    7楼

    特定任务可以,譬如翻译,执行一些简单命令。

  • leyili 09-28 09:27
    8楼

    部署个翻译模型接沉浸式翻译还可以,其他的没用

  • happyfool 09-28 09:27
    9楼

    可以燃烧显卡

  • di 楼主 09-28 09:27
    10楼

    @happyfool #9 沒顯卡

  • leohsun 09-28 09:28
    11楼

    代码补全

  • hellosean 09-28 09:29
    12楼

    你用什么设备跑这个小模型的呢?虽然不大,但一般机器也跑不起来吧。

  • di 楼主 09-28 09:34
    13楼

    @hellosean #12 1B/2B不是隨便跑嗎?

  • 3kyu 09-28 09:34
    14楼

    折腾完删除

  • Mosasaurus 09-28 09:40
    15楼

    27B还可以。用来做入侵渗透

  • zns311 09-28 09:42
    16楼

    搞颜色另外就是生成视频,干不了重活

  • maskc 09-28 10:01
    17楼

    文爱

  • vshan 09-28 10:03
    18楼

    用处不大 个人电脑速度有点慢

  • WDAhyhy 09-28 10:05
    19楼

    @hellosean #12 这种小模型随便跑,用cpu都能跑

  • royswift 09-28 10:09
    20楼

    太弱的小模型真不如用gpt-luna。。。

  • verdx 09-28 10:33
    21楼

    现在还不行,明年的时候再看吧,目前不划算

* 帖子来源NodeSeek
返回