我在服务器4090显卡组件了一个无审核ai,晚点给大家看看结果

LuciferO-O 2026-08-26 14:17 1

https://huggingface.co/huihui-ai/Huihui-Qwen3.8-27B-abliterated-GGUF


这个

最新回复 (9)
  • selfpager 08-26 14:17
    1

    能出片么?

  • augus221 08-26 14:18
    2

    上午刚在M3 Max 128上测试了,太慢了 我实在受不鸟

  • dtfour09 08-26 14:19
    3

    如果上下文比较小的话估计速率100ts ?

  • calvin 08-26 14:20
    4

    看评价 unsloth 量化的更好吧,

  • jarin 08-26 14:20
    5

    4090能跑这个呢

  • 浪浪山小怪兽 08-26 14:29
    6

    27B的能跑的起来吗

  • LuciferO-O 楼主 08-26 14:30
    7

    @浪浪山小怪兽 #6 还在部署 可能需要两张4090,一张不够

  • 江郎才尽 08-26 14:31
    8

    丢给codex部署就好了,我昨天租了个PRO 6000试,无审核的确实啥都干,但是速度还是太慢了,够费劲了

  • LuciferO-O 楼主 08-26 14:33
    9

    @江郎才尽 #8 其实这么算下啦 ai开会员还是很划算的,不清楚Gemini api审核机制是不是小一点,怎么的也比我自己部署便宜吧

* 帖子来源NodeSeek
返回