越狱版”大模型“

挪威norway-4498 2026-09-26 11:52 1

以前一直使用英伟达 6000D-84G搭建 越狱版”千问-3.8-27B“使用。

但是租金也贵,5元左右一小时,256K上下文。


然后去搜了搜,找了个也是自己搭建的服务商,卖token,想用就用




我觉得每个人都应该有一个越狱大模型作为备用,以及可以用于codex,workbuddy.

最新回复 (14)
  • 0510 09-26 11:53
    1楼

    哪家的,多少钱

  • 挪威norway-4498 楼主 09-26 11:54
    2楼

    @0510 #1 10元=10美元,价格按照图片计算

  • 蛋糕FelixCake 09-26 11:56
    3楼

    千问太拉了, 无审查的GLM还可以, 但是跑起来得4块H100

  • 挪威norway-4498 楼主 09-26 11:57
    4楼

    @蛋糕FelixCake #3 你知道有谁私自搭建卖token的吗? 推荐一下

  • 蛋糕FelixCake 09-26 11:58
    5楼

    @挪威norway-4498 #4 你完全可以自己搭建的

  • 挪威norway-4498 楼主 09-26 12:03
    6楼

    @蛋糕FelixCake #5 我知道自己可以搭建,但是没H100显卡啊.. 况且就算租也是天价。。 一小时70-100元租金吧。

  • dtfour09 09-26 12:03
    7楼

    不嫌慢的话花1w多点,内存 + 显卡,qwen next flash 反正是能跑,大概10~20ts的输出。


    我自己目前就是5070ti x 1(之前买来玩游戏的) + 2080ti x 3 , + 72g ddr4


    qwen27b 无审查 a8的,俩2080ti 22g 就可以跑了大概5k。

  • pl6 09-26 12:04
    8楼

    @dtfour09 #7 我是AI MAX+ 395 + 一块32G的傲腾放n-gram +128G lpddr5放其余的

    还在与ai学习如何部署… ^-^

  • dtfour09 09-26 12:07
    9楼

    @pl6 #8 128g的 我等到国庆后再搞,主要是395,卖点team还债(/dog) ^-^ ^-^ 。


    主要是 目前这样的方案比我买395便宜。 我只有个32g的395 ^-^

  • pl6 09-26 12:10
    10楼

    @dtfour09 #9 395你要不…?你要的话…我很乐意出掉 ^-^

    按市场价2W出 包邮 128G+2T ^-^

  • dtfour09 09-26 12:11
    11楼

    @pl6 #10 太贵了,我那个改内存 + 6000


    我看着从1.2w涨到了 2w,离谱。不过咸鱼上还有1.5~1.7的

  • 萌新 09-26 12:11
    12楼

    @蛋糕FelixCake #5 发布于2026/9/26 上午11:58:26

    @挪威norway-4498 #4 你完全可以自己搭建的


    租用显卡算力也不便宜啊

  • pl6 09-26 12:12
    13楼

    @dtfour09 #11 可以可以 如果你看中lpddr5的话 可以联系我 ^-^

  • cybort 09-26 12:19
    14楼

    qwen3.8有27b量化的越狱版,可以本地跑

* 帖子来源NodeSeek
返回