2. Linux.do
  3. 在消费级别的电脑上运行glm5.2

在消费级别的电脑上运行glm5.2

Lucifer Morningstar 2026-07-11 00:18 1

因为不是我的仓库所以应该不算打广告，下面是这个的项目地址，有佬有看法的吗？

最新回复 (9)
  • superman8 07-11 00:19
    1楼

    看起来有点意思啊 明天研究一下。

  • look 07-11 00:23
    2楼



    那我电脑应该没问题

  • tr1n1ty 07-11 00:25
    3楼


    速度过于感人 ^-^

  • ABoyCatD 07-11 00:28
    4楼

    先不谈论用这个推理引擎跑出来的智商，光是速度就难以接受吧



    128g的mac才勉强跑出1tokens每秒

  • Enze 07-11 00:30
    5楼

    让我想起一个旧闻



    傲腾生不逢时啊

    额，奸商必涨价……
  • dingjun 07-11 00:31
    6楼

    感觉不容乐观，要是真能跑出来，那就无敌了

  • zerohh 07-11 00:36
    7楼

    看这速度超级慢，日常基本不可用，不知道用小模型会怎么样。 ^-^

  • window 07-11 00:37
    8楼

    跑出来有什么用，50t/s都经常感觉慢如龟爬，何况glm这种思考链又臭又长的模型。。

  • lmoonl 07-12 03:11
    9楼

    这是int4量化

    int4量化的模型可以当成傻子

* 帖子来源Linux.do
附近帖子
返回
飞读
随机推荐