Kimi K3 开源似乎没什么大站部署了提供免费服务

智子 2026-07-29 15:53 1

以前新的开源模型升级 Nebius,cerebras,NVIDIA,Deepinfra,魔搭会部署并提供一定量免费额度。这次 Kimi K3 似乎找不到免费可用的平台。是因为推理成本太高吗?K3 虽然总参数很高,但极度稀疏,激活专家只有16个,按说推理成本不会太夸张。

最新回复 (13)
  • YeahSama 07-29 15:54
    1

    开源协议问题吗?不是说盈利超过多少要签商业协议?还是怎么的。

  • calendar 07-29 15:55
    2

    部署的性价比不是很高……价格这么高,也不太会有人用

  • LLMeme 07-29 15:56
    3

    MoE的情况下也有104B的激活,成本降不下去吧

  • 爱琴炫彩 07-29 15:56
    4

    完整部署不是要1700w-1900w人民币的设备吗。。。

  • xiaoling 07-29 15:57
    5

    上哪去搞那么多H200,我记得得64张这是光部署,算上推理得多少啊

  • deepcake 07-29 15:57
    6

    要签商业协议,还得跟Kimi分成吧,成本就上去了,

    Cerebras、Modelscope一直都没上过Kimi模型吧。

  • fengchris 07-29 15:59
    7

    这么大参数部署的成本都不低 而且协议也变了

  • frangled 07-29 16:03
    8

    Nvidia就算上,也没那么快,因为需要训练成nvfp4

  • sxjeru 07-29 16:12
    9

    Modal 已经上线了,每月应该有30刀免费额度可用。

  • 朴实无华 07-29 16:31
    10

    和激活无关,总参数太大了,即便节约计算资源,显存也是金子现在

  • 朴实无华 07-29 16:35
    11

    没必要啊,本来原生MXFP4,改为NVFP4 很多麻烦,NV 也能跑MX。而且显存还会变大,不可能做NVFP4适配得,没这必要

  • windgo 07-29 16:38
    12

    科大用四台昇腾部署了,用起来贼慢

  • EllieXM 07-29 16:38
    13

    总感觉性价比没那么高,毕竟成本在那里

* 帖子来源Linux.do
返回