2. Linux.do
  3. 只需要 80 张 5090 即可本地运行 Kimi k3

只需要 80 张 5090 即可本地运行 Kimi k3

GPLer 2026-07-29 09:50 1



10 台 8 卡 5090，速度能到 20 token/s，还有很大的优化空间

最新回复 (13)
  • Lxn 07-29 09:52
    1楼

    佬这个只需要整的挺灵性，我说白了

  • Elon1 07-29 09:55
    2楼

    没有nvlink怎么完整用这么多5090

  • point 07-29 09:56
    3楼

    只要有钞能力，每个人都能部署k3

  • 哆啦A梦 07-29 10:00
    4楼

    直接租一台B300，除了部署k3还能部署一些其他的

  • GPLer 楼主 07-29 10:01
    5楼

    没透露细节，简单的跨机互联 vllm+ray 就行，不过卡的数量不是 2 的 n 次不确定是否支持，我猜是自己写的程序，非专业人士看看就好，多机互联感觉不适合家用场景…

  • luyu 07-29 10:03
    6楼

    20 tok/s 岂不是刚好满足一个人的需求。可以专供老板啦

  • GPLer 楼主 07-29 10:03
    7楼

    最便宜的正经商业方案好像是 AMD 的八卡 MI355X


    https://www.amd.com/en/developer/resources/technical-articles/2026/kimi-k3-on-amd-instinct-gpus.html

  • MarkLo 07-29 10:04
    8楼

    这种方式搞到来不如去买token~~

  • renjianbucai 07-29 10:08
    9楼

    那就是区区500万就能拥有本地Kimi了

  • 红牛兑娃哈哈 07-29 10:11
    10楼

    可以跑通的推荐配置NVIDIA B300x8，成本大概3000万。。。。我的妈耶

  • random123 07-29 10:16
    11楼

    显卡数量肯定不是问题，想当初挖矿的时候，别说显卡了，水电站都给你包了。就是看不到盈利模式，中转站一个比一个便宜，更别说还有那么多公益的

  • ww_37 07-29 10:24
    12楼

    真的好便宜，再也不用买订阅了，妥妥被宰

  • tchcj 07-29 10:25
    13楼

    我很好奇啊，如果公司自己花这么多钱部署了，那么这一个机器，能够多少个人用啊，每小时电费多少啊？

* 帖子来源Linux.do
附近帖子
返回
飞读
随机推荐