2. Linux.do
  3. MiniMax H3部署问题

MiniMax H3部署问题

christina 2026-08-06 10:35 1

佬们请教一下，Docker部署MiniMax H3时报错：“单张 RTX 4090 的 24GB 显存装不下模型初始化时的瞬时峰值”，佬们知道是什么问题吗？用的是4张4090的卡部署的。

最新回复 (13)
  • 空影 08-06 10:38
    1楼

    虽然不知道咋解决，但是可以围观学习一下

  • kooo13579 08-06 10:39
    2楼

    不清楚，用comfyui 5070ti 部署的人路過

  • AmeowCAT 08-06 10:40
    3楼

    提供的信息太少了点 是哪个docker啊

  • christina 楼主 08-06 10:42
    4楼

    我用的是vLLM-Omni 0.26.0部署的

  • Asamul 08-06 10:43
    5楼

    可能是没提供那个优化吧，目前好像只有comfy那边提供了这种优化 ，低显存也能跑

  • Ruby 08-06 10:44
    6楼

    用comfyui吧，有动态显存，每次把要计算的层送进显存，vllm这种容易塞不下 ^-^

  • kooo13579 08-06 10:44
    7楼

    沒記錯低級顯卡3060也能玩 就是慢一些

  • Ruby 08-06 10:45
    8楼

    4060 8g也能跑通，我看很多16+8都跑通了，但是得虚拟内存拉满

  • kooo13579 08-06 10:46
    9楼

    3系或以上都能玩吧


    只是速度的問題

  • dcatfly 08-06 10:49
    10楼

    让你的 agent 连上环境看看比拿着报错信息问网友靠谱 ^-^

  • christina 楼主 08-06 10:53
    11楼

    就是因为agent解决不了才来问的，神通广大的佬友们比codex好用 ^-^

  • christina 楼主 08-06 10:54
    12楼

    comfyui主要是并发延迟应该比不了

  • 念力飞行 08-06 14:00
    13楼

    不知道m1max的macbook pro，32g的内存，有可能跑动这个么，回去我得研究下

* 帖子来源Linux.do
附近帖子
返回
飞读
随机推荐