2. V2EX
  3. 现在大模型主流都用哪些 nVidia GPU？

现在大模型主流都用哪些 nVidia GPU？

mingtdlb 2026-06-09 09:24 1

不限于参数大小

最新回复 (18)
  • zzutmebwd 06-09 09:30
    1楼
    没有 nvlink 的最强是 pro6000 ，下面是 5090/4090 48g/4090/4080 32g 。有 nvlink 的不了解。
  • zzutmebwd 06-09 09:31
    2楼
    你如果说千亿参数在线 api 的话，h100 h200 b200 等的群集。
  • clemente 06-09 09:34
    3楼
    b200
  • zzutmebwd 06-09 09:37
    4楼
    @zzutmebwd 对了，有个 pro6000d 84g ，合规阉割版，算力是不如 5090 的，但差不太多，如果四万多点能买到的话还是不错的，大显存省事儿很多。
  • robyn87leonard 06-09 09:37
    5楼
    l20
  • raycool 06-09 09:52
    6楼
    H200 B200 这些吧。
    不过我还在用 4090
  • v2exgo 06-09 10:27
    7楼
    b300
  • mingtdlb 楼主 06-09 10:51
    8楼
    @zzutmebwd #4 4090 48g/4080 32g 都是魔改版？我看官方没有这个版本
  • JmHappy 06-09 10:53
    9楼
    B300 集群，有 FP4 模块的都行
  • zzutmebwd 06-09 10:59
    10楼
    @mingtdlb 是的 消费级+大显存基本都是魔改的，所以还是建议 pro6000d
  • oldAndy 06-09 10:59
    11楼
    H100 H200 B200
  • xiaomushen 06-09 11:01
    12楼
    pro6000 真的爽，本地做一些 bert 训练完全够用
  • zzutmebwd 06-09 11:05
    13楼
    @xiaomushen 10 万了哥，现在买不划算了
  • xiaomushen 06-09 11:26
    14楼
    @zzutmebwd 我 7 万多买的
  • zzutmebwd 06-09 12:35
    15楼
    8000 刀才是合理价，我 6 万买的都嫌贵。
    @xiaomushen
  • liuxyon 06-09 13:40
    16楼
    哪里有合理价格卖
  • coefu 06-09 14:54
    17楼
    要是能买到，amd 的 mi 系列，可能会更好点。
  • xiaomushen 06-09 16:24
    18楼
    @zzutmebwd 没办法呀，国内对公，只能吃这个价。现在都快 10 万了
* 帖子来源V2EX
附近帖子
返回
飞读
随机推荐