2. NodeSeek
  3. 部署本地模型显卡特斯拉v100 32g怎么样

部署本地模型显卡特斯拉v100 32g怎么样

绝望爱恋 2026-06-27 02:15 1

32G大显存部署本地模型太爽了

最新回复 (4)
  • Tenkafubu 06-27 02:15
    1楼

    qwen系列可以一试

  • 主打唱跳Rap 06-27 02:59
    2楼

    说一下，v100半精度很弱，推理速度不会有太大提升...

  • flip27701 06-27 03:05
    3楼

    我记得便宜是 16g * 2 双卡的，单卡32g 贵，然后架构太老 + CUDA算力 7.0 局限性目前大多数模型优化库

  • photolife 06-27 04:25
    4楼

    太老了……3080 20至少

* 帖子来源NodeSeek
附近帖子
返回
飞读
随机推荐