2. Linux.do
  3. 服务器GPU推荐，主要从事科研方向的模型训练

服务器GPU推荐，主要从事科研方向的模型训练

她的高玩 2026-09-01 19:34 1

佬们，目前课题组算力不足了；导儿给了25W预算购置显卡，组内目前全是NVIDIA的显卡（3090、A6000），平时课题组主要用于深度学习模型训练，并不部署本地大模型推理使用（但不考虑以后会不会考虑部署本地模型，毕竟现在Qwen3.8 27B还是很吸引人的）。

预算卡在这里也挺尴尬的，目前多卡A6000，48G的显存已经不够用了，我倾向于RTXpro6000D，但可能只能买两张；佬们能给一些建议和支持吗？国产卡如果对pytorch支持好、价格划算的也可以接受。

最新回复 (8)
  • sheng 09-01 19:44
    1楼

    蹲一下抄一下配置，万一以后需要呢？

  • wdon 09-01 19:46
    2楼

    现在很多框架对华为卡的支持都还可以

  • 雪球 09-01 19:48
    3楼

    搞科研不建议用华为卡了，现在99%的科研工作都是用的cuda，生产用华为原厂支持适配还可以考虑。

  • Grogu 09-01 19:48
    4楼

    RTX Pro 6000 现在应该还是最具性价比的

  • DeepSleep 09-01 19:52
    5楼

    本地部署就不需要专门考虑了，有闲置拿来玩还是不错，现在flash模型这么便宜还比qwen3.8 27B好；国产卡还是不太建议，生态优先，除非有infra高手

  • nanzhiwei 09-01 20:36
    6楼

    Qwen3.8 27B A6000跑起来挺好的，买卡pro6000很不错，pro6000x2就够跑deepseek v4 flash了

  • fsdsyscxy 09-01 20:37
    7楼

    RTX Pro 6000 这张卡简直是贫民用的神

  • ffifdyop 09-01 20:40
    8楼

    不要买6000D,6000D的算力被锁得很厉害，GEMM根本跑不满功耗，除了fp32其它各精度还不如4090，训练最常用的bf16只有pro6000的不到一半。

* 帖子来源Linux.do
附近帖子
返回
飞读
随机推荐