2. Linux.do
  3. 求推荐强化学习深度学习推理用的显卡

求推荐强化学习深度学习推理用的显卡

bigbean233 2026-05-11 17:25 1

学生，有点闲钱，预算3000，需求如下：



  • 搞点本地部署做边缘推理实验，例如vln,vla,端到端，全身跟踪，三维重建，issacgym sim2real之类的场景，主要是推理，我可以去租90系做训练

  • 硬件平台准备了双PCIE的微星B760,12100,16g内存和850w电源

  • 目前问grok下来3080是比较不错的选择，但感觉内存是不是少了点，60系大内存又感觉核心规模和1080没啥区别。

  • 对二手产品，噪声水平没意见（我的主力机和副机大半都是二手凑起来的 ^-^）


求问各位佬友有无相关经验，恳请能指导一下。 ^-^ ^-^ ^-^



  • 小背景：大一买的1080用了三年，跑过视觉模型训练也跑过1BLLM模型推理，年初飞升显卡星球，只能拿亮机卡顶着用，副机12500h modt平台拿32EU核显跑这些任务跑到内存爆满也不够用。最近看了点项目，论文啥的，感觉传统导航，传统规划，传统建图快被模型based的蹬烂了，只得硬着头皮去学这方面的东西 ^-^

最新回复 (16)
  • XYZliang 05-11 17:26
    1楼

    3k 能干啥，3080 魔改显存版吧

    洋垃圾超级魔改卡不建议

    3080 跟 1080 对比是什么鬼，只看核心规模，不看算力架构的？

  • apparition 05-11 17:26
    2楼

    2080 ti, 3090, v100

    传统深度学习显存消耗也没大到哪去吧

  • Tord 05-11 17:29
    3楼

    22G的2080TI吧，剩下的钱留着洗脚

  • tiantiantian123 06-12 11:20
    4楼

    RL没那么吃显存，因为要和场景不停交互，CPU反而要好点

  • bigbean233 楼主 06-15 12:30
    5楼

    理解佬友的说法，像关节运动，策略决策这些确实没有太多显存消耗，但是有些完整的管线会有挺多如图像处理到地图规划这类环节会用到卷积运算的，应该和深度学习一样要消耗大量内存吧

  • 菜鸡rrr 06-15 12:49
    6楼

    RTX Pro 5000 72GB的很舒服，价格也比A100 80G便宜多了，拿来推理不错

  • yosh20004 06-15 13:15
    7楼

    推理比较吃显存带宽，找一个带宽高的卡比较好，例如h20这样的，当然和你的预算不符就是了

  • tiantiantian123 06-15 13:38
    8楼

    是的，如果图像做输入那就很吃显存了，涉及到CV的都相对吃显存一些，可以买个显存大点的，看预算了，图像确实大建议16G显存朝上的吧

  • bigbean233 楼主 06-16 16:25
    9楼

    我想了想，最终还是要对齐边缘设备的计算能力和精度的，主流的边缘计算平台普遍在16g左右（英伟达orin nx super， RK系列这些），反正只是推理，也许3060 12g就够了

  • richard9527 06-16 16:26
    10楼

    租一个吧，这点钱租一个最划算，5090一个小时就几块钱

  • y1552401897 06-16 16:28
    11楼

    支持的话直接上A100妥妥的够用了 ^-^

  • bigbean233 楼主 06-16 16:29
    12楼

    训练肯定是租了，边缘平台搞推理，这么大传感器数据量走云端不太好吧 ^-^

  • tiantiantian123 06-16 16:38
    13楼

    可以的，我之前自己配也是3060还是3060ti来着，显存是30系列里性价比很高的了，大不了就是batch设小点就行

  • F1rstb100d 07-23 00:46
    14楼

    模型LoRa微调8b、13b的话有哪个比较推荐，比较吃显存、带宽、CPU还是内存？


    目前看的2w多的L20改涡轮卡 / 4090 48G

    5w左右的Pro 5000 / Pro 6000D

    推荐选择哪个

  • 简单人机 07-23 01:09
    15楼

    3k拿去租算力 这个价位买不了什么卡


    不好意思 没看到是纯推理 楼上佬友说的可以 但是不要买拼好卡

  • xy3 07-23 01:11
    16楼

    2080ti22g或者3080 20g

* 帖子来源Linux.do
附近帖子
返回
飞读
随机推荐