2. V2EX
  3. 老哥们，预算 3w 左右想弄一套小型化本地大模型硬件，求推荐

老哥们，预算 3w 左右想弄一套小型化本地大模型硬件，求推荐

turing518 2026-08-18 14:27 1

如题，预算 3w 左右，想弄一套小型化本地大模型硬件来跑本地大模型，处理一些不能传到外网的文档的 RAG ，保证 tps 的情况下，能省电更好，目前看了华硕的 GX10 ，求问是否还有其他的推荐？

最新回复 (2)
  • niubee1 08-18 20:13
    1楼
    微星的一样的配置更便宜一点。或者你可以 AMD 7900XTX 组台机器，能耗高点，但是整体硬件更便宜
  • turing518 楼主 08-19 09:26
    2楼
    @niubee1 AMD 7900XTX 我看显存只有 24GB ，那不是得五张？现有的主板很难有插 5 张显卡的吧
* 帖子来源V2EX
附近帖子
返回
飞读
随机推荐