2. NodeSeek
  3. 想买一个能部署翻译模型的机器

想买一个能部署翻译模型的机器

achord 2026-08-03 13:57 1

我的硬件估算：

CPU、8GB内存、4核：能跑1.8B量化版，适合测试和单用户低并发。

CPU、16GB内存、8核以上：可做小规模公开服务，但速度取决于CPU型号。

8GB显存：运行1.8B模型较合适。


有没有佬推荐的

最新回复 (4)
  • lotfree 08-03 14:07
    1楼

    建议直接用modal这种算力托管平替, 租个A10或者L4, 每个月还有赠金

    https://modal.com/

    服务休眠不计费, 但是冷启动会慢一点

  • achord 楼主 08-03 14:18
    2楼

    @lotfree #1 感谢佬

  • 依韵 08-03 14:23
    3楼

    我8G显存本地部署的是kaelri/hy-mt2:7b,还不错

  • Aigis 08-03 14:26
    4楼

    翻译模型为什么不直接用ds-flash呢，又便宜又快，这段时间硬件溢价又严重，非必要不应该首选本地部署，尤其是翻译这种没啥难度的工作

* 帖子来源NodeSeek
附近帖子
返回
飞读
随机推荐