有没有佬友知道mineru的部署条件

xxx 2026-08-18 17:16 1

比如说我想支持5个pdf并发识别,大概要多大的配置?

最新回复 (5)
  • 荔枝王 08-18 17:26
    1

    一张 4090 显卡足够 。直部署24G显存会占 10G 左右的样子。

    并发没问题,部署时你要自己配置。mineru的 api 好像没提供并发设置。

    新路由不知道 ,我用的 fastapi 那一版

  • hallowe 08-18 17:26
    2

    我21年的天选1笔记本部署了一个,识别一个200多页pdf还是有点慢的

  • xxx 楼主 08-18 17:31
    3

    正常情况,我在代码层也不会让它去识别200页的pdf。主要是客户那边需要我报最低配置

  • xxx 楼主 08-18 17:32
    4

    但是我没试过并发的mineru是怎么个情况

  • annacomnena 08-18 18:33
    5

    我用了一个4070ti,并发没问题的。

    它使用vllm 推理一个小尺寸模型,完全没问题的。

* 帖子来源Linux.do
返回