求推荐embedding模型资源

hiraly 2026-06-08 11:08 1

求助,有没有订阅式的embedding模型,或者便宜的按量付费的


如题,我们公司部门内搭建RAG,需要用到embedding 和reranker ,但是我看了阿里和字节,都是按量付费的,我也不知道目前按量付费扛得住不。目前是20人左右使用。我之前用用自己的免费的额度,但是禁不住几次就没了。像广大的大佬们,求助 有么有订阅式的或者便宜的靠谱的向量模型推荐,麻烦各位不吝赐教。

最新回复 (14)
  • XYZliang 06-08 11:10
    2

    embedding



    嵌入模型又不怎么吃资源,公司随便找个卡部署得了

  • 井芹仁菜 06-08 11:11
    3

    可以自己部署一个开源的,向量模型尺寸不大

  • Polaris_Sun 06-08 11:11
    4

    考虑本地自部署吗?我之前也有类似的需求,但是我后面发现其实目前可以调api方式的embedding就非常少,提供的api调用的平台许多部署的embedding模型也都非常老了,感觉还是自部署好一些,目前embedding模型参数量都不是很大,消费卡部署一下感觉是最优解

  • Grogu 06-08 11:12
    5

    embedding 和 reranker 都是按量付费的,自己跑两个就好了,有 GPU 最好,没有 GPU,用 CPU 跑也能跑起来,就是慢点

  • hiraly 楼主 06-08 11:13
    6

    没有试过自部署,还有就是如果自部署的话,需要什么资源呢。向量模型模型我想要的是带version功能,自部署行吗?

  • kaileysong 06-08 11:13
    7

    自己部署的话,

    穷则bge m3 embedding reranker。

    富则qwen3 embedding reranker

  • cumquat 06-08 11:14
    8

    站内有个公益站好像,而且确实embedding 模型应该不咋吃资源,自己部署一个应该最省

  • chef 06-08 11:17
    9

    这个最好自建,因为不同版本的向量模型生成的数据空间维度大小是不一致的会导致后续查询数据处理啥的有问题!要保证前后生成的向量数据一致性最好固定用一个模型版本自己部署即可。

  • 粥粥 06-08 11:18
    10


    站内佬专门的嵌入重排模型的公益站,可以看看

  • 皮蛋王 06-08 11:19
    11

    硅基的超便宜吧,现在充钱还送10%充值额度

  • Zmmfly 06-08 11:20
    12

    硅基流动,我现在就在用qwen3系列的embedding和reranker,个人按量非常便宜,vl的不知道有没有上。

    另外,embedding不能随便换,每个模型的向量空间不一样,换了就会出现召回问题,reranker可以换

  • scar 06-08 11:38
    13

    硅基流动,之前有使用过,还可以,速度不错

  • ssssshql 06-08 11:50
    14

    localai可以看一看,我这边纯cpu跑的,不过只跑了一个 qwen3-embedding-0.6b ,速度比较慢,rerank模型跑不起来不知道为啥,可能是服务器太拉了


  • hiraly 楼主 06-08 16:07
    15

    硅基的感觉网速太慢了~~~,每次请求都很慢

* 帖子来源Linux.do
返回