大佬们推荐一款多中转聚合统一出口的软件

DoBest 2026-08-29 05:52 1

目前使用了多个中转,还在不停地寻找新的好用中转。有没有一款软件可以将多个中转聚合,统一走一个出口,这样就会方便多了,不需要sub2和newapi这种带商业性质的,纯个人使用,最好有路由组功能,能将同种模型加入路由组实行自动轮替。

最新回复 (4)
  • ding 08-29 05:55
    1

    cpa就行。方便

    个人使用足够了

  • dagewang 08-29 05:57
    3

    CPA 不同供应商可以通过alias成同名模型进行轮询

  • 叶桐枫 08-29 06:03
    4

    可以看下axonhub,可以自动切换渠道



    项目地址: GitHub - looplj/axonhub: ^-^ Open-source AI Gateway — Use any SDK to call 100+ LLMs. Built-in failover, load balancing, cost control & end-to-end tracing. · GitHub
    欢迎大家试用反馈,觉得有用的话,欢迎点个 …
  • Buktal 08-29 06:25
    5

    轮询的话,会降低缓存命中率吗?


    我用的newapi,配置不同厂商会导致glm的缓存命中率只有80左右


    然后只配置一个号就提升到了98左右

* 帖子来源Linux.do
返回