使用cpa管理多个中转站,有没有渠道轮转这个功能?

Nein 2026-07-28 14:39 1

我现在配置了多个AI供应商,AI供应商有设立优先级,但是每个AI供应商提供的模型可能是不一样的:

A提供的是deepseek-v4-pro和glm-5.2,

B提供的是glm-5.2,

C提供的是deepseek-v4-flash和deepseek-v4-pro,

我想要的效果是: 我请求了glm-5.2,按照优先级先去请求A,发现失败了,会自动去请求是下一个优先级的有glm-5.2的供应商。


但是现在在使用发现,请求了A渠道之后,失败就是失败了,不会自动轮转到B。

而且插件市场我也看了,好像没有符合这个需求的,是cpa可以实现这个功能吗?

还是说,只能套一层newapi了 ^-^

最新回复 (19)
  • list 07-28 14:42
    1

    试试Hureru/octopus 论坛一位大佬的开源项目

  • 半岛铁盒 07-28 14:44
    2

    cpa主要是用来反代的,这方面的功能不多

    你可以去用 octopus 这个项目,也是站内佬友的

    不过原项目有段时间没更新了,社区也有二开,可以看看

  • Nein 楼主 07-28 14:45
    3

    好的佬,我去看看。感谢佬!

    一直都是用cpa,感觉用cpa是最不容易被封的了。

  • 半岛铁盒 07-28 14:48
    4

    也可以都部署,octopus占不了太多资源

    如果服务器资源吃紧的话也可以在本地电脑用cc-switch,也有自动故障转移的功能

  • Nein 楼主 07-28 14:58
    5

    这个项目是不是不怎么维护了,好像停了好久了

  • 文月 07-28 14:59
    6

    cpa有轮询和故障转移,但是功能不强,有些错误能转移,有些错误直接阻断了,不好用

  • Nein 楼主 07-28 15:00
    7

    cc-switch也在用,主要我是想统一管理,抛出统一的api,我本地,线上,包括一些Hermes都想全部接进来一起管理,主要是想方便管理,cc-switch就本地可以用。

  • list 07-28 15:00
    8

    这就是楼下那位佬友提到的二开项目,功能都比较完整了吧,所以没有太多维护了

  • 傻强 07-28 15:06
    9

    我是自己vibe了一个自己用,缺啥功能就自己加上,账号,中转站,不行就自动切换

  • 芝士就是力量 07-28 15:08
    10


    还是在维护,上个月

  • prok 07-28 15:09
    11

    应该是需要你配置供应商的时候,把要用的模型在自定义模型里选出来,然后他就会先请求A的glm-5.2,报错就请求B的glm-5.2。

  • Nein 楼主 07-28 15:15
    12

    yeap,要的就是这个功能,很可惜,cpa在第一个渠道失败后,就直接返回了,不会自动尝试第二个渠道,后续请求进来,得等cpa检测到第一个渠道问题很大,才会跳过请求第二个渠道。

  • kkgllor 07-28 15:15
    13

    比较赞同楼上佬友的说法。

    我用 CPA 请求 Codex 的时候,会把所有公益站的 5.6 挑选出来。点一下获取模型列表就行。

    然后 Codex 这边我就只用 5.6。

    这样其中一个公益站站挂了,到下一个公益站,它依旧只会用 5.6,不会停下来的。

    你还可以设置一下 CPA 的自动重试功能。把自动重试的次数减小一点,然后等待的时间也缩短。(同时关闭会话粘性路由,否则 CPA 会一直想办法重试上一个渠道。


    如果想用其他模型的话,那就把其他模型也一起筛选出来。然后 Agent 这边请求其他模型就好了吧??

  • prok 07-28 15:20
    14

    不是啊,我的cpa就是我说的这个效果啊,应该就是你要的效果。

  • Nein 楼主 07-28 15:27
    15

    找到问题了,cpa中,AI供应商如果要做到自动轮转,就要把路由策略改为轮询,如果是填充优先,那就会一直请求,至于请求多少次会才会切换暂时没进行测试,目前我测试连续8次失败,依旧是会用同一个失败的渠道,如果用轮询策略,在失败一次后,就会切换下一个优先级的渠道了。


    我是没有开粘性路由的。

  • 芝士就是力量 07-28 15:33
    16


    找到这个了,我默认是轮询

  • Xandert 07-28 15:34
    17

    最好是再套一层吧。cpa功能是越来越少的

  • Nein 楼主 07-28 15:42
    18

    后续我研究一下,可能还是得套一层比较好用。

    现在cpa出了一个插件功能,但是看起来好像不太完善的样子,要是这个插件功能完善,还是有得玩的,写不同的插件就可以实现不同的方案,按需加入,这种我还是挺喜欢的。

  • shadowx 07-28 15:52
    19

    bestruirui/octopus是不怎么维护了,上次更新两个月前,hureru/octopus是大佬二开专门针对公益站的,可以自动签到自动同步之类的,上次更新一个月前


    octopus的路由比metapi好用太多了,metapi的路由我就是搞不明白怎么切换顺序,不管怎么选,他都会自动弹回去,很奇怪。。。


    如果不用公益站(不用签到功能),只需要路由功能的的话也可以试下axonhub,添加apikey就行,路由功能也很强大

* 帖子来源Linux.do
返回