My AI Gateway （ MAG ）

适合个人的 AI 聚合网关，开发该项目重点是将多个渠道“模型聚合”、“故障转移”与“熔断”，一个入口模型可以指定多个模型，支持配置熔断范围（模型/apiKey 级别）,熔断冷却后自动可用，一个渠道可以支持多个 apiKey 。

熔断类型：

• 模型：当模型不可用时，只熔断该 apikey 的该模型；


• apiKey 级别: 当模型不可用时，熔断整个 apiKey ；

效果：

需要的话可以部署看看

部署：

git clone [email protected]:My-Search/my-ai-gateway.git

cd my-ai-gateway

cp .env.compose.example .env.compose

bash update.sh

# 卸载：docker-compose down && cd ../ && rm -rf ./my-ai-gateway

访问面板： http://<你的 ip>:3990

使用： http://<你的 ip>:3990/v1

开源地址： https://github.com/My-Search/my-ai-gateway

项目用 AI 开发的，可能有一点问题，可以提交 PR 完善。