octopus | 为个人打造的美观优雅的 LLM API 聚合服务 支持 会话保持 熔断 单渠道多KEY多端点 自动分组 自动同步上游模型 热重载 负载均衡 协议互转 用量统计

^-^ 桌面端

首页仪表盘	渠道管理
分组管理	模型管理

^-^ 移动端

首页	渠道	分组	模型	设置

功能

• OpenAI Chat / OpenAI Responses / Anthropic 三种协议互转


• 一套配置适应不同客户端,不需要反复更新BASEURL和MODEL_NAME


• 多渠道负载均衡


• 用量统计

功能亮点

• 
  

  统一的模型名称，cli客户端无需重启即可热重载渠道和模型
  
  

  
  


• 
  

  自动从上游更新模型价格

  
  

开源地址

反馈问题

没想到发布没多久，就收到佬友们如此热烈的支持，收到了很多反馈，感谢佬们的支持 ^-^你们的小^-^^-^就是对我最大的支持

这里总结一下佬们反馈的功能建议，都会做的 ^-^

1. 添加渠道时自动将模型添加到分组 (^-^已完成)


2. 日志记录 (^-^已完成)(增加是否保存历史日志的控制项,但是日志过多,日志页面可能会有卡顿)


3. 设置页面增加系统信息 (^-^已完成)


4. Gemini API的支持 (^-^已完成) 感谢@heerheer


5. 同步渠道商模型 (^-^已完成)


6. 多数据库支持 SQLite、MySQL、PostgreSQL 直接部署到云平台 (^-^已完成)


7. Key权限(过期日期，金额限制) 统计数据 (^-^已完成)


8. Key登录,以及key登录的单独页面显示(^-^已完成)
   
   


9. 单渠道多Key,多端点(^-^已完成)


10. 重构分组管理
    
    

关于日志功能的一个投票,我个人从没有看过newapi的历史请求日志,我更倾向于仅实时日志,代码简单,数据库压力小