🔥 GPT-Load 2.0 发布!轻量易用的自托管 AI 网关

tbphp 2026-09-02 08:56 1

GitHub:https://github.com/tbphp/gpt-load

官网:https://www.gpt-load.com


2.0 RC 版本已发布,这次是完整重写,不是 1.x 的小升级重构。


GPT-Load 2.0 的初衷很简单:开发者手里的 AI 资源越来越杂,各种 API Key 还有订阅,再各个客户端里反复配、切换账号太繁琐。
所以 2.0 的使用方式尽量做得简单:



导入资源 → 生成 AccessKey → 直接调用。



之后,GPT-Load 会自动帮你处理凭据轮换、权重调度、失败重试、冷却、黑名单、会话亲和和健康判定。


和 CPA 、New API 、sub2api 的区别?


这些项目做得很好、功能已经很成熟,我一直在使用。

CPA 适合直接把 Codex 、Claude 等订阅账号代理成 API 。

New API 和 sub2-api 更偏用户体系、额度、计费、充值和 API 分发。


GPT-Load 2.0 的设计语言更偏向于简洁、轻量、易用。

主要面向个人和内部团队,专注把手里的各种上游资源收进同一个资源池,再统一调度、容错和观测。


部署也尽量轻量


多种部署方式,部署后免配置就可使用。

一个 Go 二进制自带管理界面,默认使用 SQLite ,不需要 Redis ,也不用单独部署前端、后端和一堆服务。

并且提供了更多平台的适配:Linux 、Mac 、Win 的原生版本,Win 还有服务化安装程序。


推荐使用 Docker 快速部署:


git clone --depth 1 --branch v2 https://github.com/tbphp/gpt-load.git
cd gpt-load

cp .env.example .env
docker compose up -d

# 查看首次部署生成的管理密钥
docker compose exec gpt-load sh -c 'cat /app/data/auth.key'

打开 http://127.0.0.1:3001,使用上面输出的管理密钥登录。


2.0 功能介绍



  • 协议:OpenAI Chat Completions / Responses / Anthropic Messages / Gemini

  • 订阅渠道:Codex 、Claude 、Antigravity 、Grok

  • API 渠道:OpenAI 、Anthropic 、Gemini 、xAI 、Azure OpenAI 、AWS Bedrock 、Vertex AI 、DeepSeek 、Moonshot 、SiliconFlow 、智谱、阿里、火山、OpenRouter 、Groq ,任意兼容的 OpenAI Compatible 以及常用的 New-API 、CPA

  • 调度:多凭据加权轮询、重试、冷却、黑名单、会话亲和、协议自动分级并转换

  • 观测:健康状态、路由诊断、请求日志、用量与成本估算、缓存率

  • 访问密钥分发:AccessKey 支持限流、IP 、周期额度等分发功能,权限控制:可以限定能用哪些分组、协议、模型等。并且还可以通过访问密钥登录访问受限的专用页面。

  • 部署:单个 Go 二进制内嵌管理界面,SQLite / MySQL / PostgreSQL 都支持,凭据用本地 encryption.key 静态加密。除 Docker 外提供五平台原生二进制,Windows 有安装包,装完是个低权限系统服务





[!WARNING]
提醒老用户:2.x 与 1.x 数据不兼容,请独立部署并验证后再切换。




[!IMPORTANT]
遇到问题欢迎提 Issue ,觉得有用也欢迎点个 Star:https://github.com/tbphp/gpt-load。





最后,放一点预览截图:
GPT-Load 首页
GPT-Load 账号卡片
GPT-Load 健康页

最新回复 (12)
  • justwkj07 09-02 09:31
    1
    厉害了,v1 版本就一直部署使用. 支持一下
  • mhqschen 09-02 09:38
    2
    “和 CPA 、New API 、sub2api 的区别”那段,我竟然一点没看明白……
  • liubaicai 09-02 10:02
    3
    @mhqschen 其实就是没啥区别。。用着都差不多,找个顺眼的就行了
  • deqiying 09-02 10:04
    4
    openai 协议支持 websocket 吗?
  • safilar 09-02 10:07
    5
    有没有商业版本。
  • tinyzilan123 09-02 10:12
    6
    @liubaicai 可能就是更轻量吧哈哈哈哈
  • tbphp 楼主 09-02 10:13
    7
    @deqiying 目前 rc 版本还没有,有这个计划,之后会加入。
  • tbphp 楼主 09-02 10:30
    8
    @safilar 目前只有开源版本,暂无商业版。
  • nativeBoy 09-02 10:46
    9
    好东西,公司电脑是云桌面,用不了 docker ,这个正合我意
  • tbphp 楼主 09-02 15:49
    10
    @nativeBoy 是的,有编译好的二进制可以直接使用
  • 0d 09-02 18:00
    11
    好东西,但是似乎不能查看订阅使用量情况, 也许是我没找到查看的地方
  • tbphp 楼主 09-02 18:16
    12
    @0d 可以查看订阅账号明细。分组页面,进入分组详情,就能看到这个分组所有的账号。
    账号卡片默认是没有显示额度,需要手动点击刷新就会更新额度信息。
    参考帖子第二张截图
* 帖子来源V2EX
返回