本帖使用社区开源推广，符合推广要求。我申明并遵循社区要求的以下内容：

• 我的帖子已经打上 开源推广 标签： 是


• 我的开源项目完整开源，无未开源部分： 是


• 我的开源项目已链接认可 LINUX DO 社区： 是


• 我帖子内的项目介绍，AI生成、润色内容部分已截图发出： 是


• 以上选择我承诺是永久有效的，接受社区和佬友监督： 是

以下为项目介绍正文内容，AI生成、润色内容已使用截图方式发出

Const API Local

开源地址:

Const API Local

声明这是CONST API平台的本地版本形式, 它能解决下面一些问题:

• 渠道聚合成统一入口: 是, 统一为local地址


• 订阅转API: 是, 更便捷


• 工具配置和模型注入: 是, 一键配置支持工具更多


• 模型名归一化: 是


• 跨协议转换: 是, 同协议透传, 跨协议转换


• 流式/双工协议支持: 是, 支持实时语音,甚至将来的视频


• 高缓存率: 是, 无论是否跨协议


• 请求重试: 是, 请求失败自动重试另外的可用渠道


• 粘性路由: 是


• 共享给团队使用: 是, 支持对成员用量管理


• 多语言: 是, 支持中英文


• 模型市场平台: 不, 这需要模型价格管理/路由机制, 不是Local版范畴


• 账户平台: 不, 这需要注册/计费/充值/提现, 不是Local版范畴

开发的初衷是模型共享

当有多个渠道和多个工具共用时, 组合搭建并给周围人使用, 还是有点费劲的, 本工具能简易代替一系列软件组合的轻量实现:

对于cc-switch, 本工具能支持更多agent工具, 因为支持多种模型提供方式, 包括复杂的注入模型列表, 还有codex session迁移等必备的功能

对于newapi/sub2api/CLIProxyAPI, 本工具就是一个客户端软件, 不需要容器部署, 上架渠道简单而自动化, 模型名也不需要配置, 自动拉取, 模型名自动归一化, 并支持Openai Chat/Responses, Anthropic, Google gemini完整四套协议, 输出三套完备的Url体系

本工具的开源价值

采用Tauri开发, 绝大部分rust代码为主, 执行效率高, 打包后包体很小, 我认为最大的价值是一个参考, 特别是rust的参考, 比如:

• 跨协议处理, IR层抽象, 如何解决透传和转换


• 三家API的公开抽象


• 订阅端的特殊处理, 订阅端基本和标准协议类似, 但总有特殊实现


• 工具启动和配置的统一流程


• 高度抽象且实用的渠道配置页面


• 甚至一些二次处理的工具logo等

这里要声明, 你需要Clone到本地, run dev测试, run build进行打包,

git clone https://github.com/llxisdsh/const-api-public.git

cd const-api-public/client

npm ci

npm run dev

打包实在有点贵, 如有需要, 回复我, 我来评估

技术附图

附图1: 是AI生成, 意思是缓存率要复用合适的id, 尽力沿用同样的渠道, 确保模型名最终能透传

附图2: 表明协议转换处理, 同协议透传, 夸协议通过中间层转换, 可用性优先

界面附图

使用: 可一键启动/配置/取消/定位工具



模型: 自己上架的渠道



新建渠道:

再次贴上开源地址

Const API Local

如有需求, 欢迎在这里交流

如有问题, 请在这里反馈

如有合作, 也可私聊于我

感谢各位巨佬!