[分享创造] 自建 New API 内测:把 Qwen3 / Kimi K2.6 / gpt-oss 等开源模型聚合成一个 OpenAI 兼容网关

wuweivip 2026-09-20 14:44 1

自己搭了个小站,把一批开源大模型自托管后聚合成一个统一网关,对外提供 OpenAI 兼容接口。内测招募中,来聊聊设计和踩坑。


核心思路



  • 一个 Key 调十几个开源模型,换模型只改 model 字段,不用每个模型单独申请。

  • 推理跑在本地 GPU ,不经第三方中转,隐私可控(大中转站做不到)。

  • 有些社区微调 / 量化模型( ornith 、huihui 、gg20b 系列)硅基流动、OpenRouter 上没有。


内测福利



  • 注册送 $1 (≈¥7.3 )体验额度

  • 全场 8 折( VIP 价)

  • 限量 50 席


怎么接



  • 站点直接聊: https://newapi.1001058.xyz

  • API:POST https://newapi.1001058.xyz/v1/chat/completionsAuthorization: Bearer <令牌>model 填模型名

  • 文档: https://docs.newapi.pro


坦白讲
模型跑在自建显卡上,显存有限,高峰期会排队 / 降速,这正是内测要压测的部分。聚合的是开源模型,能力对标开源阵营,不是闭源旗舰。内测不作 SLA 承诺,别传敏感数据。


欢迎来喷设计、提模型需求,或报告延迟 / 并发场景。反馈邮箱: [email protected]

最新回复 (4)
  • woodchen 09-20 15:03
    1
    发推广

    @livid
  • woodchen 09-20 15:07
    2
    甚至帖子还是 AI 写的, 模型也大概率是转卖.
  • GGGoing 09-20 15:08
    3
    id: 13 已注册,谢谢老板
  • wuweivip 楼主 09-20 18:52
    4
    @GGGoing 福利已发
* 帖子来源V2EX
返回