正在设计一款新的AI聚合网关,诚邀大家来拍砖

Elu 2026-06-17 12:36 1

佬友们,我准备重新造个轮子了。

目前市面上常见的API中转站,主要是NewApi和Sub2API,虽然很好用,但是总感觉用起来哪里怪怪的,因此想要设计一款新的AI聚合网关程序,下面是我初步构思的一些功能和想法,同时也想听听社区佬友们的一些建议。


技术栈采用SpringBoot+Vue AntDesign做前后端分离,在newapi和sub2api的基础上,优化模型计费处理逻辑,让后台变的更简单易用。(我用的是newapi,就是感觉后台太绕了)


加入用户提示词审计功能,防止用户破限导致账号被封禁等问题造成额外损失

加入用户团队功能,可以一个团队内共享一定的额度,具体设计方案还在构思


目前还在进一步设计完善这个新的AI网关,求各位佬友给点建议,任何的反馈都将感激不尽!

最新回复 (9)
  • calendar 06-17 12:37
    1

    可以先看一下 axonhub,是不是已经满足要求了,从头造不一定值当

  • Elu 楼主 06-17 12:39
    2

    这个项目之前倒是没听过,研究一下

  • dd 06-17 12:44
    3

    springboot就已经pass了,网关需要的是高并发,高可用

  • TalexDS 06-17 12:46
    4

    个人拙见



    1. 基于当前开源项目 fork 二次开发是不是更好 现有的开源项目一定是有优势的 新项目也没有人敢轻易用 风控 逻辑什么的 都是问题

    2. 你一定要找出当前你的问题是啥 而不是一句「怪怪的」,重点针对你需要的功能二开优化就好

    3. 这个技术栈 是不是相对来说适配性不太好? 你可以参考下近期最火的项目 用那些技术栈更合适

  • Elu 楼主 06-17 12:47
    5

    Java并发和可用性,不见得比其他语言差吧,在一些特殊环境下,还是有一定优势的

  • jimmypowell 06-17 12:52
    6

    Java太重了,一个spring boot项目跑起来光jvm虚拟机就占了很多内存。


    一般来说,搞网关会用go或者rust这类编译型语言,产物就是一个二进制,占用也低。


    另外,如果你没有特别大的独创性功能的话,基于已有项目来二开是综合来说最好的选择。


    当然,单纯手痒造轮子,那就无所谓了

  • Elu 楼主 06-17 13:00
    7

    基于开源项目二次开发确实是一个很不错的选择,但是我目前想到的功能,基本上要对项目大改,不亚于重新制作一个新的项目


    我目前主要再用newapi,用起来的问题主要是模型定价,在系统管理->计费支付->模型定价 进行一次定价,在渠道模型呢个位置,也可以进行一次定价,不知到是什么原因,两边有时候价格是独立的不是互通,模型广场显示的又是另一种价格(算过倍率也都不对)然后过了一阵子后又对了,这是我感觉怪的点


    技术栈而言,每个人都有自己独特的理解,我选择spring的原因一是生态成熟度,良好的生态环境,对于一些复杂业务处理起来比golang是会好一些的,单对于一个API网关go确实是一个不错的选择,但是在部分业务场景下还是java会有一定的优势,也在考虑Java负责业务中台,go负责api流量网关

  • alpen 06-17 13:00
    8

    java来做的话没有任何优势吧,现在看见java就劝退了,资源占用太高了,建议用go

  • Elu 楼主 06-17 13:05
    9

    各有各的优势,目前企业级生态还是Java为主,新的语言会有更好的优势存在, 新语言的激烈竞争,这倒逼 Java 自身不断进化,但它绝不会被轻易淘汰,在当前场景下可能确实是不适合单独制作使用

* 帖子来源Linux.do
返回