2. NodeSeek
  3. 企业最近在推进一个ai网关，佬们有没有推荐开箱即用的产品

企业最近在推进一个ai网关，佬们有没有推荐开箱即用的产品

cnnqjban521 2026-09-02 21:09 1

主要能做下面几件事

① 统一接入与协议适配

② 身份认证与访问控制

③ 流量治理（限流 / 熔断 / 降级）

④ 成本计量与优化

⑤ 内容安全与防护

⑥ 数据安全与隐私

⑦ 审计与可观测

⑧ 策略引擎与护栏


因为公司接入很多供应商的模型，但是模型的使用量，敏感性问题访问（和自己企业高度相关的）管控不了，想通过分配给各个应用的key进行管控。

最新回复 (13)
  • rapmq0 09-02 21:10
    1楼

    sub2api不行吗？

  • verse4 09-02 21:12
    2楼

    自己开发

  • cooreenb 09-02 21:12
    3楼

    二开newapi

  • Aigot 09-02 21:12
    4楼

    你这个得自己改吧，agent也统一？

  • Skenqs 09-02 21:13
    5楼

    new-api/sub2api

    这两个如果不行,可以看一个比较小众的：https://github.com/astaxie/TokenHub

    另外new-api现在插件系统已经experimental了

    企业级token分发看着简单，个人觉得实际上非常复杂，如果自己做的话

  • cnnqjban521 楼主 09-02 21:18
    6楼

    @Skenqs #5

    对，不是做着玩玩，是给大企业用的

  • Skenqs 09-02 21:25
    7楼

    @cnnqjban521 #6 要自己写吗 ^-^ ，想想就是无底洞，考虑看看能不能套liteLLM什么的吧

  • cnnqjban521 楼主 09-02 21:27
    8楼

    @Skenqs #7

    对，最好是非侵入式。

  • cnnqjban521 楼主 09-02 21:28
    9楼

    @Skenqs #7

    我看了一下newapi是可以用，关键能承载多大体量的请求

  • 1x 09-02 21:30
    10楼

    Tailscale Aperture / Cloudflare AI Gateway

  • Skenqs 09-02 21:32
    11楼

    @cnnqjban521 #9 newapi不用担心，中转站都在用，属于商业认证过了。 ^-^

  • moonay 09-03 03:00
    12楼

    接入的模型是直接官方的api吗？要开箱即用不太可能，还是需要量身定做

  • PassionAries 09-03 03:37
    13楼

    bd

* 帖子来源NodeSeek
附近帖子
返回
飞读
随机推荐