2. Linux.do
  3. jev这玩意是不是适合cpa/sub2api 中集合

jev这玩意是不是适合cpa/sub2api 中集合

starlight312 2026-09-18 20:46 1

目前参考了很多类似于 CPA、SubAPI 这种开源项目以及 CCSwitch，自己做了一些类似于协议转换、负载均衡的代理器，把我们域内各种各样的模型全部集合在一起了，做了一些按优先级选择模型、错误熔断之类的功能。


我今天刷到 JEV 这个玩意儿感觉挺有意思的，是不是可以说把它集成进去？因为我现在不管是用 pi/claude/codex也好，还是各种客户端也好，调用的模型基本都是走统一入口，然后在我自己的代理里面通过拖拽去选择优先级。


想问一下：



  1. 有没有使用过 JEV 这个模型的大佬？

  2. 或者有没有已经做出这种功能的开源项目推荐？

最新回复 (13)
  • KingIsKing 09-18 20:48
    1楼

    在做这方面的探索，只能说具体要看jev模型的size，太小可能智商不足，太大都要走线上托管就很麻烦

  • yu1745 09-18 20:48
    2楼

    它最适合的其实是实时审查。你开中转站肯定不希望用户拿着你的API去搞一些逆向、NSFW之类的玩意，这种会把账号搞废掉的东西用JEV的超便宜输入+快速返回特性去做初筛是最好的，然后再接入一些开源AI做二次筛查。

  • starlight312 楼主 09-18 20:50
    3楼

    是的，这个也有一个问题：毕竟它不是开源的模型，什么东西都要走线上托管，相当于是把自己的一些数据往那边重新发一遍，然后让它来判断

  • starlight312 楼主 09-18 20:51
    4楼

    对的，因为我这里其实类似于一个小的中转站，相当于是我们组内放了几个账号在里面。


    我其实想的是，不能让所有人都无止境地去用 GPT 6。我们可以把一些请求路由到像 Opus 4.8、Opus 5 这种稍微便宜一点的域内模型。


    这里主要有两个考虑：



    1. 额度的限制

    2. 实际需求：其实有些任务根本就不需要用到这种旗舰模型

  • yu1745 09-18 20:52
    5楼

    如果你是想做路由本身的话，我感觉这玩意的智力未必能支持它判断任务复杂程度 ^-^

  • starlight312 楼主 09-18 20:54
    6楼

    好吧，其实 harness本身其实也支持，比如说使用子代指定子代理是一些什么什么模型之类的。


    其实更多的时候，我想的是一些主模型，比如说让它起个服务、简单地查点东西，其实没必要用这种旗舰模型。我是这样想的，那这一块还是暂时观望吧，看一看有没有什么大佬到时候能搓出一些好好玩的东西。

  • lanvent 09-18 20:55
    7楼

    至少对于安全审查来说，应该会挺快的

  • SuperKevin 09-18 20:56
    8楼

    我觉得主要是由于 Jev 的架构很特别，所以没法很方便地和其他模型比较智能，所以不知道效果咋样

  • yu1745 09-18 20:56
    9楼

    我正在使用Jev做一个反代的预审查程序，到时候看看效果吧

  • KeenCougar99 09-18 22:03
    10楼

    坐等一下，感觉可以有

  • KingIsKing 09-19 08:54
    11楼

    从harness入手是比较合适的，小模型做判断最大的问题就是拎不清自己的能力边界，如果用大模型做判断还不如直接让大模型把活干了

  • NukaColaM 09-19 08:56
    12楼

    虽然但是，我一开始还以为是JAV打错字母，我还想这玩意还能接CPA的吗。 ^-^

  • benzoo 09-19 08:58
    13楼

    droid factory说自己有类似的模型智能选择，不知道是不是佬想的那种，当然 也不知道droid是否会把自己的商业卖点公开^-^

* 帖子来源Linux.do
附近帖子
返回
飞读
随机推荐