2. Linux.do
  3. 如果jev主导降智路由，未来会怎么样？

如果jev主导降智路由，未来会怎么样？

dvdbv 2026-09-18 08:38 1

最近一个名叫jev的模型横空出世，引起不小的讨论，但是看l站的讨论似乎不多，所以用一个大家最关注的降智路由问题作为话题，看看能不能引起佬友们的兴趣。


首先，jev并非传统的llm，它更像一个判断器，抛弃了自然语言的能力，换取了更低的幻觉率。并且它的响应速度基本维持在一秒以下。


所以，如果把它接入ai网关，判断用户的请求是否合理，会发生什么？


AI-Safety-Gateway.zip (14.5 KB)


简单做了个小的演示项目，jev完全可以在不让用户察觉的延迟内，无感判断是否路由弱模型。


好了，以上是从路由方面的切入点，不过既然是讨论，我的目的当然是jev在其他方面的用途。


举个例吧，在战争策略游戏中，我觉得这种模型判断器效果很好，佬们还有别的想法吗？


结尾留个指路，当前jev除了去官方填表申请，vervel绑卡送的五刀也可以调用。


发现个风味jev：如果jev主导降智路由，未来会怎么样？ - #10，来自 dvdbv

最新回复 (12)
  • zh522130 09-18 08:40
    1楼

    我看到说速度、延迟非常好，我想用来做自动化测试，申请了还没通过

  • dvdbv 楼主 09-18 08:44
    2楼

    结尾说了，Vercel绑卡送的五刀也能用，不过官方似乎好像也不卡人，通过了也会送五刀

  • royzhu 09-18 09:47
    3楼

    好奇，输入达到200k这样的量级，速度还能保证吗？感觉还是一即是多吧，所有的决策都塞给模型吧，拒绝对答的choice也交给模型做判断。

  • tikitoki 09-18 09:50
    4楼

    前几天看到过消息，好像只知道个名字和大致的想法，架构和论文什么的都没有佬是在哪看到的相关内容

  • 我秦始皇？ 09-18 09:52
    5楼

    这种system one类型的模型确实适合模型路由，但是要用于风控的话还是需要针对性的训练，我感觉gpt 5当时做模型路由应该已经是类似的system one了，风控路由应该已经用上了估计

  • dvdbv 楼主 09-18 09:53
    6楼

    好像上下文没那么大，只有32k左右，所以现在延迟都在1秒以下，感觉模型参数量似乎不大的样子

  • dvdbv 楼主 09-18 09:56
    7楼

    架构和论文都没发布，看样子是打算做闭源，延续OpenAI传统了。


    我也是在偶尔在一则小新闻上看到的，昨天折腾了一天调用渠道，不过昨天开始在X上也开始火了，不少测试可以看一下

  • 380kkm 09-18 10:01
    8楼

    意图路由有救了

    现在用ds做意图路由还是有点差而且有点小贵的

  • dvdbv 楼主 09-18 10:01
    9楼

    各位，在github逛的时候淘到风味jev了。


    一个叫openjev的项目，似乎是用qwen3.5拟态，模拟jev的运行方式，不过在延迟和jev官方一直宣传的幻觉率层面看，我只能称它为风味jev

  • 白芸汐 09-18 10:03
    10楼

    jev这种小模型还是非常有用的，做现在做Agent意图识别是一个非常大的问题，不知道以后有没有开源的

  • 我秦始皇？ 09-18 10:07
    11楼

    肯定有的，像是这种模型各家估计内部都有做，不过没做成产品，指不定过一段时间阿里或者其他公司就掏出来开源权重的这种模型，system one在现在火热的具身智能领域也是炙手可热

  • jv-kssma 09-18 10:10
    12楼

    不太理解其原理，所以沒想到可以應用在哪里


    如果有用的話，應該可以部署到公司的一些地方

* 帖子来源Linux.do
附近帖子
返回
飞读
随机推荐