jev很火，但是感觉某种意义上甚至不如随机森林

你要是和 BERT 分类器或者 xgboost 比，那还有可讨论性 你跟决策树比，没什么好说的了

主要是现在没有一个benchmark来对这种判断型的AI做性能比较。然后也没有个技术构架报告或者论文，就纯黑盒，只能推测大概率用了transformer

JEV火的根本原因是它符合程序运行期望+LLM

打个比方，如果我用LLM来处理程序，我需要让它先格式化输出，然后校验格式化是否正确，失败重试，这里面先不谈TOKEN消耗，光是失败重试带来的时间不稳定性就很恶心了

现在 简单直接用 还快 还便宜

一个具体的场景是，我想让AI根据用户自动点单，以前需要一大串的提示词告诉它应该怎么格式化输出 并且做好错误处理 现在

它自己就是格式化的

你可以看一看用途类似的laya模型，这个是开源的，它的技术思路估计跟 Jev 差不多

同理：决策树错了你知道为什么错，但是早些时候llm认为9.9<9.11人类却不知道为什么… 所以某种程度上llm不如决策树（虽然这确实有些道理）

但是你的随机森林能端到端的输入并理解自然语言状态和选项吗.jpg

我其实不是很能理解，有一个通用的判断模型不算是创新吗？我看了一下据说智力有 gpt luna 的水平，速度又快又便宜，你说的那种模型不是要专门训练吗

个人认为Jev最大的价值在于它的通用性，但是在一些有固定训练集的任务上训练出来的模型，其实效果是要比Jev好的。

这个是用来做自然语言决策的，不是用来做推理解决复杂问题的，主打的是 few shot + 快速决策

jev 就是一个大语言分类器，跟传统的分类器比，唯一的好处是不用针对领域数据专门训练微调。不然速度上它是比不上传统分类器的，毕竟太大了，如果都要训练的话，我训练传统的分类器一样要准备语料，训练出来准确性可以比他还强。

所以它未来的使用场景跟现在的调llm API 差不多，不可能每个人使用的时候都要去训练一下这个模型，而是通过自然语言动态调整任务目标就可以在各种通用场景中达到不错的分类准确率。

也就是说，它的速度没有传统分类器那么快，但是比大语言模型逐个 token 输出要快很多，而且具备大语言模型的上下文理解能力

说实话，这玩意儿要是开源的话，那就是神中神

不开源的话，那就差点东西

虽然现在它的延迟已经很低了

但在有些领域里，它的延迟还是有点高

好像是这么个理。不过真要用到生产感觉需要大量数据测试，不需要大量训练但是需要大量数据验证。

自己有大量数据训练的可以看看 nanojev ，在数据量足够的情况下能够在训练好的领域打败jev。

另外问一下佬这种模型有明确的能力边界吗？感觉如果能做视觉判断马上就有价值了，vlm做视觉判断效率太低了

Jev这个形态到时候一定是开源的占据市场，因为需求就是需要开源(`・ω・´)

说实话，做决策不应该是世界知识需求更多才对么？

你至少和BERT比吧 我觉得

是的，现在他输出的置信度不是真正的准确率

说起来有点绕，但是我们需要评估一下，比如他输出分类置信度>0.9 的时候，正确的概率有多大

现在还没宣传他有vlm这种视觉能力，目前表现出来只有文本处理能力，不过这个范式如果流行起来，肯定可以往这个方向做出来的。

现在有开源的平替了，叫 Laya，速度比 Jev 还快