众所周知,jev是一个专用分类模型,但其主要优点是极快的决策速度和极其便宜的价格。我认为只要快和便宜就一定是有价值的。
我的构想:一个gpt6智商的jev模型+加上一个类似qwen3.5-4b的小模型应该会是一个不错的构造。(聪明有了,手脚也有了。)
——————————————————————————————————
对话场景一(伪结构化格式):
用户:“给我看下B站的最新热榜”。
jev决策链:
{
“用户的问题与哪个有关”
A、web网页、编程、网络安全……
B、cpu、gpu、内存条、硬件……
C、生活常识、吃饭、睡觉、刷牙……
D、医学、脊椎病、牙病……
………………
}
jev选A,决策loop继续
{
“用户的问题与哪个有关”
A、web网页
B、编程
C、网络安全
D、……
…………
}
jev选A,决策loop继续
{
“用户的问题与哪个有关”
A、源码类,github、gitee……
B、论坛类,linuxdo)……
C、视频类,youku,youtube……
……
……
……
Z、需要调用qwen3.5-4b给我选项:“用户文字所涉及的网站应该是哪些?只列选项,不做决策”
}
(假如上面没有B站)
jev选Z,调用qwen3.5-4b
{
jev:“用户文字所涉及的网站应该是哪些?只列选项,不做决策”##(问题是已预设好的格式,jev调用问qwen)
qwen3.5-4b:“bilibili,dilidili,giligili……”
}
再进入jev决策loop
{
“用户文字所涉及的网站应该是哪些?”
A、bilibili
B、dilidili
C、giligili
……
}
jev选A,决策loop继续
{
“用户的问题与哪个有关”
A、搜索、查询页面信息
B、调用api
C、注册账号、登录
D、……
}
jev选A,决策loop继续
{
“用户的问题应该调用哪些工具?”
A、……
B、……
C、……
}
jev选……,决策loop继续
{
“如何拼接字符……”
A、……
B、……
C、……
}
jev调用qwen3.5-4b:
{
jev:“请用 curl bilibili…… 来获得信息……”##(问题是已拼接好的格式,jev调用问qwen)
qwen3.5-4b:调用工具 curl bilibili.com……
}
………
qwen3.5-4b:今日热榜有……………………
用户:可以不错!挺准的。
——————————————————————————————————————
值得一提的是,jev的决策速度是极快的,别看这么多决策步数,jev作者说并发上百倍速度,便宜上百倍……
qwen3.5-4b只是一个举例,假如是一个只训练知识的专用对话小模型,或者数据库的方式,应该或许有点搞头?
让他来思考正确和错误,qwen3.5-4b反而只是他的知识库和手脚,以及和用户对话。