我的构想:jev模型+qwen3.5-4b模型。高智商决策大模型+手脚小模型。(暂未实验)

zxcvcxz47654 2026-09-20 13:16 1

众所周知,jev是一个专用分类模型,但其主要优点是极快的决策速度和极其便宜的价格。我认为只要快和便宜就一定是有价值的。


我的构想:一个gpt6智商的jev模型+加上一个类似qwen3.5-4b的小模型应该会是一个不错的构造。(聪明有了,手脚也有了。)

——————————————————————————————————

对话场景一(伪结构化格式):


用户:“给我看下B站的最新热榜”。


jev决策链:


{

“用户的问题与哪个有关”


A、web网页、编程、网络安全……

B、cpu、gpu、内存条、硬件……

C、生活常识、吃饭、睡觉、刷牙……

D、医学、脊椎病、牙病……

………………

}


jev选A,决策loop继续


{

“用户的问题与哪个有关”

A、web网页

B、编程

C、网络安全

D、……

…………

}


jev选A,决策loop继续


{

“用户的问题与哪个有关”

A、源码类,github、gitee……

B、论坛类,linuxdo)……

C、视频类,youku,youtube……

……

……

……

Z、需要调用qwen3.5-4b给我选项:“用户文字所涉及的网站应该是哪些?只列选项,不做决策”

}

(假如上面没有B站)

jev选Z,调用qwen3.5-4b


{

jev:“用户文字所涉及的网站应该是哪些?只列选项,不做决策”##(问题是已预设好的格式,jev调用问qwen)

qwen3.5-4b:“bilibili,dilidili,giligili……”

}


再进入jev决策loop


{

“用户文字所涉及的网站应该是哪些?”

A、bilibili

B、dilidili

C、giligili

……

}

jev选A,决策loop继续


{

“用户的问题与哪个有关”

A、搜索、查询页面信息

B、调用api

C、注册账号、登录

D、……

}


jev选A,决策loop继续


{

“用户的问题应该调用哪些工具?”

A、……

B、……

C、……

}


jev选……,决策loop继续


{

“如何拼接字符……”

A、……

B、……

C、……

}


jev调用qwen3.5-4b:

{

jev:“请用 curl bilibili…… 来获得信息……”##(问题是已拼接好的格式,jev调用问qwen)

qwen3.5-4b:调用工具 curl bilibili.com……

}

………


qwen3.5-4b:今日热榜有……………………


用户:可以不错!挺准的。


——————————————————————————————————————


值得一提的是,jev的决策速度是极快的,别看这么多决策步数,jev作者说并发上百倍速度,便宜上百倍……


qwen3.5-4b只是一个举例,假如是一个只训练知识的专用对话小模型,或者数据库的方式,应该或许有点搞头?


让他来思考正确和错误,qwen3.5-4b反而只是他的知识库和手脚,以及和用户对话。

最新回复 (1)
  • 大鸡吧 09-20 14:18
    1

    猜你想问:oh my openagents

* 帖子来源NodeSeek
返回