使用jev让dsv4获取更大模型的能力

多模型路由可能是老生常谈的问题了,现在 dsv4 速度很快但是有雷霆思考和思维链退化的问题, glm5.3 就好的多.

我用了一个比较简单的方式综合两者的长处:

• 开始任务前使用高级模型


• 任务开始后对上下文进行实时的语义收敛分析和循环检测,采用阈值门控的方式,达到门控上下沿调用jev判断是否升级/降级模型

实测下来基本避免了dsv4的思维链缺陷,整体思维链偏向glm5.3,任务体感跟glm5.3 不相上下,且测试相同的任务完成速度减少了30%,dsv4介入率在84%左右,整体token费用大概减少70%.

可能因为ds和glm都是同一个老师出来的结果,对于gpt的效果没这么好,佬们有什么想法也可以交流一下.