对普通笔电即可带动的mini多模态模型（默认前提为量化版本）前端能力的斗蛐蛐测试

LianHe9510 2026-10-06 22:02 1

本人电脑配置如下

偶然听得网上说有bonsai做的新的27b（基于qwen3.8 27b）三值极端量化模型可本地部署，速度也很快，即便只有12GB显存也可爽玩，于是拉来和我以往玩过的几个模型做了两轮的前端图一乐测试，本来没抱有多大希望（感觉实在是量化的太狠了），不过最终结果反而有点意外

我挑了三个选手来和bonsai2做对比，分别是Qwen3.6-35B-A3B Q4_K_M，Ornith-1.5-35B-A3B IQ4_XS，Ornith-1.5-9B Q6_K，运行配置统一为 131K 上下文（除了bonsai是nvfp4的QV量化，其余都是Q8Q4混合QV量化），温度 0.4，复读惩罚系数1.08，最大思考程度，交给了Antigravity里的Gemini帮我做自动化测试和分析，一共就两个测试题目，一个是经典的鹈鹕骑车测试，另外是一个3d的小房子配一个樱花树。稍后补下鹈鹕的斗蛐蛐结果

最新回复 (11)

LianHe9510 楼主 10-06 22:05

1楼

鹈鹕测试的结果已出，详情见下

总表
LianHe9510 楼主 10-06 22:07

2楼

Qwen3.6的情况，其实我反而觉得是里边最好的，等会看其他几个就知道为什么我这么说了（

三帧截图
LianHe9510 楼主 10-06 22:09

3楼

Orinth1.5的结果，其实这个脚还算可以，但这个翅膀给我看笑了，个人给低分，不过自行车的结构是这几个里画的最好的

三帧截图
LianHe9510 楼主 10-06 22:13

4楼

9b的结果，hhh其实有点为难它了，轮子直接没了（那个我不觉得是轮子吧）

依旧三帧截图，腿扭动的很离谱
LianHe9510 楼主 10-06 22:14

5楼

果然不出所料喵
LianHe9510 楼主 10-06 22:15

6楼

提一嘴，所有模型均在Pi（就是那个极简agent）下做测试
wuhenzha 10-06 22:16

7楼

普通笔电12G显存么 ^-^

那我8G的游戏本算什么
LianHe9510 楼主 10-06 22:19

8楼

重要的来了，这是bonsai的结果

其实我感觉很丑呀，也不知道哈基米怎么就觉得好看的，这个结构全压在一起了，个人觉得排第三还差不多，当然它结构考虑的还算细致（多？

三帧截图，动作确实是最好的
LianHe9510 楼主 10-06 22:21

9楼

其实在25年年中那会5070ti笔电也就8000来块，姑且算大众笔电吧，虽然现在已经涨价很离谱^-^（
LianHe9510 楼主 10-06 22:27

10楼

小房子和樱花树测试的结果情况如下
LianHe9510 楼主 10-06 22:31

11楼

首先是qwen,这个墙和窗户怎么滚木了啊？樱花树不错，昼夜写的也还行吧，对夕阳下的处理差评

白天

夕阳

夜晚