本地5070ti显卡跑的qwen3.8 27b 鹈鹕测试

bigfz 2026-09-19 18:27 1



用的 vscode zoo 插件写的 模型是27b-gsq-rco-iq3-s-mtp 感觉效果一般 但是完成度还行,模型没联网

提示词:写一个 svg html 动态 鹈鹕骑车

最新回复 (16)
  • dtfour09 09-19 18:27
    1

    是的啊,还可以。

  • KHNL 09-19 18:28
    2

    上下文多少,每秒多少token?

  • 乌拉乌拉011 09-19 18:29
    3

    iq3的27b塞5070ti能跑完就行了,糊一点正常。想清楚点换q4或者小一档就稳不少。

  • ashv 09-19 18:30
    4

    这么强吗,不会阿里根据鹈鹕特训了吧

  • bigfz 楼主 09-19 18:31
    5

    @KHNL #2 我用的b站大佬刚搞出来llamaccp 分支kvmem 上下文256k 用核显点亮电脑 独显跑模型 速度70-80 感觉跟开外挂一样

  • yibao 09-19 18:39
    6

    主要是这卡现在可不便宜

  • 布什-戈门 09-19 18:42
    7

    刚跑的5.6Sol,看笑了给我

  • bigfz 楼主 09-19 18:44
    8

    @yibao #6 16g显存就能玩,5060ti也行

  • squalll 09-19 19:11
    9

    用QWEN CODER 当大脑,让CODEX写程序的话,5070ti行不行?(我也5070TI)

  • linqi184278332 09-19 19:30
    10

    数据挺好

  • yibao 09-19 20:23
    11

    @bigfz #8 现在涨成这样,没想法了

  • mingtian233 09-19 21:16
    12

    我也部署了,用起来不错

  • phoenix-yu 09-20 10:02
    13

    请问是哪个项目?有github地址吗?

  • RUSALL-Musk 09-20 10:04
    14

    @布什-戈门 #7 笑死 ^-^

  • RUSALL-Musk 09-20 10:04
    15

    看着还不错啊

  • bigfz 楼主 09-20 10:46
    16

    @phoenix-yu #13 kvmem

* 帖子来源NodeSeek
返回