GLM5.2 真的挺好用的

爆杀Deepseek，Claude用不起，Codex不稳定，只能部署个GLM了。开源万岁 ！

性能指标大概是prefill 10000+tokens/s， decode 100+ tokens/s

部署脚本

vllm serve zai-org/GLM-5.2-FP8 \

  --served-model-name claude-opus-4-8 claude-opus-4-7 claude-opus-4-6 GLM-5.2\

  --tensor-parallel-size 8 \

  --max-num-batched-tokens 16384 \

  --max-num-seqs 64 \

  --max-model-len auto \

  --gpu-memory-utilization 0.9 \

  --tool-call-parser glm47 \

  --enable-auto-tool-choice \

  --reasoning-parser glm45 \

  --speculative-config.method mtp \

  --speculative-config.num_speculative_tokens 5 \

  --kv-cache-dtype fp8_ds_mla \

  --kv-offloading-size 512 \

  --kv-offloading-backend native \

  --host 0.0.0.0 --port 8104

不是壕，服务器是公司的，只是拿来用用 ^-^