关于本地模型部署的一些问题

daima 2026-08-08 17:09 1

llamacpp和vllm部署的qwen3.6是不是只支持一个system在顶部,我想在每次对话之后可以追加一个新的system做提示有好的方案吗,我现在一旦在中间插入,就会报错: [LLM 错误] HTTP 400: {“error”:{“message”:“System message must be at the beginning.”,“type”:“BadRequestError”,“param”:null,“code”:400}},

最新回复 (1)
  • leioukupo 08-08 19:16
    1

    那你把新的system手动放到开头不就行了嘛?

* 帖子来源Linux.do
返回