AI论坛 AI论坛 beta

yeyucca 在 记一次RooCode 和 vLLM之间的role导致的 400 bad解决 中发帖

📌 📄 内容摘要: yeyucca 在 记一次RooCode 和 vLLM之间的role导致的 400 bad解决 中发帖 搞localllm,想着跟Cline对比下,结果部署了qwen 3 coder后,发现Cline可以继续问答,而RooCode反而持续400,log中恍惚中看到vllm中对role的不支持, RooCode 发了 tool_choice: “auto”,但 vLLM 没启用自动工具选择,所以直接拒绝。错误里写得很清楚:必须加 --enable-auto-tool-choice 和 --tool-call-parser 于是增加, 后面点开vLLM加载qwen 3 coder的脚本,增加这两行参数,Roo问题得到解决,可以继续调用
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/1766067/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888