AI论坛 AI论坛 beta

@iqilin 在 new api是否支持关闭vllm部署Qwen3模型的think模式 中发帖

📌 📄 内容摘要: @iqilin 在 new api是否支持关闭vllm部署Qwen3模型的think模式 中发帖 vllm部署了几个Qwen3模型,想直接接到沉浸翻译上,但开think后输出有点慢,由于这几个模型有时候要think跑实验,所以没有在vllm上关闭思考模式。 不知道new api上是否支持关闭呢?
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/1556169/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888