AI论坛 AI论坛 beta

TongZhao 在 有没有佬使用vllm框架的?怎么我无法serve起来服务? 中发帖

📌 📄 内容摘要: TongZhao 在 有没有佬使用vllm框架的?怎么我无法serve起来服务? 中发帖 有没有佬在使用vllm呢?我在我的WSL上部署好了vllm和相应的环境,发现使用vllm serve可以启动相关服务,但是用curl和直接访问host地址的方式都无法访问。但同样部署facebook/opt-125m就没有问题。有没有佬知道原因呢? 部署Qwen3 [image] [image] 部署facebook/opt-125m [image]
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/642149/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888