📌 📄 内容摘要:
@jlau-ice 在 Xinference 走的是CUP，但torch调用GPU是可用的 中发帖
[image]
[image]
[image]
如图，这个环境的torch 是可以用GPU 的，但是启动Xinference ，dify的知识库调用里面的重排模型走的却是cpu，好几次都卡死了。设备用的用的是Jetson，arm架构的。
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/447962/1
─────────────────────────────
📢 来源：LINUX DO
