📌 📄 内容摘要:
特别可怕的剑 (@free2fly) 在 Xinference这个产品确实不错,大大降低了模型部署的门槛. 但是开发团队中部分人的格局我觉得有点小了 中发帖
我也算是比较早期就接触到Xinference这个项目, 并且实际在团队内部也有使用. 虽然问题也有一些, 但是一个成长中的项目是完全可以理解的. 后来我加入到了Xinference的用户微信社群中.
我在社群中也算是比较活跃的. 积极解答群里用户各种关于模型部署以及使用上的一些问题. 也喜欢跟大家一起探讨. 这是应该有的技术氛围.
不过今天让我瞠目结舌的是, 在帮忙解答群友关于如何做分布式节点GPU推理调度的问题上, 我推荐了Ray. 结果瞬间, 真的是瞬间就被踢了.
[Image]
我当时是懵逼的, 我甚至没有意识到是因为我推荐了ray , 因为群管理的反应速度, 让我觉得我好像发了涉黄涉政言论. 直到我私信了当初拉我入群的管理:
[Image]
哦, 原来如此啊. 不过虽然Xinference的功能和Ray 有部分重叠, 但是我觉得这两款产品的定位是不同的啊.
所...
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/834878/1
─────────────────────────────
📢 来源：LINUX DO
