📌 📄 内容摘要:
CCS_Covenant 在 现有的替代服务商(阿里百炼 硅基流动 NIM)推理DeepseekR1速度巨慢 中发帖
测试了一下NVIDIA NIM DeepseekR1的推理速度 慢的要死 4token/s他们是跑在CPU上的吗？
阿里百炼和硅基流动都差不多是10-15token/s的速度 太慢了
有没有试过azure的报个数字?
官网的现在时不时还在炸 但是感觉估计有40token/s左右
[fc14e0faf700ae3390ed013201190b9c]
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/403318/1
─────────────────────────────
📢 来源：LINUX DO
