AI论坛 AI论坛 beta

TOT 在 Deepseek在今天下午故障1小时后,似乎首字延迟和响应速度更快了。 中发帖

📌 📄 内容摘要: TOT 在 Deepseek在今天下午故障1小时后,似乎首字延迟和响应速度更快了。 中发帖 结论: DS扩卡了 数据来部门内部New-api,接入Deepseek官方API,所有统计均限为Deepseek-v4-pro模型 Token生成速度未变化,33.4tok/s vs 33.7tok/s 缓存命中率 97.9% vs 98.6% 响应时间降低约 40% ~ 50% 首字延迟降低约 56% ~ 76% 以下为使用Deepseek V4 Pro max调用newapi数据库进行的分析。 在无缓输入、缓存命中输入、输出均增加的情况下,响应和延迟还大幅优化了。 [图片] [图片] [图片]
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/2136963/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888