AI论坛 AI论坛 beta

chinese learn 在 1.9w token/s 新架构AI专用推理芯片 中发帖

📌 📄 内容摘要: chinese learn 在 1.9w token/s 新架构AI专用推理芯片 中发帖 体验网址https://chatjimmy.ai/ 官方网站Products | Taalas 测试了一下。运行8b参数确实能达到1.9万token每秒。 然后官网上写今年冬天会发布支持顶尖开源大模型的芯片,理论上能达到8000token/s
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/1634235/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888