AI论坛 AI论坛 beta

炫彩小鱼干 (@Yuookie) 在 阿里marco-mini-instruct 纯 cpu 运行 47 token/s 中发帖

📌 📄 内容摘要: 炫彩小鱼干 (@Yuookie) 在 阿里marco-mini-instruct 纯 cpu 运行 47 token/s 中发帖 17.3B, 0.86B active 如此奇怪的参数,好奇跑了跑,cpu 如图 [image] 因为是纯 cpu 运行,不涉及内存与显存的传输,所以首字很快 [1776236610797] 天气卡片什么的就别想了 [1776236441908] wtf 连翻译都不行 [image] [1776236532875] 此贴终结
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/1972022/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888