AI论坛 AI论坛 beta

@fengchris 在 OpenBMB发布MiniCPM-SALA模型:稀疏注意力与线性注意力混合架构 1M端侧推理不是梦! 中发帖

📌 📄 内容摘要: @fengchris 在 OpenBMB发布MiniCPM-SALA模型:稀疏注意力与线性注意力混合架构 1M端侧推理不是梦! 中发帖 OpenBMB 发布的 MiniCPM-SALA 是全球首个融合稀疏注意力与线性注意力的混合架构模型。该架构在确证性能无损的同时,在 9B 规模下仅凭消费级显卡极客驱动 1M Tokens 端侧推理,为高效长文本处理构建了全新的技术基石。 [image] [image] [image] [image] [image] [image] 仓库地址:GitHub - OpenBMB/MiniCPM: MiniCPM4 & MiniCPM4.1: Ultra-Efficient LLMs on End Devices, achieving 3+ generation speedup on reasoning tasks 模型地址:openbmb/MiniCPM-SALA · Hugging Face
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/1606453/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888