📌 📄 内容摘要:
Schrödinger (@synbio) 在 Microsoft 刚刚开源了 bitnet.cpp,可以在 CPU 上本地运行多达 100B LLMs 中发帖
Microsoft 刚刚开源了 bitnet.cpp
现在,您可以在 CPU 上本地运行多达 100B LLMs,(无需 GPU),并获得 5-7 个令牌/秒。
[image]
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/238086/1
─────────────────────────────
📢 来源:LINUX DO