AI论坛 AI论坛 beta

SHENZHEN I/O 挂机玩家 (@RickoNoNo3) 在 突然想到一个端侧模型的问题 中发帖

📌 📄 内容摘要: SHENZHEN I/O 挂机玩家 (@RickoNoNo3) 在 突然想到一个端侧模型的问题 中发帖 如果未来每个应用都部署一个小型端侧模型的话(虽然小但也没有那么小),那最后端侧显存还是会炸,会成为一个显存地狱。就像每个软件里都嵌electron/cef形成内存地狱一样。以后会不会有webview2之类的系统级统一调度标准呢?
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/688094/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888