AI论坛 AI论坛 beta

试了试LiteRT-lm

📌 📄 内容摘要: 看到chrome和安卓自带edgeAI,可以本地运行,研究了一下,它是用litert-lm来host的,就自己下载了一个试验一下。用的是gemmae4b版本,在amd7730u的破笔记本上运行,效果还可以,能达到30-40token/s,可以作为一个路由或者简单agent模型来用。关键是本地,不受网络限制,不花钱,
────────── 链接信息 ──────────
🔗 论坛链接: www.nodeseek.com
📎 访问地址: https://www.nodeseek.com/post-716111-1
─────────────────────────────
📢 来源:NODESEEK

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888