AI论坛 AI论坛 beta

基于 OpenWebUI Pipeline 做了一个最小化 Agent Runtime:支持历史压缩、附件按需读取、会话恢复

📌 📄 内容摘要: 这几天基于OpenWebUIPipeline做了一个最小化AgentRuntime,把长上下文管理这件事做得更工程化一些。ps:主要还是因为自部署的模型会因为一些原因(显存不够),上下文不能达到模型原生支持的长度,以致于不能对长文本进行分析,故弄了这个小玩意,不过有点已知bug(不是向量形式的语义召回,会导致历史聊
────────── 链接信息 ──────────
🔗 论坛链接: www.nodeseek.com
📎 访问地址: https://www.nodeseek.com/post-682571-1
─────────────────────────────
📢 来源:NODESEEK

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888