AI论坛 AI论坛 beta

珈蓝 狮子 (@lionsky) 在 [VCP]新增分布式预消息处理器插件协议支持——吗? 中发帖

📌 📄 内容摘要: 珈蓝 狮子 (@lionsky) 在 [VCP]新增分布式预消息处理器插件协议支持——吗? 中发帖 今天VCP实现了整个vcp工具链的最后一公里,预消息处理器插件(messagePreprocessors)的分布式兼容。 这是一个需要非常谨慎讨论的工程化,需要严谨的思考和讨论。 预消息处理器不同与别的插件,它是和中央服务器高度耦合的插件类型,比sever类有更强的端口关联性。 它的核心在于拦截前端post的上下文数组,进行预操作,从而为ai注入思维,记忆,上下文折叠,噪音净化,灵魂时钟,多前端上下文来源追踪等复杂的工具模组。 首先,为什么要实现这个插件类型的分布式。 例如,监控网关的分布式节点,如同在对应的分布式设备上允许使用预消息处理器,就能在每次用户对监控网关上的agent聊天,或者对应节点的agent使用自巡航机制时,在post的user请求里,自动引入当前的监控画面的base64数据,而不持续写入上下文,实现即时审查,用完即抛。这在别的插件类型里难以实现。 回到难题。 ...
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/1715915/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888