AI论坛 AI论坛 beta

Eviaaaaa 在 生成30个文档就开始失败?一次流程智能体高并发雪崩问题排查 中发帖

📌 📄 内容摘要: Eviaaaaa 在 生成30个文档就开始失败?一次流程智能体高并发雪崩问题排查 中发帖 背景:项目是二开的Ragflow[ GitHub - infiniflow/ragflow: RAGFlow is a leading open-source Retrieval-Augmented Generation (RAG) engine that fuses cutting-edge RAG with Agent capabilities to create a superior context layer for LLMs · GitHub ],没有缓存机制。 后端有Python,Java两端,我主要负责是Python端,这次问题主要是调用流程智能体的接口。 测试分两种:一种是一瞬间进行N个请求,一种是生成N个文档(调用10N次 流程智能体接口,但有的有先后顺序) 省流总结:本次故障是高并发下缓存缺失、认证链路过长、外部限流以及图片下载和解析占用带宽/CPU共同叠加导致。 ...
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/1911854/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888