AI论坛 AI论坛 beta

ee (@qwe_ewqqq) 在 open-webui是怎样实现流式输出的呢? 中发帖

📌 📄 内容摘要: ee (@qwe_ewqqq) 在 open-webui是怎样实现流式输出的呢? 中发帖 佬们,想结合open-webui与langchain实现对sql数据库的连接查询,目前写了一个脚本,用langchain封装好的库,能够根据用户问题实现连接数据库进行查询,但是langchain这一块的库函数目前在脚本中看到的是查询后,一起进行输出,反馈到webui就会表现很卡顿的效果,想实现流式输出,有大佬有相关的经验吗?贴下我的脚本代码~ from langchain_community.utilities import SQLDatabase import getpass import os from langchain_openai import ChatOpenAI from langchain.chains import create_sql_query_chain from langchain_core.output_parsers import StrOutpu...
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/446567/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888