AI论坛 AI论坛 beta

leioukupo 在 关于2api的模拟fc和模拟mcp,我之前的做法有些问题,现在修正了 中发帖

📌 📄 内容摘要: leioukupo 在 关于2api的模拟fc和模拟mcp,我之前的做法有些问题,现在修正了 中发帖 我之前的文章 逆向api通过外挂解锁特殊功能 | leioukupo的博客 直接构建一个带tool_calls的completion发送没太大问题,但是不能流式 后续写流式tool调用时一直不行,直到和ai一起看cherry studio的源码关于tool调用这一部分时 才发现我一直套用的chat的流式生成函数,其中的finish_reason一直是None,所以各个客户端才不响应我的工具请求,让ai根据我之前的chat流式生成器写了一个tool流式生成器 async def generate_tool_call_chunks( tool_calls: list, answer_id: str, created: int, model: str, system_fingerprint: Op...
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/1613518/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888