AI论坛 AI论坛 beta

ElectricBread 在 关于NEWAPI转发GCP如何降低延迟的问题 中发帖

📌 📄 内容摘要: ElectricBread 在 关于NEWAPI转发GCP如何降低延迟的问题 中发帖 求教各位大佬。现在我在项目中直连NEWAPI调用GCP的gemini-2.0-flash的延迟很高,如何正确降低延迟? 我使用谷歌的免费VPS小鸡,GB5只有100分,石头盘的那个。搭建了NEWAPI,用来中转GCP的GEMINI给国内我个人的一个项目直连。现在的问题是在项目里面调用的延迟太高了。我还有一个瓦工的MEGABOX-PRO。 我现在不确定的选择是: 1,放弃免费鸡,直接在MEGABOX-PRO上面重新搭NEWAPI。性能和回程线路理论上都大幅优化。隐患是IP有可能被两边封,GCP也可能风控。 2,拿谷歌免费鸡的NEWAPI中转到MEGABOX-PRO,使用MEGABOX-PRO的回程路线。 但是这个我不知道怎么具体操作才是最优的。 比如是保持现在NEWAPI继续在免费VPS上,使用MEGABOX-PRO转发免费VPS的端口的所有流量? 还是把NEWAPI装到MEG...
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/687689/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888