AI论坛 AI论坛 beta

JJ (@xihajun) 在 分享一个自用的API测速工具,可以看看各种API的生成速度怎么样(或者烧掉自己剩余grok额度) 中发帖

📌 📄 内容摘要: JJ (@xihajun) 在 分享一个自用的API测速工具,可以看看各种API的生成速度怎么样(或者烧掉自己剩余grok额度) 中发帖 我最近自己搓了个小工具,本来是用来测我本地模型的性能跑分,但它也支持任何 OpenAI 格式的 API 接口:API测速 我就用账户里那用不完的150 刀余额试了试 Grok API, 128 - 64K 输入的任务,大概 5 美刀。免费的不心疼哈哈(测试截图在这): [image] 可以知道大概的输入和输出 token 数要花多时间,以后遇到类似任务,就能知道大概要等多久,感觉这用来快速评估成本和速度或许会有用的。不过用 API 接口测完记得把你的 API Token 删掉哦,安全第一!毕竟只是个测速玩具 另外,如果是想测自己搭的API的速度和稳定性,也可以加大并发数和测试的prompt数会更准确一点,测得越多prompt,时间越久,花的钱越多 [image] 直接”测速“就是要随机整个矩阵,也可以点击某个数据点进行测试 另外有想开发做一个deep research的功...
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/655300/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888