FreeLLMAPI 是一个开源代理,聚合多家 LLM 提供商的免费 API 额度,每月可提供约 8 亿 Token,并支持自动故障转移和兼容 OpenAI 端点。
📝 详细摘要
这条推文推荐了 FreeLLMAPI 这个开源项目。该项目通过聚合 Google、Groq、Cerebras、NVIDIA、Mistral 等多家提供商的免费 API 额度,将原本各自有限的免费额度叠加起来,每月可提供约 8 亿 Token。它兼容 OpenAI 的 API 端点,用户只需更换 base_url 即可使用,并且当某个提供商达到速率限制时,会自动故障转移到其他提供商。对于需要大量调用 LLM API 但预算有限的开发者来说,这是一个非常实用的工具。
📊 文章信息
AI 初评:82
来源:ginobefun(@hongming731)
作者:ginobefun
分类:软件编程
语言:中文
阅读时间:1 分钟
字数:91
标签: FreeLLMAPI, 开源, LLM API, 代理, 免费额度