7.4 billion tokens per month. 34 free LLM providers. 635 free model endpoints. All behind one /v1 endpoint, plus any custom OpenAI-compatible endpoint. Smart routing, automatic failover, encrypted keys. Personal experimentation only.
★ 49,894⑂ 6,909
49,894
stars
+482+3,634+18,999
6,909
forks
–
watchers
–
prs
–
issues
–
releases
–
discussions
README
FreeLLMAPI 每月 74 亿词元。34 家免费 LLM 提供方。635 个免费模型端点。一个 OpenAI 兼容端点。 把几十家提供方的免费额度,连同任意自建的 OpenAI 兼容聊天、嵌入、图像和音频端点,一起聚合到单个 /v1 API 之后。密钥加密存储。路由器为每个请求挑选当前可用的最佳模型,某家提供方触发限流时自动转移到下一家,并按密钥跟踪用量,让你始终待在各家的免费额度之内。 freellmapi.co · 浏览完整目录:474 个模型系列,635 个免费端点 English · 简体中文 · O'zbekcha 本翻译可能滞后,最新内容以英文 README 为准。 !FreeLLMAPI 仪表盘 —— 带每月词元额度的模型页 你的路由器会从签名源自行更新模型目录:新的免费模型、额度变更和兼容性修复,都不需要 git pull 就能生效。 前往 freellmapi.co 启用(每年 $19,随时可取消)。 --- 目录 - 为什么会有这个项目 - 支持的提供方 - 兼容的 CLI 与编程智能体 - 横向对比 - 功能 - 快速开始 - 桌面应用 - 兼容 OpenAI 的客户端 - 语言 - Premium 实时目录 - 使用 API - 截图 - 工作原理 - 局限性 - 参与贡献 - 免责声明 指南: 安装与部署 · API 参考 · 客户端与编程智能体 · 提示词压缩 · 架构与内部实现 · 文档索引 · 贡献者指南 所有指南都已有中文版,上面的链接指向中文页面;少数页面在英文原文更新后尚未同步,以英文版为准,每页页首都可切换到英文原文。完整的翻译状态见 这里。 为什么会有这个项目 如今每家正经的 AI 实验室都提供免费额度:每月几百万词元,每天几千次请求。单独看,每一份都只是个玩具。叠加起来,它们合计约 每月 74 亿词元 的可用推理能力,覆盖 474 个模型系列 / 635 个提供方端点,从小而快的到相当能打的都有。 问题在于手工叠加太痛苦:三十四套不同的 SDK,三十四种不同的限流规则,三十四个请求可能失败的地方。FreeLLMAPI 把这些收拢成一个 OpenAI 兼容端点。把任意 OpenAI 客户端库指向你的本地服务,它就会在你添加过密钥的提供方之间透明路由。 而且免费额度的格局每周都在变:提供方会上线新模型、下线旧模型,并且不打招呼就调整额度。这些 FreeLLMAPI 都替你盯着。路由器会自行从 freellmapi.co 拉取经过签名的模型目录,所以你的部署不用 git pull 也能跟上。跟进速度见 Premium 实时目录。 !叠加后的免费额度 —— 34 家提供方合计每月约 74 亿词元的免费推理 支持的提供方 Google Groq Cerebras OpenCode Zen Mistral OpenRouter Cloudflare Cohere Z.ai(智谱) NVIDIA HuggingFace ModelScope 魔搭Qwen3 · DeepSeek V4 · GLM-5(需要绑定阿里云中国站账号) …… 以及另外 22 家免费提供方 此外还有 自定义 提供方:在密钥页上,把聊天、嵌入、图像或音频模型指向任意 OpenAI 兼容端点(llama.cpp、LM Studio、vLLM、本地 Ollama,或者一个远程网关)。 完整且始终最新的列表在 freellmapi.co/models,含每个模型的限流规则、上下文窗口和免费词元额度。 兼容的 CLI 与编程智能体 Claude Code Codex CLI Gemini CLI Aider Cline Roo Code Continue OpenCode Goose Qwen Code Kilo Code Crush Cursor Zed JetBrains AI …… 以及任何兼容 OpenAI 的客户端、Anthropic SDK、Gemini SDK,或支持 Ollama 的应用 其中大多数一条命令就能配好:npx freellmapi setup-claude、setup-codex、setup-aider,还有另外十几个生成器。它们会拉取你当前的实时目录,备份已有配置,并且绝不覆盖你已经写好的内容。Claude Code 和 Codex 另有零留存启动器(freellmapi launch、freellmapi launch-codex),只把凭据注入子进程。Zed 和 JetBrains AI 通过可选的 Ollama 模拟 接入;Gemini CLI 走它自己的 /v1beta 协议。 各工具的具体配方、setup CLI 参考、给无法发送请求头的客户端用的可撤销 URL 令牌,以及 MCP 服务,都在 客户端与编程智能体 → 横向对比 !与 OpenRouter、LiteLLM、Portkey 的功能对比 基于 2026 年 7 月的公开文档整理,欢迎指正。 功能 !功能概览 - OpenAI 的全部接口 —— /v1/chat/completions、/v1/responses(Codex CLI 需要它)、/v1/completions(编辑器的幽灵文本补全)、/v1/images/generations、/v1/audio/speech、/v1/embeddings 和 /v1/models,流式与非流式均可,来自官方 SDK 或任何 OpenAI 兼容客户端都行。API 参考 → - Anthropic Messages API —— /v1/messages 在同一套路由之上讲 Anthropic 的协议,所以 Claude Code 和官方 Anthropic SDK 可以直接跑在你的免费池上。详情 → - 原生 Gemini 与 Ollama 接口 —— Gemini CLI 可以用 /v1beta(generateContent、流式、词元计数、模型列表);可选的 Ollama 模拟则为 Zed、JetBrains 以及其他本地模型客户端提供 NDJSON 的 chat/generate、标签、元数据和嵌入。 - Fusion(多模型合成) —— 请求虚拟模型 fusion,路由器会把你的提示词并行分发给一组风格各异的免费模型,再由一个评审模型从这些草稿中合成出一个答案。详情 → - 图像生成与文本转语音 —— /v1/images/generations 和 /v1/audio/speech 会在提供媒体模型的提供方之间路由,也包括自定义的 OpenAI 兼容媒体端点。 - 工具调用与结构化输出 —— OpenAI 风格的 tools 可在各提供方之间往返(纯文本形式的工具调用会被救回成真正的 tool_calls),另有 response_format、seed、logprobs、惩罚项以及其余采样参数按提供方透传。 - 智能路由,六种策略 —— 实时的每模型速度、能力、稳定性评分决定你