X 笔记
AIX 文章·

薅遍全网免费大模型 API:多个渠道、10 亿+ Token,低成本搭建私人 LLM 服务

还在花钱买 API?今天我把全网免费的 LLM API 汇总到了一起——多个免费/试用 API 渠道、理论 10 亿+ Token 额度、低成本即可部署。

更狠的是,通过一个开源项目,这些 API 可以被自动聚合、负载均衡、故障自动切换。你只需要一个服务器,就能拥有一个专属的 LLM API 接口,无论是接工作流、搭智能体,还是写代码辅助,都能稳定调用。

本文手把手带你从 0 到 1 申请免费 API、部署聚合服务、接入使用。


一、这东西能干什么?

核心能力

薅遍全网免费大模型 API:多个渠道、10 亿+ Token,低成本搭建私人 LLM 服务

适用场景

  • AI 工作流:接入 n8n、Dify、Coze 等自动化平台
  • 代码辅助:在 Cursor、Copilot、IDE 插件中使用
  • 智能体开发:给自己的 Bot 提供底层模型能力
  • 学习测试:免费用顶级模型做实验,不花一分钱
  • 备用方案:付费 API 额度用完时,无缝切换免费渠道

二、硬件与成本

薅遍全网免费大模型 API:多个渠道、10 亿+ Token,低成本搭建私人 LLM 服务
如果你已有服务器(比如之前部署过其他服务),可以直接复用,额外成本接近 0。

三、免费 API 渠道一览

以下是当前可申请的免费/试用 API 平台及额度(一个账号的默认额度,多账号可叠加):

薅遍全网免费大模型 API:多个渠道、10 亿+ Token,低成本搭建私人 LLM 服务

理论总额度:约 10 亿+ Token

实际额度会受到平台政策、账号数量、地区限制和限速规则影响。
使用多个账号通常可以获得更多可用额度。一个账号已足够个人学习和轻量使用。

四、部署全流程

Step 1:准备服务器

推荐配置:

  • 系统:Debian 12 或 Ubuntu 22.04+
  • 配置:1 核 1G 内存(最低),2 核 2G(推荐)
  • 硬盘:20GB+
  • 网络:有外网访问能力(用于拉取代码和调用 API)

如果你还没有服务器,推荐性价比高的香港节点(月均 17 元左右),延迟低、线路优化好。


Step 2:安装前置环境

更新系统:

sudo apt update && sudo apt upgrade -y

安装 Git:

sudo apt install git -y
git --version

确认安装成功。

安装 Node.js(需 v20+):

使用 NodeSource 安装最新版:

curl -fsSL https://deb.nodesource.com/setup_20.x | sudo -E bash -
sudo apt install -y nodejs
node -v

确认版本为 v20+。


Step 3:拉取并安装项目

进入目录(以 /opt 为例),克隆项目并安装依赖:

cd /opt
git clone https://github.com/tashfeenahmed/freellmapi.git
cd freellmapi
npm install

安装完成后,项目目录下会出现 node_modules 和相关配置文件。


Step 4:构建并启动服务

使用 Docker Compose 启动(推荐):

docker compose up -d
如果项目根目录没有 docker-compose.yml,可检查 docker/ 文件夹内是否有 compose 配置,或改用 npm install && npm run build && npm start 启动。

查看状态:

docker compose ps

查看日志:

docker compose logs -f

启动成功后,终端会显示:

  • 本地服务已运行在默认端口(如 3000)
  • 管理面板地址:服务器IP:3001

Step 5:Docker 后台运行

Docker Compose 默认后台运行。

查看状态:

docker compose ps

查看日志:

docker compose logs -f

Step 6:申请并添加免费 API

打开管理面板 服务器IP:3001,开始添加 API Key。

示例 1:Google Gemini

  1. 访问 Google AI Studio
  2. 登录谷歌账号 → 点击右上角「创建 API Key」
  3. 选择项目(没有则新建)→ 创建 Key → 复制密钥
  4. 回到面板 → 选择提供商「Google AI Studio」→ 粘贴密钥 → 添加
  5. 点击「检查」,显示绿色即表示可用

示例 2:GitHub Models(GPT-4o)

  1. 访问 GitHub Models
  2. 登录 GitHub 账号 → 选择免费模型(如 GPT-4o)
  3. 点击「使用此模型」→ 验证邮箱 → 创建个人 Token
  4. 设置 Token 名称 → 根据个人需求设置有效期 → 保存并复制
  5. 回到面板 → 选择提供商「GitHub Models」→ 粘贴 Token → 添加

示例 3:Cloudflare Workers AI

  1. 访问 Cloudflare Dashboard
  2. 登录 → 左侧菜单「AI」→「Workers AI」
  3. 获取账号 ID 和 API Key(点击「Reset API Key」创建)
  4. 回到面板 → 选择提供商「Cloudflare」→ 填入账号 ID 和 Key → 添加

示例 4:NVIDIA NIM

  1. 访问 NVIDIA NIM
  2. 注册账号(支持中国大陆手机号)→ 邮箱验证 → 手机验证
  3. 点击「模型」→「查看代码」→「创建 API Key」
  4. 复制 Key → 回到面板 → 选择提供商「NVIDIA」→ 添加

其他平台

剩余平台(OpenRouter、SiliconFlow、智谱、HuggingFace 等)流程类似:

  1. 访问官网 → 注册/登录(大部分支持谷歌账号一键登录)
  2. 进入后台 → 找到 API Key 或 Token 页面
  3. 创建 Key → 复制
  4. 回到面板 → 选择对应提供商 → 粘贴 → 添加 → 检查
提示: 每个平台都支持添加多个账号的 Key,额度可以叠加。

Step 7:配置负载均衡(Fallback)

添加完所有 API 后,进入面板的「Fallback」页面,这是整个系统的核心。

三种排序策略

薅遍全网免费大模型 API:多个渠道、10 亿+ Token,低成本搭建私人 LLM 服务

手动调优(推荐)

根据实际使用体验,手动调整模型优先级。建议优先考虑:

  • 成功率
  • 延迟
  • 免费额度
  • 实际体验

不同地区和账号结果可能不同。

操作: 拖拽模型调整顺序 → 点击「保存」→ 点击「Set」生效。

关闭不稳定渠道

在面板中,如果某个平台(如 OpenRouter)成功率一直为 0%,可以直接关闭该渠道,避免影响使用体验。


五、接入使用

方式 1:接入智能体/工作流

复制基础链接: 在面板首页,复制你的 API Base URL(如 服务器IP:3001/v1)。

接入示例(以 Shell 脚本为例):

添加自定义 API:粘贴 Base URL,选择模型「auto」(自动负载均衡)。

测试调用:

curl http://你的服务器IP:3001/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer 你的APIKey" \
  -d '{"model":"auto","messages":[{"role":"user","content":"你好"}]}'

接入 n8n/Dify/Coze:

  • 在对应平台的模型设置中,选择「OpenAI Compatible」或「自定义 API」
  • Base URL 填你的面板地址
  • API Key 填面板生成的统一 Key
  • 模型名选择「auto」或指定具体模型

方式 2:代码调用

import openai

client = openai.OpenAI(
    base_url="http://你的服务器IP:3001/v1",
    api_key="你的统一API Key"
)

response = client.chat.completions.create(
    model="auto",
    messages=[{"role": "user", "content": "你好"}]
)
print(response.choices[0].message.content)

model="auto" 表示自动负载均衡。

方式 3:Cursor/IDE 插件

在 Cursor 或其他支持自定义 OpenAI API 的 IDE 中:


六、面板功能详解

1. 状态监控

  • 总览:当前可用额度、已用 Token 数、剩余比例
  • 提供商列表:每个平台的 API 状态(健康/异常)
  • 模型列表:所有可调用模型及其参数

2. 请求分析

每次调用后,面板会记录:

  • 调用的模型和提供商
  • 输入/输出 Token 数
  • 延迟(毫秒)
  • 成功率

用法: 根据分析数据,动态调整 Fallback 排序。比如发现某个模型成功率低,就往后调或关闭。

3. 自动故障转移

当第一个模型调用失败时,系统会自动尝试第二个、第三个……直到成功为止。对用户完全无感。


七、实测效果

不同用户的实际效果会受到以下因素影响:

  • API 来源
  • 网络环境
  • 免费额度策略
  • Fallback 配置

等因素影响。


八、局限与注意事项

  1. 免费 ≠ 生产级:免费/试用 API 适合学习、测试、个人轻量使用。如果是生产力环境(公司项目、客户服务),建议购买付费 API。
  2. 额度会用完:虽然多个平台组合后可获得较大额度,但高频使用下仍会消耗完。建议多注册几个账号叠加。
  3. 稳定性波动:免费服务随时可能调整额度或关闭,不要 100% 依赖。
  4. 延迟不均:不同平台线路质量不同,部分模型响应较慢(如 GitHub Models)。
  5. 模型能力差异:免费模型虽然覆盖广,但顶级模型的免费额度通常较紧。
  6. 服务器维护:需要自己维护服务器(系统更新、服务重启等)。

九、总结

用 0成本,获得最大的模型覆盖」。

  • 成本:服务器 17 元/月(或用现有服务器、自有电脑)
  • 收益:
  • 多个免费/试用 API 来源
  • 统一接口管理
  • 自动 Fallback
  • OpenAI Compatible
  • 能力:负载均衡、故障转移、统一管理、自定义排序

对于以下人群,强烈建议部署:

  • AI 爱好者:免费用各种模型做实验
  • 独立开发者:给项目提供底层 LLM 能力
  • 学生/研究者:低成本使用顶级模型
  • 自动化玩家:接入 n8n/Dify 等工作流
  • 备用党:付费 API 用完时的无缝兜底

部署四步回顾:

  1. 准备 Linux 服务器,安装 Node.js 20+
  2. 克隆项目、安装依赖、Docker 启动
  3. 申请免费 API,添加到面板
  4. 配置 Fallback,接入使用
  • 开源项目地址:https://github.com/tashfeenahmed/freellmapi
  • 本文基于免费 LLM API 聚合项目实测整理。免费服务政策可能随时调整,建议部署后定期关注各平台公告。生产环境请使用付费 API。
在 X 上看原帖并评论20,945 次浏览 · 126 赞
0x小师妹
0x小师妹 @0xshimei

AI 工具实测与币圈观察,SANYUE.AI 创始人

在 X 上关注

相关笔记