ellm-proxy

轻量、安全的本地 LLM 网关——一条命令安装，一条命令启动，把你的 OpenAI / Anthropic 协议供应商和 API Key 统一收口为一个本地入口。

• 部署成本极低：单进程、单端口（默认 29770），常驻内存仅约 50 MB，你的日常电脑就能跑，无需服务器
• 快速启动：npm i -g ellm-proxy && ellm-proxy start，装完即起，首次启动自动创建示例配置，网页向导两分钟完成接入
• 特别安全：不收集任何数据、不上传任何数据。API Key 只存在你自己电脑上，请求只发给你自己配置的供应商，日志全部存本地

安全与隐私

• 数据永不出本机：无遥测、无数据上报、无云端组件。请求和用量日志全部存在本机 SQLite 文件里，不上传、不共享
• 密钥仅存本地：API Key 只保存在本机配置文件中（也可用环境变量、完全不落盘），仅在转发请求时附加给你自己配置的供应商
• 密钥自己管、链路自己控：替代 CC Relay / claude-relay-service 这类第三方中转站、cc-switch 这类切换工具——agent 客户端（Claude Code、Codex）只需指向本机网关一次，之后供应商的增删与切换全部在管理界面完成，客户端配置不再改动

功能特性

• 协议互转：客户端与上游可各用各的协议（OpenAI / Anthropic），网关自动转换
• 多供应商路由：多家供应商 / 多个 API Key 统一管理，按模型路由、网页在线切换；内置 deepseek、kimi、zhipu、ark、openai 等 10 个供应商模板
• 管理界面：供应商管理、连通性测试、用量统计、请求日志，开箱即用零学习成本
• 一键接入 AI 客户端：网页上点一下，把 Claude Code、Codex、DeepSeek Harness（dsh）的流量指向本机网关（自动备份原配置、可还原）
• 开机自启：三平台支持，登录即启动，免管理员权限
• 自动更新（可选）：发现新版本一键更新，失败自动回滚；自建 registry / 镜像源可用 ELLM_UPDATE_REGISTRY 指定

安装

npm i -g ellm-proxy

无需预装特定 Node 版本——运行所需的 Node 22 由 CLI 自动解析，当前环境不满足时自动下载一次并缓存。

使用方法

ellm-proxy start    # 后台常驻启动（首次自动创建示例配置）

1. 打开管理界面 http://127.0.0.1:29770/，首次访问进入首启向导：选择部署形态（本机使用 / 局域网公开），设置主密钥与登录账号（本机使用可全部跳过）
2. 在「供应商」页添加你的供应商（选内置模板，填 API Key 即可）
3. 把客户端指向网关：Claude Code 指向 http://127.0.0.1:29770，OpenAI SDK 指向 http://127.0.0.1:29770/v1（也可在「设置 → 代理开关」一键接入）

常用命令：

ellm-proxy          # 已运行则显示服务信息，否则启动
ellm-proxy stop     # 停止
ellm-proxy restart  # 重启

说明：本工具为个人本地使用设计，非高并发架构，不建议作为商业代理部署。