自托管多供应商 LLM 网关

用同一个 OpenAI 兼容入口调用 OpenAI、DeepSeek、Kimi 和 Groq。请求按权重路由,失败时自动切换。部署后可在浏览器配置渠道和查看用量。

OpenAI 兼容 · AGPL-3.0 开源 · 数据库是单个 SQLite 文件

LutraGate 自带 Web 管理端。 打开网关根地址即可:配置、日志与用量都在。

仪表盘聚合请求量、成功率、Token 用量与各渠道延迟分位数;日志每 5 分钟增量同步到本地浏览器。

加权路由,失败自动切换。 客户端只看到一个入口。

上游 5xx、429、超时与网络错误自动换渠道重试;连续失败 3 次冷却 60 秒,惰性恢复。/v1/models 按授权收敛。

API 凭证分两级,按用户授权。 lgm_ 管配置,lgk_ 只调模型。

OpenAI 兼容接入

现有客户端改一个 base_url、换一把 lgk_ 访问 key 即可。

按用户勾选授权

给家人的 key 只勾选你愿意开放的渠道,整组保存,即时生效。

密钥不出你的服务器

上游 Key 以 AES-GCM 加密落库,仅在转发瞬间解密;凭证哈希存储,明文只展示一次。

预置供应商预设

六个供应商的端点与模型映射开箱即填,连通性测试一键直发。

一条命令起容器。 管理端就在根地址。

克隆仓库并配置 .env 后,用 Docker Compose 启动。SQLite 数据保存在 Docker 数据卷中,也可以用 Cloudflare Workers 和 D1 部署。

常见问题。

还有别的?去仓库提个 issue。 GitHub 上提问

LutraGate 免费吗?

免费开源:应用层 AGPL-3.0,shared 与 core 两个包 MIT,可单独复用。

我的 API Key 存在哪里?

只存在你自己的数据库里(SQLite 或 D1),AES-GCM 加密,仅在转发瞬间解密。

支持哪些 API 格式?

OpenAI 兼容的 /v1/chat/completions 为主;Anthropic、Responses 与 Gemini 原生格式同样直通。

一家人怎么共用?

管理员给每位家人建 user 账号并勾选授权,再代建 lgk_ 访问 key;每条日志带归属,用量按 key 聚合。

两种部署形态怎么选?

Docker + SQLite 运行在你自己的服务器上。Cloudflare Workers + D1 使用托管运行时和数据库。两种方式共享相同的核心逻辑。