把多个 AI 模型
收进一个地址
一个地址接入多个 AI 模型,按真实 token 用量计费。兼容 OpenAI 协议,改一行 base_url 就能用。
# 一个地址,多个模型 import OpenAI from "openai"; const client = new OpenAI({ baseURL: "https://api.example.com/v1", apiKey: "sk-...", }); const r = await client.chat.completions.create({ model: "gpt-5.5", messages: [{ role: "user", content: "你好" }], });
为什么用它
不是又一个壳子,计费、密钥、额度、通道都在自己手里。
协议兼容
完整实现 /v1/chat/completions 与 /v1/models,流式(SSE)原样透传,现有代码不用改。
按 token 计费
每笔调用记录输入/输出 token 与费用,余额实时扣减,账单可追溯到单次请求。
密钥隔离
平台上游密钥永不下发;用户密钥只存哈希,创建时可见一次,泄露也不能反查。
多通道多密钥
同一模型可挂多条上游,每条上游可放多个密钥;按权重和实测延迟选路,失败自动切换。
通道自愈
后台持续探测每条密钥的连通性与真实时延,连续失败自动摘除,冷却后自动复查恢复。
站内调试台
不用写代码:在网页里选模型、发消息,实时看流式输出和这一条花了多少钱。
模型与价格
单位:元 / 百万 token。价格由站点管理员维护,调用即扣费。
| 模型 | 分组 | 输入 | 输出 | 状态 |
|---|---|---|---|---|
| 加载中… | ||||
三步接入
注册 → 建一个密钥 → 把 base_url 换成这里。没有 SDK 也能用 curl。
curl http://127.0.0.1:3100/v1/chat/completions \ -H "Authorization: Bearer sk-..." \ -H "Content-Type: application/json" \ -d '{"model":"gpt-5.5","messages":[{"role":"user","content":"你好"}]}'