生产级网关特性,为高可用与成本优化而设计
统一 OpenAI 协议接入 OpenAI、Anthropic、Gemini、DeepSeek、Moonshot、通义千问、智谱、Ollama 等渠道,无需修改业务代码即可切换模型供应商。
支持权重、优先级、最少失败、最低成本四种路由策略。渠道异常自动熔断并故障转移,保障请求成功率。
基于 Token 用量精确计量,模型级倍率灵活配置。余额实时扣费,请求日志与费用明细全量可查。
渠道密钥 AES 加密存储,系统密钥独立隔离。支持密钥轮换,绝不因平台原因泄漏上游凭证。
Rust + Tokio 异步运行时,单机轻松支撑数万并发连接,资源占用低,响应快。
批量生成充值卡密,支持额度套餐与订阅制两种售卖模式,配合分组倍率实现灵活定价。
| 模型名称 | 上游模型 | 渠道数 | 吞吐量 tok/s |
总延迟 秒 |
首字延迟 TTFT / 秒 |
成功率 近 24 小时 |
可用性趋势 24h |
健康度 |
|---|---|---|---|---|---|---|---|---|
| 加载中... | ||||||||
仅展示前 5 个模型(前往模型广场查看全部)。指标来源于真实请求采样与主动探测,数值随调用情况动态平滑更新。
兼容 OpenAI SDK,仅需替换 base_url 与 api_key
注册后在控制台生成密钥,密钥即身份凭证,请妥善保管。
将 SDK 的 base_url 指向本站地址,路径与 OpenAI 完全一致。
使用任意 OpenAI 兼容客户端或 SDK 直接调用,模型名无需改动。
支持卡密充值与套餐订阅
新用户注册赠送
卡密充值,余额永不过期
固定额度包,适合稳定用量
充值卡密请联系站长获取,支持额度套餐与订阅制两种模式。