🎉 全线路实时健康监测已上线:智能优选最快线路,故障秒级切换,调用更快更稳 查看能力 →
OpenAI 兼容 · 多模型统一网关

一个入口,调度全部 主流大模型

面向企业的多模型 AI 网关。

多渠道热备 · 熔断自动切换 ISO 级数据隔离 · 密钥哈希存储
终端 · 五分钟接入
实时状态:全部渠道运行正常
上游切换 < 1s
99.99%
服务可用性 SLA
多渠道热备 · 熔断自动切换
—+
接入模型
Chat · Vision · Image · Video
<1s
故障切换
智能选路 · 故障自动切换
零改造
SDK 改造
OpenAI 官方协议 · 同一套 SDK
实时服务状态

基于网关实时探测的渠道健康与模型可用性

…
—
运行正常
—
接入渠道
—
可用模型
99.9%
服务可用性
已接入模型
—
快速接入

三步完成从注册到第一次调用

无需理解各家模型差异,无需自建网关与计费系统。

01

注册并登录

邮箱/用户名即可注册。

POST /api/user/auth/register
02

创建 API Key

自助签发 sk-Key,设置白名单、IP 与额度。

sk-lit-xxxxxxxxxxxxxxxx
03

改 Base URL 调用

OpenAI SDK 换一个地址,立即获得全部能力。

base_url = "https://relay.2frs.com/v1"

兼容你正在使用的每一种技术栈

OpenAI 官方协议生态。

🟢openai-python 🟢openai-node 🟢OpenAI Go / Java 🦜LangChain 🦙LlamaIndex ⚡Vercel AI SDK 🐳Dify / FastGPT 🧩LobeChat / NextChat curlREST / SSE
网关架构

一个网关,托管模型接入的全部复杂性

从鉴权到计费,从容灾到安全。

你的应用 / SDK
OpenAI 协议请求
LiteLLM 网关
sk-Key 鉴权与权限 限流 · 预算 · 余额闸门 实时健康监测 · 线路优选 智能选路 · 熔断回退 响应规整 · 计费落账
💬文字 / 推理模型
👁多模态模型
🎨图片 / 视频生成
核心能力

为企业 AI 接入提供完整基础设施

从协议兼容到成本治理。

⚡

OpenAI 标准兼容

原生兼容对话与流式协议。

🛰

智能选路与高可用

权重/优先级/健康度选路。

🌊

快速稳定响应

线路实时监测,自动优选,故障秒级切换。

🔑

密钥与权限

Key 全生命周期管控,哈希存储。

💎

精细计费账务

模型单价×分组倍率精确计费。

📡

用量可观测

全维度记录与指标暴露。

模型广场

一个 Key,通达多类模型

统一计费、统一管控。

💬

文字与推理

Chat · Reasoning

👁

多模态

Vision · Multimodal

🎨

图片生成

Image Generation

🎬

视频生成

Video Generation

模型按实际用量计费。

新闻与公告

最新动态

查看全部
暂无动态,敬请期待。
常见问题

你可能想了解的

—

—

—

—

—

准备好接入了吗?

注册账号、创建 API Key。

进入用户中心