OpenAI 兼容 · 统一密钥 · 本地模型路由
8× NVIDIA H800 80GB·10+ 本地模型能力
开始接入OpenAI 兼容 API
替换 base_url 即可接入
统一密钥与额度
多模型一套计费与风控
可审计调用日志
请求链路本地留存
我们卖的不是别人的 token，而是社区自己的 H800 算力、模型运营能力和场景支持。
数据路径不可控
请求经过第三方，敏感内容可能出境。
模型切换成本高
每换一个模型就要改 endpoint、鉴权和计费。
额度与日志分散
多个平台账单，无法在一个控制台审计。
开发者只需要替换 base_url 和 api_key，即可把原有 OpenAI SDK 接到启元Hub。
使用用途
AI 工作流原型与知识库问答
预估月调用量
约 50 万 tokens
请求从 SDK 进入统一网关，经路由与额度校验后落到本地推理集群。
架构分层
应用 & SDK
OpenAI 兼容调用
统一网关
LiteLLM · 鉴权 · 额度 · 日志
推理底座
GPUStack · vLLM · SGLang
8× H800 80GB
社区私有集群
核心能力
一个 base_url 切换全部模型，无需为每个模型维护独立 endpoint。
免费额度、充值余额、分组折扣价在同一控制台可见。
每次调用的 tokens、费用、错误码都可追溯。
POST /v1/chat/completions → 200 · 1.2k tokens · ¥0.02
覆盖 DeepSeek、通义、智谱、Kimi、MiniMax 与 Seedance 等主流模型，按提供商浏览完整定价。
无论你是独立开发还是小团队协作，都能在同一个网关里完成接入。
独立开发者
用熟悉的 OpenAI SDK 替换 base_url，快速验证产品想法。
$ curl .../chat/completions → 200 OK → model: qwen3.6
Agent 构建者
function call 与多轮对话在同一网关内路由到合适模型。
tool_call search_docs
result 3 chunks retrieved
status: completed
小团队
钱包余额、成员调用量和费用明细集中管理。
钱包余额
¥428.50
本月已用 ¥71.50 · 可审计
内容创作者
文生图与语音能力通过审核后按场景开通，不浪费额度。
替换 apiKey 和 baseURL，其余代码保持不变。
import OpenAI from "openai";
const client = new OpenAI({
apiKey: process.env.OPC_API_KEY,
baseURL: "https://api.qiyuanapi.cc/v1"
});
const res = await client.chat.completions.create({
model: "qwen3.6-plus",
messages: [{ role: "user", content: "你好" }]
});
console.log(res.choices[0].message.content);