🚀 LLM API Router

📋 功能特性

• 支持OpenAI、Anthropic、百度文心、阿里通义、腾讯混元等所有主流厂商
• 用户私有路由管理，每个用户可以独立配置自己的模型路由
• 完整的调用日志统计和费用计算
• 100%兼容OpenAI接口协议，现有代码无需修改即可切换

🔗 快速入口

管理后台 接口文档 健康检查

💡 接口调用示例 (OpenAI 兼容)

和OpenAI SDK完全兼容，只需要把base_url改成本服务地址即可：

import openai

client = openai.OpenAI(
    api_key="你的API_KEY",
    base_url="http://localhost:8000/v1"
)

# 调用聊天补全
response = client.chat.completions.create(
    model="gpt-3.5-turbo",
    messages=[{"role": "user", "content": "你好"}]
)
print(response.choices[0].message.content)

📡 cURL 调用示例

curl http://localhost:8000/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer 你的API_KEY" \
  -d '{
    "model": "gpt-3.5-turbo",
    "messages": [{"role": "user", "content": "你好"}]
  }'

✅ 健康检查

curl http://localhost:8000/health

返回：{"status":"ok"}

📚 获取模型列表

curl http://localhost:8000/v1/models \
  -H "Authorization: Bearer 你的API_KEY"