OpenClaw LLM Router 🧠

面向自主智能体的统一 LLM 网关。由 AIsa 提供支持。

一个 API 密钥，支持 70+ 模型，兼容 OpenAI 接口规范。

用一个 API 密钥替代上百个密钥，通过统一、OpenAI 兼容的 API 接入 GPT-4、Claude-3、Gemini、Qwen、Deepseek、Grok 等模型。

🔥 你能做什么？

多模型对话

"用 GPT-4 进行逻辑推理，切换至 Claude 进行创意写作"

模型对比

"对同一问题，对比 GPT-4、Claude 和 Gemini 的响应结果"

视觉分析

"使用 GPT-4o 分析这张图像——其中包含哪些物体？"

成本优化

"将简单查询路由至快速/低成本模型，复杂查询路由至 GPT-4"

故障回退策略

"若 GPT-4 调用失败，则自动尝试 Claude，再失败则尝试 Gemini"

为何选择 LLM Router？

支持的模型家族

注意：模型可用性可能因地区或配额而异。请访问 marketplace.aisa.one/pricing 查看当前全部可用模型及定价详情。

快速开始

export AISA_API_KEY="your-key"

API 接口端点

OpenAI 兼容的 Chat Completions 接口

POST https://api.aisa.one/v1/chat/completions

请求示例

curl -X POST "https://api.aisa.one/v1/chat/completions" 
  -H "Authorization: Bearer $AISA_API_KEY" 
  -H "Content-Type: application/json" 
  -d '{
    "model": "gpt-4.1",
    "messages": [
      {"role": "system", "content": "You are a helpful assistant."},
      {"role": "user", "content": "用简单语言解释量子计算。"}
    ],
    "temperature": 0.7,
    "max_tokens": 1000
  }'

参数说明

消息格式

{
  "role": "user|assistant|system",
  "content": "消息文本，或用于多模态输入的数组"
}

响应示例

{
  "id": "chatcmpl-xxx",
  "object": "chat.completion",
  "created": 1234567890,
  "model": "gpt-4.1",
  "choices": [
    {
      "index": 0,
      "message": {
        "role": "assistant",
        "content": "量子计算利用……"
      },
      "finish_reason": "stop"
    }
  ],
  "usage": {
    "prompt_tokens": 50,
    "completion_tokens": 200,
    "total_tokens": 250,
    "cost": 0.0025
  }
}

流式响应

curl -X POST "https://api.aisa.one/v1/chat/completions" 
  -H "Authorization: Bearer $AISA_API_KEY" 
  -H "Content-Type: application/json" 
  -d '{
    "model": "claude-3-sonnet",
    "messages": [{"role": "user", "content": "写一首关于 AI 的诗。"}],
    "stream": true
  }'

流式响应采用 Server-Sent Events（SSE）格式：

data: {"id":"chatcmpl-xxx","choices":[{"delta":{"content":"In"}}]}
data: {"id":"chatcmpl-xxx","choices":[{"delta":{"content":" circuits"}}]}
...
data: [DONE]

视觉 / 图像分析

通过传入图像 URL 或 base64 编码数据进行图像分析：

curl -X POST "https://api.aisa.one/v1/chat/completions" 
  -H "Authorization: Bearer $AISA_API_KEY" 
  -H "Content-Type: application/json" 
  -d '{
    "model": "gpt-4o",
    "messages": [
      {
        "role": "user",
        "content": [
          {"type": "text", "text": "这张图中有什么？"},
          {"type": "image_url", "image_url": {"url": "https://example.com/image.jpg"}}
        ]
      }
    ]
  }'

函数调用（Function Calling）

启用工具/函数以获取结构化输出：

curl -X POST "https://api.aisa.one/v1/chat/completions" 
  -H "Authorization: Bearer $AISA_API_KEY" 
  -H "Content-Type: application/json" 
  -d '{
    "model": "gpt-4.1",
    "messages": [{"role": "user", "content": "东京现在的天气如何？"}],
    "functions": [
      {
        "name": "get_weather",
        "description": "获取指定地点的当前天气",
        "parameters": {
          "type": "object",
          "properties": {
            "location": {"type": "string", "description": "城市名称"},
            "unit": {"type": "string", "enum": ["celsius", "fahrenheit"]}
          },
          "required": ["location"]
        }
      }
    ],
    "function_call": "auto"
  }'

Google Gemini 原生格式

对于 Gemini 模型，也可使用其原生接口格式：

POST https://api.aisa.one/v1/models/{model}:generateContent

curl -X POST "https://api.aisa.one/v1/models/gemini-2.0-flash:generateContent" 
  -H "Authorization: Bearer $AISA_API_KEY" 
  -H "Content-Type: application/json" 
  -d '{
    "contents": [
      {
        "role": "user",
        "parts": [{"text": "解释机器学习。"}]
      }
    ],
    "generationConfig": {
      "temperature": 0.7,
      "maxOutputTokens": 1000
    }
  }'

Python 客户端

安装

无需额外安装 —— 仅依赖 Python 标准库。

命令行工具（CLI）用法

# 基础补全
python3 {baseDir}/scripts/llm_router_client.py chat --model gpt-4.1 --message "Hello, world!"

# 指定系统提示词
python3 {baseDir}/scripts/llm_router_client.py chat --model claude-3-sonnet --system "You are a poet" --message "Write about the moon"

# 启用流式响应
python3 {baseDir}/scripts/llm_router_client.py chat --model gpt-4o --message "Tell me a story" --stream

# 多轮对话
python3 {baseDir}/scripts/llm_router_client.py chat --model qwen-max --messages '[{"role":"user","content":"Hi"},{"role":"assistant","content":"Hello!"},{"role":"user","content":"How are you?"}]'

# 视觉分析
python3 {baseDir}/scripts/llm_router_client.py vision --model gpt-4o --image "https://example.com/image.jpg" --prompt "Describe this image"

# 列出所有支持的模型
python3 {baseDir}/scripts/llm_router_client.py models

# 模型对比
python3 {baseDir}/scripts/llm_router_client.py compare --models "gpt-4.1,claude-3-sonnet,gemini-2.0-flash" --message "What is 2+2?"

Python SDK 用法

from llm_router_client import LLMRouterClient

client = LLMRouterClient()  # 自动读取环境变量 AISA_API_KEY

# 简单对话
response = client.chat(
    model="gpt-4.1",
    messages=[{"role": "user", "content": "Hello!"}]
)
print(response["choices"][0]["message"]["content"])

# 指定参数
response = client.chat(
    model="claude-3-sonnet",
    messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "解释相对论。"}
    ],
    temperature=0.7,
    max_tokens=500
)

# 流式响应
for chunk in client.chat_stream(
    model="gpt-4o",
    messages=[{"role": "user", "content": "Write a story."}]
):
    print(chunk, end="", flush=True)

# 视觉分析
response = client.vision(
    model="gpt-4o",
    image_url="https://example.com/image.jpg",
    prompt="What's in this image?"
)

# 模型对比
results = client.compare_models(
    models=["gpt-4.1", "claude-3-sonnet", "gemini-2.0-flash"],
    message="Explain quantum computing"
)
for model, result in results.items():
    print(f"{model}: {result['response'][:100]}...")

典型应用场景

1. 成本优化型路由

对简单任务使用更低成本模型：

def smart_route(message: str) -> str:
    # 简单查询 → 快速/低成本模型
    if len(message) < 50:
        model = "gpt-3.5-turbo"
    # 复杂推理 → 高性能模型
    else:
        model = "gpt-4.1"
    
    return client.chat(model=model, messages=[{"role": "user", "content": message}])

2. 故障回退策略

调用失败时自动切换至备用模型：

def chat_with_fallback(message: str) -> str:
    models = ["gpt-4.1", "claude-3-sonnet", "gemini-2.0-flash"]
    
    for model in models:
        try:
            return client.chat(model=model, messages=[{"role": "user", "content": message}])
        except Exception:
            continue
    
    raise Exception("All models failed")

3. 模型 A/B 测试

对比不同模型的输出效果：

results = client.compare_models(
    models=["gpt-4.1", "claude-3-opus"],
    message="Analyze this quarterly report..."
)

# 记录用于后续分析
for model, result in results.items():
    log_response(model=model, latency=result["latency"], cost=result["cost"])

4. 专业化模型选型

按任务类型选择最适配模型：

MODEL_MAP = {
    "code": "deepseek-coder",
    "creative": "claude-3-opus",
    "fast": "gpt-3.5-turbo",
    "vision": "gpt-4o",
    "chinese": "qwen-max",
    "reasoning": "gpt-4.1"
}

def route_by_task(task_type: str, message: str) -> str:
    model = MODEL_MAP.get(task_type, "gpt-4.1")
    return client.chat(model=model, messages=[{"role": "user", "content": message}])

错误处理

错误响应返回含 error 字段的 JSON：

{
  "error": {
    "code": "model_not_found",
    "message": "Model 'xyz' is not available"
  }
}

常见错误码：

• 401 — API 密钥无效或缺失
• 402 — 余额不足
• 404 — 模型未找到
• 429 — 请求频率超限
• 500 — 服务端内部错误

最佳实践

1. 启用流式响应：提升长响应场景下的用户体验
2. 设置 max_tokens：有效控制成本
3. 实现回退机制：保障生产环境稳定性
4. 缓存重复请求：避免冗余调用
5. 监控用量指标：通过响应中的元数据（如 usage）持续追踪
6. 合理选用模型：避免对简单任务使用 GPT-4 等高成本模型

OpenAI SDK 兼容性

仅需更改基础 URL 和 API 密钥即可复用现有 OpenAI SDK 代码：

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["AISA_API_KEY"],
    base_url="https://api.aisa.one/v1"
)

response = client.chat.completions.create(
    model="gpt-4.1",
    messages=[{"role": "user", "content": "Hello!"}]
)
print(response.choices[0].message.content)

定价

按 token 计费，不同模型单价不同。请访问 marketplace.aisa.one/pricing 获取最新费率。

每次响应均包含 usage.cost（本次调用费用）与 usage.credits_remaining（剩余额度）字段。

立即开始

1. 前往 aisa.one 注册账号
2. 在控制台获取你的 API 密钥
3. 充值（按量付费）
4. 设置环境变量：export AISA_API_KEY="your-key"

完整 API 参考文档

详见 API Reference 获取全部端点的详细说明。