使用 OpenAI SDK 无缝切换国产大模型

·2 分钟阅读·269 次阅读
使用 OpenAI SDK 无缝切换国产大模型

为什么选择兼容方案?

OpenAI 的 Python SDK 已经成为 AI 开发的事实标准。但直接使用 OpenAI 面临网络限制和模型选择两个问题。

Ciyuano 的兼容方案让你一行代码不改就能在多个模型间自由切换。


原理

OpenAI SDK 的所有请求都发往 base_url:

# 原生 OpenAI
client = OpenAI(api_key="sk-xxx")

# Ciyuano — 仅改两行!
client = OpenAI(
    base_url="https://www.ciyuano.com/v1",
    api_key="sk-relay-xxx"
)

底层协议(REST API、SSE 流式、Chat Completions 端点)完全一致。


实战:多模型对比测试

from openai import OpenAI

client = OpenAI(
    base_url="https://www.ciyuano.com/v1",
    api_key="sk-relay-your-key"
)

models = ["deepseek-v4", "glm-5", "qwen-plus"]
prompt = "用 Python 写一个快速排序算法,要求带注释"

for model in models:
    print(f"n=== {model} ===")
    response = client.chat.completions.create(
        model=model,
        messages=[{"role": "user", "content": prompt}],
        temperature=0.7,
        max_tokens=1024
    )
    print(response.choices[0].message.content)

框架集成

LangChain

from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    model="deepseek-v4",
    openai_api_key="sk-relay-xxx",
    openai_api_base="https://www.ciyuano.com/v1"
)

Vercel AI SDK

import { createOpenAI } from "@ai-sdk/openai";

const openai = createOpenAI({
  baseURL: "https://www.ciyuano.com/v1",
  apiKey: "sk-relay-xxx",
});

Dify / FastGPT / LobeChat

在「模型供应商」中添加 OpenAI 兼容接口,填入 Ciyuano 的 base_url 和 api_key 即可。


最佳实践

  1. 使用 auto 模型:让平台自动选择最优可用模型
  2. 开启流式输出 (stream=True):用户体验更好
  3. 合理设置 max_tokens:控制成本
  4. 在意价格选 qwen-plus,在意质量选 deepseek-v4

总结

OpenAI SDK + Ciyuano = 任意国产大模型的统一入口。不改代码、不换框架、不折腾 Key。

评论功能暂未开放,敬请期待