发布于 · AI 生成,已对照实时价目自动事实核查 · English

OpenAI SDK兼容任何模型:操作指南

太长不看: 你不需要使用OpenAI的专有模型才能使用OpenAI SDK。TokShop提供了一个兼容OpenAI的端点,让你可以将DeepSeek V3.2、GLM 4.6、Kimi K2等开源模型接入任何现有的OpenAI SDK集成——只需更改base URL和API密钥,你的代码即可原样运行。

为什么搜索"OpenAI"并不意味着你只能使用OpenAI

当人们现在搜索"openai"时,他们通常是在回应诸如ChatGPT控制Mac上iMessage之类的新闻——这一功能引发了关于苹果封闭生态系统的合理隐私质疑。但搜索背后的深层意图通常是:"我如何在不被单一供应商锁定的情况下获得AI能力?"

答案比大多数开发者预期的要简单。OpenAI SDK已成为LLM API的事实标准接口,许多开源模型提供商——包括TokShop——已经构建了与其完全兼容的API。这意味着你可以使用你熟悉的同一个openai Python包或curl命令,但将它们指向成本仅为OpenAI定价一小部分、且运行在可审计的开源权重上的模型。

如何用3行代码从OpenAI切换到开源模型

核心要点是TokShop的API被设计为即插即用的替代品。你只需更改base_url和API密钥,其他一切——函数调用、流式传输、嵌入、聊天补全——都能以相同方式工作。

以下是一个使用标准openai包的最小Python示例:

from openai import OpenAI

client = OpenAI(
    base_url="https://tokshop.xyz/v1",  # 只需替换这里
    api_key="sk-tok-..."                # 以及你的密钥
)

response = client.chat.completions.create(
    model="deepseek-v3.2",              # TokShop上的任何模型
    messages=[{"role": "user", "content": "解释API兼容性如何工作。"}]
)
print(response.choices[0].message.content)

使用curl进行快速测试同样简单:

curl https://tokshop.xyz/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer sk-tok-..." \
  -d '{
    "model": "glm-4.6",
    "messages": [{"role": "user", "content": "你好!"}]
  }'

无需特殊SDK、无需自定义客户端、无需供应商特定的样板代码。如果你的代码目前能与OpenAI的API配合使用,那么在更改两个值后,它就能与TokShop配合使用。

通过OpenAI SDK实际可以使用哪些模型?

TokShop目前提供多种开源模型,每种模型具有不同的优势和价格点。以下是每百万token的对比:

模型 上下文窗口 输入价格(每1M tokens) 输出价格(每1M tokens) 最适合
DeepSeek V3.2 128,000 $0.42 $0.63 预算友好的通用任务
GLM 4.6 200,000 $0.90 $3.30 长文档,均衡成本
Kimi K2 131,072 $0.855 $3.45 推理与分析
Qwen3 Coder 262,144 $2.25 $11.25 代码生成,大上下文

价格差异非常明显。DeepSeek V3.2的输入价格大约是OpenAI GPT-4o层级的30倍便宜,即使这里最昂贵的选项——Qwen3 Coder——也比OpenAI的代码专用模型(根据近期报告)便宜得多。对于每天处理数百万token的团队来说,这种差异是实实在在的金钱。

苹果iMessage隐私问题怎么办?

最近关于ChatGPT控制Mac上iMessage的新闻引发了一个合理的担忧:当你的AI助手可以读取和发送你的短信时,你就是在将高度敏感的个人数据托付给该供应商。OpenAI的隐私政策允许他们使用你的对话来改进模型,除非你明确选择退出,而iMessage集成意味着这些消息可能成为训练数据。

开源模型并不能自动解决这个问题——你的数据仍然会经过你选择的任何API提供商。但它们为你提供了选择。使用TokShop,API条款中没有模型训练条款;你的提示和补全仅用于服务你的请求,而非改进模型。而且由于模型是开源权重的,如果隐私要求变得足够严格,你最终可以自行托管它们。

对于在Mac上构建的开发者,实际要点是:如果你已经在使用OpenAI SDK进行iMessage相关的自动化,你可以通过TokShop切换到更便宜、更私密的模型,而无需重写自动化逻辑。相同的client.chat.completions.create调用仍然有效,只是使用不同的端点。

切换后计费如何运作?

TokShop使用简单的预付费积分系统。你向账户添加美元积分,每次API调用根据token使用量精确扣除费用。当余额归零时,API返回HTTP 402 insufficient_balance错误——没有意外账单,没有月度最低消费。

这种模式特别适合那些厌倦了OpenAI分级速率限制和可能不可预测飙升的按用量计费的开发者。使用TokShop,你可以在仪表板中看到每次调用的确切成本,并记录每次请求的token数量。你可以在提交前查看定价详情来估算成本。

对于典型集成,以下是使用DeepSeek V3.2的简单请求成本:

  • 500-token输入提示和300-token输出:$0.00021 + $0.000189 = $0.000399
  • 每月10,000次此类请求:$3.99

与等效的OpenAI定价相比,你通常会在高负载工作负载上发现10-20倍的节省。

使用开源模型有什么缺点吗?

诚实的权衡很重要。通过TokShop提供的开源模型并非普遍"优于"OpenAI的产品——它们是不同的工具。以下需要注意的事项:

  • 基准测试差异:开源模型在特定任务上可以匹配或超越OpenAI(如使用Qwen3 Coder进行编码),但在细微的指令遵循或创意写作方面可能有所欠缺。请在实际工作负载上进行测试。
  • 生态系统成熟度:OpenAI拥有更多第三方工具、插件和社区示例。OpenAI SDK兼容性有所帮助,但某些高级功能(如视觉或音频)可能并非所有模型都支持。
  • 支持与可用性:OpenAI有企业SLA;TokShop是面向开发者的服务。对于生产关键型工作负载,请查看文档了解速率限制和可用性预期。

关键在于将模型选择视为可配置的选项,而非永久承诺。由于TokShop的API兼容OpenAI,你可以在同一代码库中并排进行A/B测试模型,并在某个模型在你的用例中表现更好时进行切换。

常见问题

我可以使用OpenAI Python SDK与TokShop配合而不更改代码吗?

可以,但有一个例外:你必须将base_url更改为https://tokshop.xyz/v1并使用TokShop API密钥。所有其他SDK方法——聊天补全、流式传输、函数调用——都能以相同方式工作,因为TokShop实现了OpenAI API规范。

TokShop上的开源模型支持函数调用和流式传输吗?

是的,通过OpenAI API支持这些功能的模型将通过TokShop正常工作。但是,你应该在文档中验证哪些特定模型支持函数调用,因为这因模型而异。流式传输在所有模型上均可用。

如何获取TokShop的API密钥?

https://tokshop.xyz/register使用你的电子邮件和密码注册,然后在仪表板中创建API密钥。密钥仅在创建时显示一次,请安全保存。它们遵循sk-tok-...格式,并在请求中用作Authorization bearer token。

立即体验

文中提到的模型都已上线我们的 OpenAI 兼容 API,按 token 透明计价。 查看价格并获取 API Key →

相关文章