在基于大语言模型的应用开发中接入 OpenAI 和 Anthropic 的 API 是最常见也最容易出问题的一环。很多人并不是不会写调用代码而是在注册账号、获取 API Key、配置环境变量、理解不同服务的请求格式、排查网络连接失败这些环节上反复卡住。本文以 OpenAI Chat Completions 和 Anthropic Messages 两个接口为例从调用模型讲起带读者完成一次最小可用的 API 请求然后解释关键参数、验证方法和排查路径最后给出适合生产环境的工程建议。读完这篇文章后你应该能独立跑通两家服务的基础调用并且遇到 401、429、400 或连接失败时知道从哪里看、怎么查。1. 先理解大模型 API 的调用模型1.1 一次 API 调用本质是带鉴权的 HTTP POST 请求大模型 API 本质上不是一个 SDK 方法而是一个 HTTPS 接口。SDK 只是把请求封装成了更易读的代码。一个完整请求由四部分组成请求地址例如 OpenAI 的/v1/chat/completionsAnthropic 的/v1/messages。请求头包含 API Key、内容类型、版本信息。请求体包含模型名称、对话消息、生成参数。响应体包含生成文本、停止原因、Token 用量。理解这一点之后很多问题都能被拆解开来连接失败先查网络链路鉴权失败先查请求头参数错误先查请求体结果不符合预期再查模型参数。不要一上来就怀疑 SDK。1.2 OpenAI 与 Anthropic 的接口格式差异OpenAI 和 Anthropic 的接口都采用 HTTP POST JSON但字段并不通用。下面是最容易混淆的几个差异点。维度OpenAI Chat CompletionsAnthropic Messages默认请求地址https://api.openai.com/v1/chat/completionshttps://api.anthropic.com/v1/messages认证方式Authorization: Bearer KEYx-api-key: KEY版本头一般不需要单独传建议传anthropic-version: 2023-06-01系统提示词放在messages数组里的 system role使用顶层字段system多轮消息messages中角色为 system/user/assistantsystem字段单独传messages中只有 user/assistant结果位置choices[0].message.contentcontent[0].text最大输出长度max_tokens或新模型下的max_completion_tokensmax_tokens必填这些差异意味着不能把一个请求体原样从 OpenAI 搬到 Anthropic。例如把 Anthropic 的system字段移到 OpenAI 的messages数组里没问题但反过来把 OpenAI 的 system role 原样发给 Anthropic就会收到参数校验错误。1.3 为什么会有“OpenAI 兼容接口”这个概念很多模型服务商和开源推理框架会提供“OpenAI 兼容接口”原因很简单OpenAI 的 Chat Completions 格式已经被大量开源工具、调试面板、Agent 框架默认支持。只要服务商提供一个相同的接口格式这些工具就可以直接切换模型。Anthropic 官方 SDK 使用自己的 Messages 格式但不少工具层也会做格式转换。因此在实际项目中需要先确认你调用的端点到底是服务商原生协议还是一个兼容层。判断方式是查看文档中的请求地址、请求头和示例响应。如果用的是兼容层报错信息往往来自转换层而不是模型服务本身排查时要多看一层。注意不要因为 SDK 名字相同就认为两个平台的参数完全等价。字段名、必填项、内容结构都可能不同落地前一定要查看当前 SDK 版本的官方示例。2. 环境准备安装 SDK、获取 Key、配置环境变量2.1 Python 环境与依赖安装本文示例使用 Python 3.9安装依赖如下pip install openai anthropic python-dotenv安装完成后可以查看版本确认依赖已正确加载python -c import openai; print(openai.__version__) python -c import anthropic; print(anthropic.__version__)版本号不是越新越好。SDK 升级时可能出现参数名变更、默认行为变化例如 OpenAI v1.x 之后客户端初始化方式已经统一成OpenAI(api_key...)。建议在项目的requirements.txt中锁定版本避免团队环境不一致。2.2 获取 API Key 的正确方式在 OpenAI 和 Anthropic 的开发者平台创建账号后可以创建各自的 API Key。创建时注意两点Key 通常只在创建页面显示一次关闭后无法再次查看。Key 以环境变量或配置中心管理不要硬编码在 Python 源码中。建议使用.env文件保存本地环境变量并通过python-dotenv加载。示例# .env OPENAI_API_KEYsk-你的OpenAI密钥 ANTHROPIC_API_KEYsk-ant-你的Anthropic密钥 ANTHROPIC_VERSION2023-06-01不要把.env提交到 Git 仓库。在项目根目录建一个.gitignore至少包含.env *.log __pycache__/ .venv/2.3 项目目录结构一个最小项目可以这样组织llm-api-demo/ ├── .env ├── .gitignore ├── requirements.txt ├── config.py ├── demo_openai.py └── demo_anthropic.pyconfig.py负责读取环境变量并集中管理配置import os from dotenv import load_dotenv load_dotenv() OPENAI_API_KEY os.getenv(OPENAI_API_KEY) ANTHROPIC_API_KEY os.getenv(ANTHROPIC_API_KEY) ANTHROPIC_VERSION os.getenv(ANTHROPIC_VERSION, 2023-06-01)这样做的目的是把密钥、版本、超时等配置与业务代码解耦。生产环境可以用密钥管理服务或容器环境变量替换.env代码不需要改动。3. 两个最小可运行案例OpenAI 与 Anthropic 调用3.1 OpenAI Chat Completions 最小调用先写一个最简单的同步请求验证账号、Key、网络和模型名称都正常。# demo_openai.py import os from openai import OpenAI client OpenAI( api_keyos.getenv(OPENAI_API_KEY), timeout10.0, max_retries2, ) response client.chat.completions.create( modelgpt-4o-mini, messages[ {role: system, content: 你是一个简洁的中文助手。}, {role: user, content: 用一句话解释什么是 API 超时。}, ], temperature0.7, max_tokens200, ) print(response.choices[0].message.content) print(response.usage)运行方式python demo_openai.py关键点说明timeout10.0表示单次连接超时时间避免服务端无响应时进程长时间挂起。max_retries2表示 SDK 内部对部分可重试错误进行重试适合偶发网络抖动。具体的model名称以自己账号在平台可见的模型列表为准不同账号可用模型可能不同。3.2 Anthropic Messages 最小调用Anthropic 的请求结构和 OpenAI 有明显区别system是顶层字段max_tokens是必填项。# demo_anthropic.py import anthropic client anthropic.Anthropic( api_keyos.getenv(ANTHROPIC_API_KEY), timeout10.0, max_retries2, ) response client.messages.create( modelclaude-3-5-haiku-latest, max_tokens200, system你是一个简洁的中文助手。, messages[ {role: user, content: 用一句话解释什么是 API 超时。}, ], ) print(response.content[0].text) print(response.usage)运行方式python demo_anthropic.py这里最容易犯的错误是漏掉max_tokens。Anthropic 的 Messages API 要求显式声明最大输出 Token 数不写会直接返回 400。另一个容易忽略的是system字段必须放在messages之外而不是塞进 messages 数组。3.3 流式输出与超时控制当模型回答很长时同步等待会导致“首字延迟”偏大用户端体验很差。生产环境通常使用流式输出。OpenAI 流式调用response client.chat.completions.create( modelgpt-4o-mini, messages[ {role: user, content: 用三句话介绍 Python 的装饰器。}, ], streamTrue, ) for chunk in response: if chunk.choices and chunk.choices[0].delta.content: print(chunk.choices[0].delta.content, end)Anthropic 流式调用with client.messages.stream( modelclaude-3-5-haiku-latest, max_tokens2048, messages[ {role: user, content: 用三句话介绍 Python 的装饰器。}, ], ) as stream: for text in stream.text_stream: print(text, end)流式输出的代价是错误处理变得更复杂。如果连接中途断开已经输出的内容不会回滚业务层需要决定是否记录部分结果、是否重试整个请求。建议先在非流式场景跑通再切换到流式。4. 关键参数与接口兼容性陷阱4.1 参数速查表下面是核心参数的对比用于日常开发速查。语义OpenAIAnthropic说明模型名modelmodel具体名称以平台可用模型为准系统提示词messages中 rolesystemsystem顶层字段不可盲目互相替换对话消息messagesmessagesAnthropic 的 messages 中通常不含 system最大输出长度max_tokens/max_completion_tokensmax_tokensAnthropic 必填随机性temperaturetemperature取值一般为 0 到 1 或 0 到 2以文档为准停止序列stopstop_sequences字段名不同流式输出streamTruestreamTrue或 SDK stream 方法SDK 封装方式不同结果文本choices[0].message.contentcontent[0].text解析路径不同其中max_tokens是一个典型的版本变化点。OpenAI 部分新模型已经使用max_completion_tokens来控制包含思考过程的输出长度老参数可能被提示废弃。不要写死一个参数然后换模型要根据模型文档动态选择。4.2 SDK 版本与参数演进OpenAI Python SDK 在 v1.x 后的风格相对稳定但参数仍在持续演进。Anthropic SDK 的迭代速度也较快不同版本对system、thinking、tools的支持程度不同。建议在项目中固定版本# requirements.txt openai1.x.x anthropic0.x.x python-dotenv1.x.x具体版本号以当前 PyPI 发布为准。固定版本之后升级时单独提交、单独回归测试避免一次升级带来多个不兼容变更。4.3 接口兼容层与报错定位很多内部基础设施会做接口转换把 OpenAI 格式的请求转换为 Anthropic 格式或者反过来。兼容层能降低迁移成本但也会带来问题转换层不知道目标平台特有的参数。报错信息可能来自转换层而不是模型服务。流式响应的切片结构可能被重新封装。因此收到 400 错误时不要只盯着 HTTP 状态码先看响应体中的error.message或error.type它通常直接指出哪个字段不合法。注意如果请求在开发环境正常、在测试环境报错优先对比两边的 Base URL、环境变量和 SDK 版本而不是盲目改代码。5. 运行验证如何判断调用真正成功5.1 成功的响应结构OpenAI 成功响应核心结构示例{ id: chatcmpl-example, object: chat.completion, choices: [ { index: 0, message: { role: assistant, content: API 超时是客户端在指定时间内没有收到服务端响应。 }, finish_reason: stop } ], usage: { prompt_tokens: 25, completion_tokens: 18, total_tokens: 43 } }Anthropic 成功响应核心结构示例{ id: msg_example, type: message, role: assistant, content: [ { type: text, text: API 超时是客户端在指定时间内没有收到服务端响应。 } ], stop_reason: end_turn, usage: { input_tokens: 25, output_tokens: 18 } }验证时不要只看“有没有输出”。还要检查finish_reason或stop_reason是否正常。usage是否合理防止输出被截断而不自知。多轮对话时上下文是否按预期增长。5.2 用 HTTP 状态码定位问题状态码常见含义排查方向200成功检查返回内容是否符合预期400请求参数错误查看响应体中的 error.message401鉴权失败检查 API Key 是否正确、是否过期403权限不足检查账号权限、组织策略限制404地址或模型不存在检查 Base URL、模型名429限流或配额不足检查并发、配额指数退避500服务端异常等待服务恢复确认是临时故障503服务暂不可用查看服务状态页准备降级方案5.3 用 curl 快速验证接口当代码报错时先用 curl 直接请求接口可以快速隔离“代码问题”和“网络/Key/服务端问题”。OpenAI 示例curl -sS https://api.openai.com/v1/chat/completions \ -H Authorization: Bearer $OPENAI_API_KEY \ -H Content-Type: application/json \ -d { model: gpt-4o-mini, messages: [{role: user, content: hi}], max_tokens: 20 }Anthropic 示例curl -sS https://api.anthropic.com/v1/messages \ -H x-api-key: $ANTHROPIC_API_KEY \ -H anthropic-version: 2023-06-01 \ -H Content-Type: application/json \ -d { model: claude-3-5-haiku-latest, max_tokens: 50, messages: [{role: user, content: hi}] }如果 curl 正常、SDK 报错问题大概率在 SDK 版本、参数名或请求封装上。如果 curl 也失败则问题在网络链路、Key 或服务端状态。6. 常见问题排查连接失败、鉴权、限流与安全6.1 unable to connect to anthropic services 怎么查经常有人遇到这一类错误unable to connect to anthropic services failed to connect to api.anthropic.com现象是 SDK 抛连接异常请求没有进入业务处理阶段。按下面顺序排查确认网络出口执行curl -v https://api.anthropic.com/v1/messages观察是否能完成 DNS 解析和 TLS 握手。检查域名解析执行nslookup api.anthropic.com如果解析失败可能是当前环境的 DNS 配置问题。检查代码里的 Base URL确认没有被修改成不存在的地址。检查网络策略如果服务器部署在受限网络环境需要联系网络管理员按企业合规流程放行对应域名和 TLS 端口。查看服务状态极少数情况是服务商暂时不可用可以通过官方状态页确认。这个问题的关键在于不要把“连接失败”当成“鉴权失败”。连接失败发生在发送请求之前和 API Key 是否正确无关。6.2 401 authentication_error现象Error code: 401 - {error:{message:Incorrect API key provided,type:authentication_error}}常见原因环境变量没有加载os.getenv(OPENAI_API_KEY)返回 None。Key 前后有空格或换行。Key 已经被轮换或删除。OpenAI 使用了错误的组织或项目 Key。排查时可以打印掩码后的 Key不要打印完整内容key os.getenv(OPENAI_API_KEY) if key: print(key[:6] ... key[-4:])确认格式正确后再检查平台端是否仍有效。如果无法确认直接撤销并重新生成。6.3 429 rate_limit_error现象Error code: 429 - rate_limit_exceeded常见原因同一时间并发请求过多。免费额度或账户配额用完。单模型依赖了同一个共享配额池。处理建议临时降低并发和 QPS。在重试逻辑中使用指数退避不要固定间隔重试。如果需要更高吞吐申请更高配额或使用异步批量处理。注意429 时的重试如果太激进会加重服务端压力反而延长恢复时间。重试间隔建议从 1 秒起步按 2 倍递增最大间隔不要超过 60 秒。6.4 400 invalid_request_error现象Error code: 400 - invalid_request_error message: ... required field is missing常见原因Anthropic 请求缺少max_tokens。OpenAI 新模型传了不支持的老字段。content使用错误类型例如应该是数组却传成纯字符串。系统提示词放入了错误的位置。处理建议以响应体中的message为准逐字段对照官方文档。不要顺手注释掉字段逃避而是理解每个字段为什么必填。6.5 API Key 安全清单不要把 Key 提交到 Git 仓库包括README、测试代码、截图。不要在日志中打印完整 Key。不要把自己的 Key 分享给不可信的工具或第三方服务。使用环境变量、容器密钥、密钥管理服务保存 Key。周期性轮换 Key成员离职或疑似泄漏时立即撤销。为不同环境使用不同 Key例如开发环境和生产环境分开。这一项虽然看起来不涉及业务逻辑但一旦 Key 泄漏攻击者可以直接消耗你的费用额度甚至影响整个账号。生产环境必须把密钥管理当作一等公民对待。7. 最佳实践与扩展方向7.1 封装统一客户端接口项目中如果同时使用多个大模型服务建议自己封装一层薄客户端把 Key 读取、超时、重试、日志统一处理。下面是一个最小示例用于说明思路from typing import List, Dict class LLMClient: def __init__(self, provider: str, api_key: str, **kwargs): self.provider provider if provider openai: from openai import OpenAI self.client OpenAI(api_keyapi_key, **kwargs) elif provider anthropic: import anthropic self.client anthropic.Anthropic(api_keyapi_key, **kwargs) else: raise ValueError(funsupported provider: {provider}) def chat(self, messages: List[Dict], system: str None, **kwargs): if self.provider openai: if system: messages [{role: system, content: system}] messages return self.client.chat.completions.create( messagesmessages, **kwargs, ) elif self.provider anthropic: max_tokens kwargs.pop(max_tokens, 200) return self.client.messages.create( systemsystem, messagesmessages, max_tokensmax_tokens, **kwargs, )这个封装并不完整真正落地时还需要处理返回结果的统一格式。流式响应与普通响应的区分。错误类型映射。日志记录与 Key 脱敏。封装的价值不在“好看”而在于换服务商时只改一个模块业务层不用跟着变动。7.2 学习环境与生产环境的差异维度学习环境生产环境密钥.env本地保存密钥管理服务或容器密钥超时默认值即可按业务响应时间设置合理超时重试可不管指数退避 熔断日志print 输出结构化日志脱敏后输出监控不必须请求量、失败率、Token 消耗成本少量测试即可每日额度、单次调用成本统计回滚不需要多模型降级和开关控制学习环境追求快速跑通生产环境必须把异常路径考虑完整。很多线上事故不是模型回答错误而是网络抖动、配额耗尽、密钥过期这些基础问题没有被处理。7.3 下一步扩展方向跑通基础调用之后可以沿着三条路线继续深入Agent 与工具调用研究 tools 参数、函数调用、多轮对话状态管理让模型可以调用外部 API。可解释性与评估使用自动化测试对模型输出做回归验证理解模型的可解释性分析方法不要只凭感觉判断效果。工程化治理完善限流、缓存、Token 统计、提示词版本管理、模型灰度切换等能力。其中最值得先做的是“从单次请求到稳定服务”。先跑通一次调用只是开始后续真正花时间的地方是如何让系统在超时、限流、模型升级、Key 轮换时仍然稳定可用。对于新手建议只做一个练习用同一套对话逻辑分别调用 OpenAI 和 Anthropic把结果解析成统一结构。这个练习能让你同时掌握两家接口的差异也能帮你理解为什么大模型应用层的封装如此重要。