Amazon Bedrock 推出 OpenAI GPT-5.6 模型跨区域推理功能

这篇文章是由 OpenAI 的 Chris Dickens 共同撰写的。

Amazon Bedrock 现在在超过 25 个 AWS 区域提供 OpenAI GPT-5.6 模型，并支持跨区域推理。三个 GPT-5.6 变体支持跨区域推理：Sol、Terra 和 Luna，每个变体都针对能力和成本的不同平衡进行了微调。

Amazon Bedrock 中的跨区域推理 (CRIS) 通过推理配置文件工作，这些配置文件定义了一个模型以及 Amazon Bedrock 可以向其路由请求的 AWS 区域。您从源区域调用配置文件，Amazon Bedrock 使用该区域的计算资源将请求路由到目标区域。CRIS 主要是一种容量机制。通过允许请求利用更广泛的计算池，而不是绑定到单个区域的可用容量，它可以提高吞吐量并在负载下帮助维持一致的性能。地理推理配置文件在单个地理区域内路由请求，因此您可以在保持数据在该地理区域内处理的同时进行扩展。对于 GPT-5.6，此发布引入了美国地理（美国跨区域推理）和全球 CRIS。全球推理配置文件根据实时容量在部署了该模型的所有受支持的 AWS 商业区域之间进行路由，为您提供广泛的 Amazon Bedrock 容量访问权限。

在这篇文章中，我们将简要介绍 Amazon Bedrock 上的 GPT-5.6 模型，地理和全球跨区域推理如何针对这些模型工作，以及如何从 Amazon Bedrock 控制台和代码中使用 OpenAI Responses API、OpenAI Chat Completions API 和 Amazon Bedrock Converse API 调用它们。

Amazon Bedrock 上的 GPT-5.6

Amazon Bedrock 上的 GPT-5.6 系列包括通用型和专用网络安全变体。本文涵盖了支持跨区域推理的三个通用型变体：Sol、Terra 和 Luna。这三个变体都接受文本和图像输入并返回文本，具有 100 万个 token 的上下文窗口，并支持推理模式、服务器端工具调用和提示词缓存。您可以使用 OpenAI Responses API、OpenAI Chat Completions API 和 Amazon Bedrock Converse API 调用它们。流式处理通过 Responses 和 Chat Completions API (stream=True) 以及 ConverseStream 得到支持。

Amazon Bedrock 推理配置文件是您传递的逻辑标识符，而不是原始模型 ID。

• 地理推理配置文件（带有地理代码前缀，例如 us.，例如 us.openai.gpt-5.6-terra）将推理处理保持在其预定义地理区域的区域内。请求通过您的源区域进入，并且只能路由到该地理区域内的目标区域，因此具有数据驻留要求的工作负载可以在保持在边界内的同时跨区域扩展。
• 全球推理配置文件（带有 global. 前缀，例如 global.openai.gpt-5.6-terra）可以根据实时容量将请求路由到部署了该模型的任何受支持的商业 AWS 区域。它提供了最广泛的容量池，当您的工作负载没有地理处理要求时，它是正确的选择。