Amazon Bedrock 在加拿大開放 OpenAI GPT 模型跨區域推論
- 加拿大中部與加拿大西部（卡加利）區域可透過 Amazon Bedrock 跨區域推論使用 OpenAI GPT-5.6、GPT-6 與 GPT-6.1 模型。
- 這些模型可透過 OpenAI Responses API、Chat Completions API，以及 Amazon Bedrock Converse API 呼叫。
- US geographic inference profile 將請求路由至加拿大與美國；global profile 則可使用模型部署所在的支援商業 AWS 區域。
- Bedrock 會自動快取符合條件且至少 1,024 tokens 的提示前綴；後續讀取快取 tokens 可享折扣，且不計入 tokens-per-minute 配額。
本站見解
選擇 US geographic 或 global profile，會影響請求可處理的區域範圍與可用容量；對區域限制較嚴格的工作負載，前者較符合需求。採用跨區域推論時，資料靜態保存於來源區域，但標記為濫用的內容可能在目的區域保留最多 30 天，部署前應納入合規評估。
在加 加拿 拿大 大開 開放 模型 型跨 跨區 區域 域推 推論 大中 中部 部與 與加 大西 西部 卡加 加利 域可 可透 透過 論使 使用 這些 些模 型可 以及 呼叫 將請 請求 求路 路由 由至 至加 大與 與美 美國 則可 可使 用模 型部 部署 署所 所在 在的 的支 支援 援商 商業 會自 自動 動快 快取 取符 符合 合條 條件 件且 且至 至少 的提 提示 示前 前綴 後續 續讀 讀取 取快 可享 享折 折扣 且不 不計 計入 配額 選擇 會影 影響 響請 求可 可處 處理 理的 的區 域範 範圍 圍與 與可 可用 用容 容量 對區 域限 限制 制較 較嚴 嚴格 格的 的工 工作 作負 負載 前者 者較 較符 合需 需求 採用 用跨 論時 資料 料靜 靜態 態保 保存 存於 於來 來源 源區 但標 標記 記為 為濫 濫用 用的 的內 內容 容可 可能 能在 在目 目的 域保 保留 留最 最多 署前 前應 應納 納入 入合 合規 規評 評估
來源
- Access OpenAI GPT models on Amazon Bedrock from Canada with cross-Region inference · AWS Machine Learning
本文摘要與見解由 AI 自動生成，事實以原文為準。 AI 內容政策