Amazon Bedrock 为所有 Claude 模型支持结构化输出
决策简报
Brief- 发生了什么
- Amazon Bedrock 在 bedrock-runtime 和 bedrock-mantle 两个端点上为所有 Anthropic Claude 模型提供结构化输出,通过 JSON Schema 和严格工具使用强制模型返回符合 schema 的 JSON。
- 为什么重要
- Claude 相关结果会影响评测基准、技术路线和后续产品判断。
- 影响谁
- Claude
- 建议动作
- 升级或复核变更版本
- 地区可用性
- 暂未验证地区可用性差异。
关键事实
- Amazon Bedrock 在 bedrock-runtime 和 bedrock-mantle 两个端点上为所有 Anthropic Claude 模型提供结构化输出,通过 JSON Schema 和严格工具使用强制模型返回符合 schema 的 JSON。 [src-aws-ml]
- 调用 Claude 的开发者不再需要手写解析和重试逻辑,严格工具使用还能保证 Agent 工具参数完全符合 schema,多步自动化流程的可靠性明显提升。 [src-aws-ml]
由事件证据自动生成。
Amazon Bedrock 现在为所有 Anthropic Claude 模型提供结构化输出,覆盖 bedrock-runtime 和 bedrock-mantle 两个端点。该功能采用约束解码,在 token 生成阶段就强制模型遵循 JSON Schema,使输出格式从概率性变为确定性。开发者可通过 output_config.format 传入 schema,或在对工具定义设置 strict: true 来严格校验工具参数。JSON Schema 支持 Draft 2020-12 的子集,schema 编译产物按账户缓存 24 小时,首次使用新 schema 的请求会略慢,后续请求开销极小。 使用 Claude API 的开发者可以直接获得合法且类型安全的 JSON,不再需要 JSON.parse() 异常处理和因 schema 违规而重试。结构化输出还约束模型只生成 schema 定义的字段,减少输出 token 数,对高并发批量推理可降低推理成本。该功能支持批量推理和跨区域推理,并支持流式结构化响应。 对于在 Amazon Bedrock Mantle 上构建 Agent 的团队,严格工具使用能保证工具参数精确匹配输入 schema,避免多步工作流因参数格式错误而失败。数据提取、工单分类和合同分析等场景可以直接对接数据库或 CRM,无需额外校验代码。
摘要依据:已读全文详摘依据上方标注的来源范围整理,内容以原文为准。
来源
- AWS:Machine Learning Blog
Applied ML, infra, and deployment guidance useful for AI builders on AWS.
- AWS:Machine Learning Blog
留言
登入后即可留言,和其他 builder 交换实测心得。
还没有留言,抢头香。