标准答案
- 维护模型能力矩阵和供应商替代关系,提前验证上下文、工具、Schema、语言、区域、数据保留、价格和限流。
- 故障切换使用有限重试、熔断和预批准备用路由,记录实际模型;无法满足安全或质量门槛时转异步、草稿或人工,而不是强行返回。
- 切换后跑关键 Golden Set 和线上健康检查,恢复时逐步切回并复盘供应商错误、成本和质量差异。
题目解析
区域限制和合规策略是硬约束,不能因为供应商 5xx 就自动跨境。
备用模型可能不支持相同工具或输出格式,需要适配器、不同 Prompt 或关闭部分流程。
熔断防止故障放大,重试要有抖动和预算;供应商恢复后也不能瞬间全量切回造成二次故障。
常见误区
- 把所有供应商都当成完全兼容。
- 故障时无限重试主供应商。
- 备用路由未经过数据和安全审批,线上才第一次使用。