标准答案

  1. 维护模型能力矩阵和供应商替代关系,提前验证上下文、工具、Schema、语言、区域、数据保留、价格和限流。
  2. 故障切换使用有限重试、熔断和预批准备用路由,记录实际模型;无法满足安全或质量门槛时转异步、草稿或人工,而不是强行返回。
  3. 切换后跑关键 Golden Set 和线上健康检查,恢复时逐步切回并复盘供应商错误、成本和质量差异。

题目解析

区域限制和合规策略是硬约束,不能因为供应商 5xx 就自动跨境。

备用模型可能不支持相同工具或输出格式,需要适配器、不同 Prompt 或关闭部分流程。

熔断防止故障放大,重试要有抖动和预算;供应商恢复后也不能瞬间全量切回造成二次故障。

常见误区

  • 把所有供应商都当成完全兼容。
  • 故障时无限重试主供应商。
  • 备用路由未经过数据和安全审批,线上才第一次使用。

作者信息