标准答案

  1. 将业务任务与模型路由解耦,例如为摘要、代码生成和敏感数据场景分别配置策略。别名可以用于切换,但发布记录必须包含实际模型版本和供应商。
  2. 每次调用记录任务、路由规则版本、实际模型、Prompt 版本、采样参数、输入输出 Token、延迟、错误和评测标签,才能解释行为变化。
  3. 模型升级先离线跑 Golden Set,再做小流量灰度,比较质量、格式通过率、成本、延迟和安全结果;出现回归时回滚路由或 Prompt,而不是只依赖供应商“兼容”承诺。

题目解析

语义版本和模型版本不是一回事。供应商可能更新别名背后的模型,或者在同一模型下调整系统路由。对可审计任务应尽量使用有明确版本的标识,并保留供应商返回的模型字段。

切换模型要检查能力矩阵:上下文窗口、视觉、工具调用、结构化输出、区域可用性、数据保留和速率限制都可能不同。

灰度不只按流量百分比,也可按租户、任务类型或非敏感样本分组。涉及隐私和合规的模型路由不能为了实验把数据发到未经批准的供应商。

回归评测要包括失败样本和安全样本,而不是只看平均分。一次高风险错误可能比大量普通回答的轻微提升更重要。

常见误区

  • 只在配置里保存一个模型别名,不记录实际模型和配置版本。线上无法复现问题。
  • 认为模型升级只需重新跑单元测试。生成质量、拒答、工具参数和成本都需要评测。
  • 用生产敏感数据直接做灰度实验。应先明确数据策略,优先使用脱敏或合成样本。

作者信息