标准答案
- 入口生成 requestId 和 traceId,消息、任务、模型调用、检索、重排、工具和输出都带关联 ID 与序号,跨服务透传。
- 记录 Prompt 版本、模型与路由、参数、上下文组成摘要、候选来源 ID、工具版本、Token、延迟、错误和最终状态;原文按隐私策略保存或脱敏。
- 复盘时先复现输入和版本,再按召回、上下文、模型生成、业务校验和展示链路定位;修复后把案例加入 Golden Set。
题目解析
只记录最终 Prompt 仍可能无法复现,因为检索结果、会话摘要和供应商模型版本变化了。应保存足够的版本和快照引用。
可观测数据也有隐私风险。日志系统要做访问控制、脱敏、采样和保留期限,不能为了调试长期保存完整用户对话。
错误分类要区分事实错误、引用错误、权限泄露、格式错误、超时和用户预期不符,不同问题的修复路径不同。
常见误区
- 只打印“模型返回失败”,没有请求关联和版本。
- 为排查问题把所有敏感 Prompt 和响应永久写日志。
- 复盘后不更新评测集,问题会在模型或 Prompt 变更后再次出现。