标准答案
- 个人信息输出要做检测、最小化和权限核验;与当前任务无关的敏感内容应脱敏或拒绝展示,不能因为模型生成就认为是公开信息。
- 版权内容应尽量给摘要、引用和来源而不是大段复制,遵循产品授权和地区政策;代码、文档和用户上传内容要保留来源边界。
- 医疗、法律、金融、安全等高风险建议应限制自动决策,展示适当的风险提示、证据和人工/专业渠道,禁止模型直接执行关键动作。
题目解析
内容过滤应结合输入、检索和输出,事后过滤无法阻止工具已执行的副作用。高风险动作要在执行前拦截和确认。
版权判断不是简单关键词过滤,需要数据来源、许可、输出长度和使用场景的产品策略。
风险提示不能掩盖错误答案。应优先提供来源、限制范围和转人工路径,必要时拒绝给出具体操作。
常见误区
- 看到模型输出就认为它不承担内容责任。
- 只在页面底部放免责声明,不限制自动执行。
- 为了减少误报完全关闭敏感信息检测。