标准答案

  1. Prompt 负责描述任务、输出形式和可解释的行为要求;上下文包括用户输入、历史、检索结果和工具结果;业务规则包括权限、金额范围、状态流转和合规要求。
  2. 适合交给模型判断的是语言理解、摘要、分类和候选方案生成;必须由代码或权威服务判断的是身份、权限、库存、支付和最终写入。
  3. 把所有内容堆进一段 Prompt 会导致上下文冗余、规则优先级不清、Token 成本上升和难以测试。应按来源、可信度、生命周期和是否需要实时查询分层。

题目解析

模型擅长处理不确定的自然语言,不擅长充当最终权限系统。即使 Prompt 写了“只能访问自己的数据”,也不能替代服务端按当前登录身份查询和过滤。

上下文工程关注“本轮到底给模型看什么”。相同 Prompt 在不同历史、检索片段和工具结果下会产生不同结果,因此需要记录上下文组成,而不只是保存模板。

规则放错层会产生两类问题:把可程序化的规则交给模型会有漏判,把需要语义理解的内容全部写死在代码里则维护困难。可靠方案通常是模型提出候选,程序做硬校验。

常见误区

  • 认为只要 Prompt 写得足够强就能实现权限控制。权限必须在服务端执行。
  • 把所有历史消息永久拼接。历史应按任务价值、时效和敏感性裁剪。
  • 把业务规则写进 Prompt 后不做代码校验。模型输出仍必须经过业务边界检查。

作者信息