标准答案
- 模型可能输出恶意字符串、错误参数或被注入的动作；把它直接拼进 SQL、Shell 或 HTML 会形成注入、越权、XSS 和数据破坏风险。
- 安全做法是使用参数化查询、受限命令/工具白名单、沙箱、Markdown 清洗和 Schema/业务校验，模型只提供候选值。
- 涉及写操作时先生成预览，服务端重新查询资源和权限，并通过幂等、确认和审计控制执行。
题目解析
即使模型本身没有恶意，也可能把用户输入原样带入输出。安全边界应放在执行器和渲染器，不依赖模型遵守说明。
参数化不能解决所有问题。动态表名、排序字段、文件路径和命令选项仍需白名单，权限和资源范围要由服务端计算。
输出安全和执行安全是两层：代码块安全展示不代表代码安全运行，链接安全展示也不代表目标站点可信。
常见误区
- 用正则过滤几个 SQL 或 Shell 关键词就直接执行。
- 把 JSON 合法当成命令安全。
- 使用 v-html 渲染模型输出而不做清洗。