标准答案

  1. 上传先做大小、类型、扩展名、魔数、压缩炸弹和病毒扫描,存入隔离区;解析器在无网络、最小权限沙箱中运行。
  2. 网页和仓库内容抓取限制域名、重定向、网络出口、凭据和文件范围,解析后把内容标为不可信数据,不能自动执行其中命令。
  3. 进入知识库前做敏感信息、恶意指令和 Prompt Injection 检测,索引时保存来源与权限;展示和工具执行仍要再次校验。

题目解析

文件扫描不能只看扩展名,MIME、魔数和实际解析行为都可能不一致。

代码仓库中的 README、注释和依赖脚本可能诱导 Agent 执行危险命令,代码检索与代码执行必须严格分离。

内容安全检测有误报和漏报,不能代替沙箱、网络隔离和工具白名单;高风险内容进入人工审核。

常见误区

  • 上传后直接让模型读取并执行文件内容。
  • 用模型自己判断文档是否安全,没有独立扫描和隔离。
  • 抓取网页时允许任意内网 URL 和重定向。

作者信息