标准答案
- 第三方 API 上手快、模型能力和弹性较强，但受供应商价格、区域、配额、政策和网络影响；自托管能控制数据与版本，但承担 GPU、部署、升级、监控和容量成本。
- 比较时看总成本：硬件折旧、空闲容量、工程人力、延迟、质量、故障和合规成本都要算，不只看推理单价。
- 可按任务和数据等级混合部署，先用评测集验证质量与能力，再用灰度和明确降级边界决定路由。
题目解析
自托管不自动等于隐私安全，日志、模型权重、GPU 节点和运维人员仍可能接触数据。
低流量或高波动任务通常更看重弹性，高稳定吞吐和严格数据边界的任务才可能从自托管获得优势。
能力差异包括工具调用、结构化输出、上下文、语言和安全策略；切换前要验证整个应用流程。
常见误区
- 只用云 API 价格和 GPU 租金做简单比较。
- 自托管后不做模型升级、权重和节点安全治理。
- 看到模型能生成文本就认为能替代所有工具和结构化能力。