面试题:AI全栈
AI 全栈工程师岗位相关的 AI 应用开发、Agent 工作流、模型接入和产品落地面试准备。
大语言模型的 Token、上下文窗口和生成长度分别影响什么?
Token 决定计费和上下文容量,生成长度决定输出上限;三者需要结合输入、输出和模型限制一起判断。
AI 应用基础与模型调用AI全栈中频题
Temperature、Top P、最大输出 Token 和停止词分别控制什么,为什么不应同时随意调高?
这些参数分别影响采样随机性、候选范围、输出上限和终止条件;调参前要先明确任务是确定性生成还是开放式创作。
AI 应用基础与模型调用AI全栈中频题
Chat Completions、Responses 或同类对话接口中的 system、user、assistant 消息怎样分工?
消息角色表达不同来源和优先级的上下文,但不能把角色名称当成完整的安全边界;服务端仍需做权限和输出校验。
AI 应用基础与模型调用AI全栈中频题
如何设计一个可替换模型供应商的服务层,避免业务代码绑定某家 SDK?
核心是把业务意图、统一请求模型、供应商适配和能力差异分层,同时保留原始请求与响应以便排查。
AI 应用基础与模型调用AI全栈中频题
模型请求超时、限流、上下文过长和内容拒答应分别怎样处理?
这四类失败的责任边界不同:超时看链路和取消,限流看退避与配额,上下文超长看输入治理,拒答看安全策略和用户替代路径。
AI 应用基础与模型调用AI全栈中频题
流式输出和一次性返回在用户体验、错误处理、审计和计费上有什么差异?
流式响应降低首字延迟并适合长输出,但不会自动降低总耗时或成本,还需要处理断线、半截输出和最终用量。
AI 应用基础与模型调用AI全栈中频题
如何估算一次模型调用的 Token 成本、延迟和并发容量?
估算要拆开输入、输出、请求速率和模型服务能力,最终用线上 usage 与延迟数据校准,而不是只看单次演示。
AI 应用基础与模型调用AI全栈中频题
结构化输出、JSON Schema 和函数调用分别解决什么问题,如何校验模型返回值?
结构化能力能提高输出可解析性,但模型仍是不可信输入;Schema 约束、解析校验和业务校验缺一不可。
AI 应用基础与模型调用AI全栈中频题
模型版本、别名和供应商路由怎样管理,如何避免模型升级导致线上行为悄悄变化?
模型名只是路由入口,生产系统需要记录实际版本、能力、配置和 Prompt 版本,并用评测与灰度控制变化。
AI 应用基础与模型调用AI全栈中频题
一个 AI 功能如何设计模型降级、重试和人工接管策略,避免失败时无限重试?
可靠性设计要先定义任务是否可重试、可降级和可人工接管,再用预算、deadline 和状态机约束自动化路径。
AI 应用基础与模型调用AI全栈中频题