程序员面试专题库

模型降级不是简单切到便宜模型。不同任务的正确性要求、可见承诺、延迟预算和失败处理，决定了降级能不能上线。

大模型成本上涨往往藏在长上下文、重复重试、无效流式输出和缓存失效里。面试里讲成本治理，要能把账单拆回一次请求的真实链路。

Agent 从聊天演示走向生产后，长任务必须具备队列、状态机、租约、取消、恢复和结果持久化能力。

流式输出不只是把字一个个吐给前端。后端要管理模型连接、客户端取消、超时、背压、部分结果和错误收尾。

Agent 接上工具后，风险从回答质量扩展到真实副作用。参数、权限、幂等、审计和人工确认必须进入后端设计。

长任务 Agent 要像工作流系统一样管理状态，不能把执行进度只放在一次模型上下文里。

模型路由不是简单把请求分给便宜模型，而是按任务难度、风险、延迟和成本选择合适路径。

AI 项目要从模型效果走向业务闭环，能说明指标、反馈、坏例、迭代和监控，才像真实上线系统。

AI 后端不能只关注回答质量，模型调用的超时、失败、成本和降级策略同样决定项目是否能上线。

Agent 项目真正难的是让模型动作可控、可审计、可恢复，而不是把几个函数接给模型。

AI 后端不是把模型接口接通就结束，面试官更关心上下文、工具调用、失败处理、成本延迟和可观测性。

大模型应用面试不是炫模型名，而是讲清你如何把不稳定的模型输出变成可用的业务系统。