程序员面试专题库

提示词不是临时文案。只要影响线上输出，就需要版本、评测、灰度和回滚，否则一次小改动可能破坏大量已有场景。

模型降级不是简单切到便宜模型。不同任务的正确性要求、可见承诺、延迟预算和失败处理，决定了降级能不能上线。

大模型成本上涨往往藏在长上下文、重复重试、无效流式输出和缓存失效里。面试里讲成本治理，要能把账单拆回一次请求的真实链路。

向量检索质量不只取决于模型，embedding 版本、切分策略、索引参数、权限过滤和回滚方案都会影响线上效果。

流式输出不只是把字一个个吐给前端。后端要管理模型连接、客户端取消、超时、背压、部分结果和错误收尾。

评测集不是攒一堆问题，而是覆盖真实任务、历史坏例和边界场景，让每次改动都有回归依据。

向量检索质量不只取决于向量数据库，embedding 模型、文本切分、领域词和评估样本都会决定召回效果。

大模型安全不是提示词里写几句禁止，而是后端要设计输入、输出、权限、确认和审计的完整边界。

模型路由不是简单把请求分给便宜模型，而是按任务难度、风险、延迟和成本选择合适路径。

AI 项目要从模型效果走向业务闭环，能说明指标、反馈、坏例、迭代和监控，才像真实上线系统。

结构化输出不是让模型“按 JSON 返回”这么简单，后端必须承担解析、校验、重试、降级和审计。

Agent 记忆的核心不是保存更多聊天记录，而是管理当前任务状态、长期偏好、权限边界和可删除能力。