程序员面试专题库

流式输出不只是把字一个个吐给前端。后端要管理模型连接、客户端取消、超时、背压、部分结果和错误收尾。

RAG 重排的价值是把真正有用的证据放到前面，但它也会带来延迟和成本，需要按场景取舍。

模型路由不是简单把请求分给便宜模型，而是按任务难度、风险、延迟和成本选择合适路径。

大模型应用真正难的是评估。面试里要讲清好答案如何定义、坏例如何积累、上线后如何持续发现问题。

大模型应用面试不是炫模型名，而是讲清你如何把不稳定的模型输出变成可用的业务系统。