程序员面试专题库

模型降级不是简单切到便宜模型。不同任务的正确性要求、可见承诺、延迟预算和失败处理，决定了降级能不能上线。

流式输出不只是把字一个个吐给前端。后端要管理模型连接、客户端取消、超时、背压、部分结果和错误收尾。

AI 后端不能只关注回答质量，模型调用的超时、失败、成本和降级策略同样决定项目是否能上线。