程序员面试专题库

向量检索质量不只取决于模型，embedding 版本、切分策略、索引参数、权限过滤和回滚方案都会影响线上效果。

流式输出不只是把字一个个吐给前端。后端要管理模型连接、客户端取消、超时、背压、部分结果和错误收尾。

评测集不是攒一堆问题，而是覆盖真实任务、历史坏例和边界场景，让每次改动都有回归依据。

向量检索质量不只取决于向量数据库，embedding 模型、文本切分、领域词和评估样本都会决定召回效果。

大模型安全不是提示词里写几句禁止，而是后端要设计输入、输出、权限、确认和审计的完整边界。

企业 RAG 的权限问题不能交给模型自觉，必须在检索和上下文构造阶段就过滤掉无权限资料。

模型路由不是简单把请求分给便宜模型，而是按任务难度、风险、延迟和成本选择合适路径。

AI 项目要从模型效果走向业务闭环，能说明指标、反馈、坏例、迭代和监控，才像真实上线系统。

结构化输出不是让模型“按 JSON 返回”这么简单，后端必须承担解析、校验、重试、降级和审计。

Agent 记忆的核心不是保存更多聊天记录，而是管理当前任务状态、长期偏好、权限边界和可删除能力。

AI 后端不能只关注回答质量，模型调用的超时、失败、成本和降级策略同样决定项目是否能上线。

大模型应用质量差异往往不只来自模型，而来自上下文选择、证据组织、历史压缩和成本延迟取舍。