AI 应用开发不是单点调 API，而是模型、检索、工具、评测与运维的串联工程。

知识主线

后端工程师进入 AI 领域，建议按四条线并行：大模型基础（Token、采样、结构化输出）、Agent（Loop、Memory、工具）、RAG（索引、召回、更新）、系统设计（网关、安全、可观测、评测）。四条线互相依赖——只懂 Prompt 不懂召回，知识库问答会翻车；只懂 RAG 不懂权限，生产环境会泄露。

工作机制

一次典型企业问答请求：入口鉴权 → 查询改写 → 混合检索 → 重排 → 上下文组装 → 模型生成 → 引用校验 → 日志落盘。任何环节缺失都会在 Demo 与生产之间形成鸿沟。

工程实践

优先建立 Golden Set 与回归评测，再迭代 Prompt 和检索；网关层统一限流、路由与成本核算；Agent 工具调用必须最小权限 + 审计。学习顺序建议：核心概念 → LLM 机制 → Agent/RAG 专题 → 面试题查漏补缺 → 系统设计收尾。

常见误区

把「全量文档塞进上下文」当 RAG；把 MCP 当安全方案；忽略 Token 预算导致长任务失忆；Demo 未做失败重试与结构化校验就上线。

延伸思考

落地时建议把「模型能力」与「业务 SLO」分开管理：前者关注准确率与工具成功率，后者关注 P95 延迟、单次对话成本、人工接管比例。团队若从后端转型，应优先补齐异步任务、幂等与可观测的既有经验，再叠加 RAG 与 Agent 编排。上线前至少准备三类用例：正常问答、权限边界、对抗输入（注入、越权工具调用）。

实践小结

行动清单：① 画出你负责系统的 AI 请求链路；② 选 30 条真实问题建 Golden Set；③ 明确 RAG 权限过滤点与 Agent 工具 allowlist；④ 在网关层接好 Token 计量；⑤ 每周复盘一次 Badcase 归属层（检索/生成/工具/策略）。完成这五步，再扩展 Agent 或多模型路由，投入产出比更高。

工程检查清单

检查清单：入口是否鉴权；检索是否带 ACL；Agent 工具是否分级；Prompt/索引/模型是否版本化；是否有 Golden Set weekly 回归；网关是否限流与计量；Trace 能否关联一次问答的检索片段与 tool call；失败是否有降级（拒答/转人工/纯搜索）。缺任一项，Demo 上生产都会在首波流量下暴露问题。

读者 takeaway

读者 takeaway：AI 应用开发本质是软件工程，模型只是组件之一。先建立评测与观测，再扩展 Agent 与多模型；用数据证明每次迭代，而非凭直觉换 Prompt 或换库。