亲爱的朋友们：
此前我们探讨了"AI 工程技能图谱”，其中最高阶技能涵盖：构建与部署 AI 应用、软件工程基础、编码智能体使用及塑造构建。本文将深入解析首要核心——构建和部署 AI 应用。
精通此领域需掌握六大关键维度：
- LLM 基础
- 数据驱动模型
- 智能体系统构建
- 基于评估的开发
- 生产环境运维
- 机器学习基础
该图谱基于大量职位分析、专家访谈及问卷调研得出。AI 应用与传统软件的核心差异在于输出的不可预测性。这种不确定性要求开发过程具备高度迭代性：工程师需根据中间结果动态调整策略，从而在不可靠的 AI 组件之上构建可靠系统。
LLM 基础：理解模型机制与边界
深入理解大型语言模型的分词机制与输出生成原理，是判断其适用场景及潜在失败风险的前提。这包括：
- 模型选型与权衡： 明确何时使用多模态模型，如何在上下文窗口中平衡内容，以及推理缓存、知识截止点、采样参数等关键技术指标。
- 高级技术应用： 掌握工具调用（Tool Calling）、微调（Fine-tuning）及自托管模型等专门技术，以优化模型组合效果。
用数据为模型提供依据：从 RAG 到多维数据架构
高质量的输入上下文是 LLM 产生有价值输出的基石。除了早期的向量搜索 RAG 技术，当前技术栈已显著扩展：
- 数据检索策略： 决策哪些内容直接放入提示词，哪些通过工具按需检索。
- 数据表示形式： 根据场景选择向量索引、知识图谱或结构化数据语义层。
- 数据管道建设： 将文本、PDF、图像等多模态文档转化为模型可用输入，并设计自动化管道确保数据的清洁度与时效性。
构建智能体系统：架构设计与安全治理
智能体系统跨度广泛，从预定义工作流到自主决策框架均属此列。构建稳健系统需关注：
- 架构决策： 规划步骤的串联与并行，平衡代码逻辑与 LLM 决策，设计回退机制。
- 核心组件： 确定工具调用范围（如 MCP、CLI、沙箱），设计记忆架构以管理长会话上下文，评估单智能体与多智能体编排需求。
- 安全与治理： 建立护栏机制，防御对抗性输入，规避数据外泄风险，确保原型向生产环境的平稳转化。
此外，需持续跟踪语音智能体、计算机操作智能体及生成式 UI 等前沿技术演进。
基于评估的开发：驱动迭代的核心闭环
区分优秀 AI 工程师的关键特质，在于能否建立纪律严明的“评估 - 错误分析”闭环。这是一项深层技术技能：
- 指标定义： 结合系统轨迹、探索性数据分析及商业洞察，确定核心衡量指标。
- 评估方法： 灵活选用确定性代码评估、LLM-as-a-judge 或人工评估，并定期审视评估体系本身的有效性。
- 迭代驱动： 利用评估结果系统化指导开发方向，避免随机试错。
生产环境运维：应对不确定性与成本挑战
AI 软件的运维面临独特的不可预测性、成本及延迟挑战：
- 可观测性建设： 监控真实性能，检测模型漂移，快速响应提示注入等安全事件。
- 测试与部署： 实施基于统计评估的回归测试与 CI/CD 流程，根据风险等级校准测试投入。
- 性能优化： 针对大规模用户场景，通过模型蒸馏、微调及工作流简化，平衡成本与延迟。
机器学习基础：底层思维框架
现代 LLM 源于监督学习与强化学习。优秀的 AI 应用工程师必须具备扎实的机器学习与深度学习功底：
- 模型理解： 熟悉主流模型架构，权衡准确率、训练速度与推理速度。
- 数据工程： 掌握训练与评估数据的设计原则。
- 核心思维： 运用偏差/方差分析、错误分析及数据工程思维，应对输出不确定系统的复杂决策。
构建和部署 AI 系统是一个技术深度极高的领域。掌握上述技能不仅能提升工程能力，更能助力打造更具创新性的应用。这些技能将与软件工程基础相辅相成，共同构成未来 AI 工程师的核心竞争力。
请不断构建！
吴恩达
