专注AIGC技术的专业社区，关注大语言模型（LLM）的发展和应用落地，聚焦LLM及AI技术的市场研究和开发者生态，欢迎关注！
面对“寻找20美元以内、黑色、评分4.5分以上腰包”这类复杂指令，购物智能体需完成搜索、核对价格与评分、动态调整策略并输出推荐的全流程。AWS于11月2日发布技术文章，展示如何利用大模型生成操作轨迹，进而训练小模型实现高效推理。该方案以GLM-5.3为教师模型，Qwen3.5-4B为学生模型，依托Amazon SageMaker AI完成数据筛选、微调及评估。
教师模型生成任务轨迹，经评分器筛选成功记录后用于训练学生模型。图片来源：AWS。
序列级知识蒸馏：复刻教师模型完整操作流程
该方法核心为序列级知识蒸馏（SeqKD）。教师模型接收指令后，执行逐步推理与工具调用（如搜索商品、校验参数），最终输出推荐结果。学生模型学习的并非单一答案，而是包含推理逻辑与工具交互的完整操作序列。
实验基于ShoppingBench数据集，涵盖750道合成购物题（商品、店铺、优惠券各250道），其中42道用于训练，324道用于测试。教师模型GLM-5.3在Amazon Bedrock上对每道训练题生成两条尝试轨迹，共计850条。通过内置评分器校验，仅保留满足条件的成功轨迹。
每条轨迹整合了用户需求、模型推理、工具调用及返回结果。AWS将其拆解为逐步训练样本，整理出约2600条训练记录和130条验证记录，随后在SageMaker AI上对学生模型进行LoRA微调。
推理与执行分离：学生模型主导工具调用
训练阶段，学生模型依据当前对话状态生成下一步推理及操作指令。搜索返回的数据融入上下文，引导模型决定后续动作直至完成推荐。
部署架构中，模型负责生成工具调用指令，外部智能体程序负责解析指令、执行工具并将结果反馈给模型。训练好的模型部署于SageMaker AI推理端点，通过工具循环处理ShoppingBench测试题。
值得注意的是，教师模型仅参与训练数据生成。学生模型在训练及实际运行中无需访问教师模型的权重或内部输出分布，仅依赖其生成的文本轨迹知识。
测试表现：结合推理步骤显著提升成功率
在324道留出测试题中，模型需满足题目所有条件方可视为成功。平均成功率数据显示：
对比实验表明，仅学习工具调用的学生模型平均成功率为41.5%；而同时学习推理过程与工具调用的模型，平均成功率提升至54.1%。
在通用指令遵循测试IFEval中，蒸馏后模型的prompt-strict分数由0.819降至0.741，instruction-strict分数由0.872降至0.813。AWS指出，上述结果均基于单次LoRA运行得出。
从Demo到生产：Agent落地的全流程实践
此次技术实践展示了购物智能体的训练与部署闭环。要将Agent从演示阶段推向生产环境，还需解决快速构建、质量验收、安全防护及成本治理等关键问题。
亚马逊云科技推出「Agent速造局 4×1 实战课」，围绕上述四大环节开展系列培训。首期课程定于11月6日14:00—15:00举行，主题为“造不用手搓的 Agent”，重点讲解Runtime、Harness和MCP技术，旨在缩短开发至云端部署路径，统一工具接入，并解决会话隔离与文件持久化等技术难点。
END
