亚马逊云计算部门AWS在re:Invent 2024大会上推出新工具Automated Reasoning checks，旨在应对AI模型“幻觉”问题。该工具通过交叉验证客户提供的信息来核实模型回答的准确性，被AWS称为防范幻觉的“首个且唯一”安全保障。
行业竞品对比与工作原理
实际上，微软此前已推出功能相似的Correction工具，Google Vertex AI也允许利用第三方数据或自有数据集进行事实核查。AWS Automated Reasoning checks集成于Bedrock Guardrails中，其核心机制如下：
- 建立基准：客户上传信息构建事实基准，系统据此创建并优化规则应用于模型。
- 实时验证：生成回复时自动校验，若检测到潜在幻觉，将依据事实提供正确答案。
- 直观展示：并列呈现正确与错误答案，帮助客户评估模型偏离程度。
AWS表示，PwC已在设计AI助手时采用该工具。负责AI和数据的高级副总裁Swami Sivasubramanian强调，此类功能是吸引客户使用Bedrock的关键，过去一年Bedrock客户群增长4.7倍至数万家。
技术局限性与可靠性存疑
尽管AWS声称该工具基于“逻辑准确”和“可验证推理”，但未公开任何可靠性数据。专家指出，消除生成式AI幻觉难度极高，因为模型本质是统计预测系统而非知识载体，其回应是对“应如何回答”的预测，天然存在误差范围。
Model Distillation：大模型能力迁移
AWS同步宣布Model Distillation功能，可将Llama 405B等大模型的能力迁移至Llama 8B等更小、更快、成本更低的模型。该功能对标微软Azure AI Foundry蒸馏工具，由Bedrock自动生成回复、微调小模型，必要时还能补充示例数据完成知识蒸馏。
使用限制：
- 仅支持Anthropic和Meta托管在Bedrock上的模型。
- 大小模型必须属于同一“家族”，不可跨提供商选择。
- 蒸馏后模型准确性会有所损失（AWS称不到2%）。
目前，Model Distillation与Automated Reasoning checks均已进入预览阶段。
多智能体协作：复杂任务自动化
Bedrock Agents新增“多智能体协作”预览功能，允许将AI分配给大型项目的子任务（如财务审查、趋势评估）。客户可指定“主管代理”自动分解任务、路由信息，并协调并行处理与依赖关系。当各专项AI完成任务后，主管代理负责汇总综合结果。
尽管上述新功能前景可观，但其实际部署效果仍有待市场检验。