Amazon Web Services（AWS）宣布推出名为Automated Reasoning checks（自动化推理检查）的新工具，旨在检测人工智能模型的幻觉问题。在AWS re:Invent大会上公布的该工具会对客户提供的信息进行交叉引用以验证准确性，从而确认模型回答是否正确。
自动化推理检查是如何工作的？
Automated Reasoning checks可通过AWS Bedrock模型托管服务的Guardrails工具使用。该工具旨在理解模型得出答案的逻辑并判断其正确性。客户上传信息构建基本事实后，工具会自动生成规则；这些规则可由工具优化并应用于模型。
随着模型生成回答，Automated Reasoning checks会实时验证。若出现可能的幻觉，工具将参考基本事实提供正确答案，并与可能的错误答案一同呈现，让客户了解模型偏离事实的程度。PwC是使用该工具的机构之一，目前正利用其为客户设计人工智能助手。
Automated Reasoning checks因与微软今年夏季推出的Correction（修正）功能相似而备受关注，后者会标记AI生成且可能不符合事实的文本。此外，Google也在其Vertex AI平台中提供了类似工具，允许客户使用第三方数据、自有数据集或Google搜索数据对模型进行“接地”处理。
模型蒸馏
AWS还宣布了已在Bedrock范围内发布的Model Distillation（模型蒸馏）工具。该工具可将大型模型（如Llama 405B）的能力转移到运行成本更低、速度更快的小型模型（如Llama 8B）中。此前，Microsoft Azure AI Foundry中的Distillation工具也具备类似特性。
Model Distillation目前仅支持Amazon、Anthropic和Meta在Bedrock上托管的模型，用户只能选择同一模型家族中的大、小模型组合。据AWS表示，经过蒸馏的模型准确率损失将低于2%。
多智能体协作功能
活动中还提到了Bedrock的一项新功能——多智能体协作（multi-agent collaboration）。作为Bedrock Agents的一部分，该功能允许用户将子任务分配给人工智能以处理更大项目，为创建和配置AI提供了工具，适用于审查财务记录和评估全球趋势等场景。
用户可以指定一个“监督代理”（supervisor agent）来分解任务并自动引导至相应AI。根据AWS说明，承担监督任务的代理可以向特定代理授予信息访问权限，确定哪些操作可并行处理以促进进展，以及哪些操作需依赖其他任务的详细信息。当所有专家AI代理完成输入后，监督代理会将信息汇总并合成结果。
用户可以通过预览模式访问模型蒸馏、自动化推理检查和多智能体协作功能。AWS人工智能与数据执行副总裁Swami Sivasubramanian指出，Bedrock的客户群在去年增长了4.7倍，达到数万家客户，这一增长与他们开发的新工具密切相关。