我们都在讨论使用大型语言模型带来的商业收益，但这些模型存在许多已知问题。找到限制模型回答内容的方法，是控制这些强大技术的一种有效途径。今天，在拉斯维加斯举行的 AWS re:Invent 大会上，AWS CEO Adam Selipsky 宣布了 Amazon Bedrock 的 Guardrails（护栏）功能。
该公司今早在一篇博客文章中写道：“借助 Amazon Bedrock 的护栏功能，您可以始终如一地实施安全措施，以提供符合公司政策和原则的相关且安全的用户体验。”
这一新工具允许企业定义并限制模型可以使用的语言类型。如果有人提出与正在创建的机器人无关的问题，它将不会作答，而不是提供一个看似合理但错误的答案，或者更糟——提供具有冒犯性且可能损害品牌形象的内容。
核心功能与应用场景
在最基本的层面上，该功能允许你定义模型不得涉及的“禁区”主题，从而使其直接忽略不相关的问题。例如，一家金融服务公司可能希望避免让机器人提供投资建议，以防其给出不当建议而被客户认真对待。此类场景可按如下方式运作：
“我指定一个被禁止的主题名称为‘投资建议’，并提供自然语言描述，例如：‘投资建议是指关于资金管理或资产配置、旨在产生回报或实现特定财务目标的咨询、指导或推荐。’”
此外，你还可以过滤掉特定的单词和短语，以消除任何可能具有冒犯性的内容，并通过为不同词汇和短语应用不同的过滤强度，向模型明确这些内容属于禁区。最后，你可以过滤掉个人身份信息（PII）数据，确保私人信息不会出现在模型的回复中。
行业观点
Constellation Research 的创始人兼首席分析师 Ray Wang 表示，这可能是开发人员在使用大型语言模型时控制不良响应的关键工具。“最大的挑战之一是打造安全且易于使用的负责任 AI。内容过滤和个人身份信息（PII）处理是开发者面临的五大主要问题中的两项，”Wang 告诉 TechCrunch。“透明性、可解释性和可逆性同样至关重要。”他说。
该护栏功能今日以预览形式发布，预计明年某段时间将对所有客户开放。
