Nvidia 正在发布三款新的 NIM 微服务，即作为更大应用程序一部分的小型独立服务，以帮助企业在他们的 AI 代理中引入更多的控制和安全措施。
其中一项新的 NIM 服务专注于内容安全，旨在防止 AI 代理生成有害或带有偏见的输出。另一项服务则确保对话仅围绕已批准的主题进行，而第三项新服务有助于防止 AI 代理遭受越狱攻击，即绕过软件限制的行为。
这三项新的 NIM 微服务是 Nvidia NeMo Guardrails 的一部分，后者是 Nvidia 现有的开源软件工具和微服务集合，旨在帮助企业提升其 AI 应用。
新闻稿表示：“通过应用多个轻量级、专业化的模型作为护栏，开发者可以弥补仅在存在更通用的全局策略和保护措施时可能出现的空白——因为一刀切的方法无法正确保障和控制复杂的代理式 AI 工作流。”
看来 AI 公司可能开始意识到，让企业采用其 AI 代理技术并不像他们最初设想的那样简单。虽然 Salesforce CEO Marc Benioff 最近预测，未来 12 个月内仅 Salesforce 平台上运行的代理数量就将超过十亿，但现实情况可能会有所不同。
Deloitte 最近的一项研究预测，约 25% 的企业要么已经在使用 AI 代理，要么预计将在 2025 年开始使用。该报告还预测，到 2027 年，约有一半的企业将使用代理。这表明，尽管企业对 AI 代理明显感兴趣，但其采用 AI 技术的速度并未与 AI 领域的创新步伐保持一致。
Nvidia 可能希望像这样的举措能让采用 AI 代理显得更加安全可靠，减少其实验性色彩。时间会证明这是否真的如此。