安全关切与生成式AI的探索和实施密不可分。据最新报告显示，49%的企业领导者将安全和风险视为首要关切；38%的人指出，因缺乏对GPT工具使用的理解，人为错误或数据泄露成为主要问题。
尽管担忧合理，但早期采用者获得的益处远超限制集成带来的潜在负面影响。以下分享关于“安全应作为AI整合业务先决条件”的心得及最佳实践。
关于AI的讨论始于安全使用政策
企业深知应对AI新安全风险的紧迫性。报告显示，81%的企业领导者表示公司已实施或正在建立生成式AI用户政策。
鉴于技术快速演变、新应用场景不断涌现，政策应持续更新以应对新兴风险和挑战。为测试和学习设立护栏，对于在最小化安全风险的同时加速探索至关重要。
此外，政策不应孤立制定。来自各职能部门的代表参与非常重要，以便了解每项功能如何应用该技术及其独特的安全风险。重要的是，不应完全禁止对AI进行“黑箱”探索；因恐惧而抵制的公司无需担心竞争对手侵蚀市场份额，它们已经自我限制了发展。
赋能公民开发者
为确保安全使用AI，我们首先赋予公民开发者访问大型语言模型Insight GPT私有实例的权利。这不仅帮助识别潜在使用场景，还允许对输出结果进行压力测试，从而持续优化。
例如，仓库同事发现通过要求Insight GPT编写SAP脚本来自动化部分工作负载，提高了订单履行效率。虽然结果令人惊叹，但若没有适当护栏，极易引发事故（如意外完成订单并生成不存在的交易）。
在启用公民开发同时最小化风险时，需要具备：
- 审查委员会：负责制定明确指南、进行风险评估并强制执行AI系统的透明度。
- 适当培训：教育员工负责任地将AI融入工作负载，阐明道德标准、偏见、人工监督和数据隐私等关键主题。
- 内部论坛：鼓励团队成员在公司创新者群体中分享发现及错误。
降低因幻觉带来的风险
生成式AI偶尔会产生幻觉输出，商业领袖最担忧其导致错误的商业决策。然而，幻觉风险的高低取决于试图生成的内容类型。
尽管GPT工具可能输出明显错误的内容，但也可能为措辞不当的问题给出近似正确的答案。例如，询问迈克尔·杰克逊和艾迪·范·海伦的合作歌曲时，AI回答《Thriller》而非正确答案《Beat It》。虽不完全准确，但因《Beat It》收录于专辑Thriller中，回答并非完全离谱。
这说明了幻觉风险的差异性，尤其在处理主观性工作负载时。从安全角度应对这一风险，意味着制定并执行政策：所有由AI生成的内容都必须经过人工监督；且无论是否有该政策，所有产出内容都必须明确标注为“由AI辅助完成”。由于内容会在内外价值链中流动，必须普遍性地执行这一要求。
该行业仍处于起步阶段，拥抱负责任且安全的采用有助于组织在减少数据泄露、虚假信息、偏见及其他风险的同时获得竞争优势。公司需使AI政策与行业变化保持同步，以确保合规性、考量幻觉问题并最终建立用户信任。