2023年被称为“人工智能之年”，AI虽提升了职场生产力，但也带来了新兴风险。
AuditBoard委托的Harris Poll调查显示，51%的美国在职人员正使用AI工具，但48%的人会将公司数据输入非企业提供的AI工具中。生成式AI的快速应用引发了伦理、法律及隐私挑战，亟需健全的政策规范。然而，Gartner调查显示超半数组织缺乏相关内部政策，仅37%的员工有针对非官方AI工具的正式使用规定。尽早制定政策标准，可避免日后重大隐患。
AI的使用与治理：风险与挑战
AI普及速度远超风险管理步伐，64%的用户认为AI工具安全，显示出对风险的忽视。主要风险包括：
- 过度自信：受Dunning-Kruger效应影响，用户常高估AI能力而忽视其局限，可能导致输出错误、违规或知识产权风险。
- 安全与隐私：AI效能依赖大量数据访问，未经审核的工具可能泄露敏感信息，组织需确保工具符合数据安全标准。
- 数据共享：免费AI服务常通过货币化用户数据获利。组织需警惕模型在未经许可下使用个人或第三方数据进行训练的风险。
此外，开发含AI功能的产品还涉及客户数据使用范围界定等挑战。
制定全面的AI使用政策
负责任地部署AI需建立政策框架。以下四大支柱有助于平衡创新与风险：
将AI整合到组织的战略规划中
AI部署应与战略目标一致，选择契合使命的应用以提升效率并推动增长，而非盲目追求技术。
缓解过度自信
保持谨慎乐观，充分认识AI的局限性与潜在偏见，在利用优势的同时把握风险边界。
定义AI工具使用的指南和最佳实践
建立涵盖隐私、安全及道德的协议，确保合规使用：
- 多元化团队参与：联合法律、HR及信息安全部门，构建全面视角。
- 明确使用参数：界定有益场景，限制有害应用，并建立新用例评估流程。
- 定期更新与教育：随AI演进同步调整政策，并通过培训确保员工合规负责地使用。
实施对未经授权AI使用的监控和检测
部署终端检测、SASE/CASB及DLP机制，识别未授权AI使用并防止数据泄露。同时扫描开源模型中的知识产权，保护专有信息免受侵权。
清晰详尽的政策是企业发挥AI潜力、降低风险的关键。有效的政策设计不仅能促进AI伦理使用，还能增强组织韧性。明确拥抱AI的组织，将在坚守伦理标准的同时有效应对转型，实现战略目标。