企业迅速采用人工智能扩大了关于其安全使用的辩论。据麦肯锡数据显示,目前超过80%的组织已在部分业务职能中应用AI。在此背景下,“氛围编码”(Atmosphere Coding)等工具应运而生,允许员工通过简单指令利用AI创建系统。尽管此举提升了生产力,但专家警告称,缺乏技术管控或将加剧信息安全风险。
Magnotech首席执行官Mateus Magno指出,随着AI解决方案在企业中的深入应用,控制机制不应是次要议题,而应成为AI使用决策的核心。
随着工具的演进,工程角色正发生转变:重心不再仅是生成代码,而是转向定义架构、确保一致性、验证自动化决策以及编排混合系统。
主要风险
专家指出,不受控的“氛围编码”主要风险在于:当系统缺乏保护、自动流程失效或AI生成代码不符合公司标准时,极易引发错误与安全漏洞。
此外,“影子AI”问题进一步加剧了风险。即员工在未获公司知情或管控的情况下自行使用AI工具,这不仅增加了故障概率,更可能导致敏感信息泄露。
为规避上述风险,Magnus提出了三项关键控制措施:
1. 明确使用范围
界定可用工具清单、适用团队及具体场景,从而实现对AI使用的有效管控。
2. 定期技术审查
建立常态化代码审查、系统验证及测试机制,确保所有产出符合公司技术标准。
3. 设定决策界限
明确AI自主行动与人工审核的边界,尤其在关键业务流程中必须保留人工干预环节。
Magnus强调,在受控前提下拓展AI应用能力,应成为企业增长差异化的关键。“AI虽能编写代码、自动化流程并加速决策,但仍需人类团队来定义目标、规范用法及评估可接受的风险边界。组织的未来,正是在这一人机协同的平衡中被定义的。”他总结道。

