大数跨境

企业在使用人工智能时避免犯错的三个建议

企业在使用人工智能时避免犯错的三个建议 巴西跨境研究社
2026-04-28
0
导读:企业迅速采用人工智能,扩大了关于其安全使用的讨论。目前,超过80%的组织已在某些职能中使用了人工智能。

企业迅速采用人工智能扩大了关于其安全使用的辩论。据麦肯锡数据显示,目前超过80%的组织已在部分业务职能中应用AI。在此背景下,“氛围编码”(Atmosphere Coding)等工具应运而生,允许员工通过简单指令利用AI创建系统。尽管此举提升了生产力,但专家警告称,缺乏技术管控或将加剧信息安全风险。

Magnotech首席执行官Mateus Magno指出,随着AI解决方案在企业中的深入应用,控制机制不应是次要议题,而应成为AI使用决策的核心。

随着工具的演进,工程角色正发生转变:重心不再仅是生成代码,而是转向定义架构、确保一致性、验证自动化决策以及编排混合系统。

主要风险

专家指出,不受控的“氛围编码”主要风险在于:当系统缺乏保护、自动流程失效或AI生成代码不符合公司标准时,极易引发错误与安全漏洞。

此外,“影子AI”问题进一步加剧了风险。即员工在未获公司知情或管控的情况下自行使用AI工具,这不仅增加了故障概率,更可能导致敏感信息泄露。

为规避上述风险,Magnus提出了三项关键控制措施:

1. 明确使用范围

界定可用工具清单、适用团队及具体场景,从而实现对AI使用的有效管控。

2. 定期技术审查

建立常态化代码审查、系统验证及测试机制,确保所有产出符合公司技术标准。

3. 设定决策界限

明确AI自主行动与人工审核的边界,尤其在关键业务流程中必须保留人工干预环节。

Magnus强调,在受控前提下拓展AI应用能力,应成为企业增长差异化的关键。“AI虽能编写代码、自动化流程并加速决策,但仍需人类团队来定义目标、规范用法及评估可接受的风险边界。组织的未来,正是在这一人机协同的平衡中被定义的。”他总结道。

【声明】内容源于网络
0
0
巴西跨境研究社
各类跨境出海行业相关资讯
内容 7431
粉丝 0
巴西跨境研究社 各类跨境出海行业相关资讯
总阅读8.9k
粉丝0
内容7.4k