企业加速采用人工智能进入新的控制和透明阶段。自2027年8月起，欧盟《人工智能法案》（AI Act）新义务生效，扩大了技术使用的透明度要求，包括识别与AI系统的交互及由其生成或操纵的内容。
这些要求属于条例第50条，整合了基于风险的方法，并为特定应用设定具体透明度义务。例如，聊天机器人等直接与人互动的系统必须告知用户其互动对象为AI。此外，还需识别AI生成或操纵的内容、标注深度伪造内容及涉及公共利益的技术内容。违规可能面临高达1500万欧元或公司上一年度全球年营业额3%的罚款（以较高者为准）。
该规则同样适用于欧盟境外组织。在欧盟市场提供AI系统或其结果在欧盟境内被使用的巴西企业，也需遵守《人工智能法案》。这对理解应用程序如何嵌入流程并整合至公司其他系统提出了迫切需求。
Engineering Brasil AI总监Cristiano Franco指出，随着技术融入运营各环节，复杂性加剧：“挑战始于AI不再局限于单一应用，而是融入不同流程与工具。透明度要求具备追踪解决方案连接的能力，了解参与每个流程的数据和系统，以及路径上的决策或行动。”
透明度始于映射
实践中，追踪AI使用需理解支撑各应用的连接。聊天机器人可查询不同数据库，智能体可在其他系统执行任务，生成式工具可嵌入员工日常软件。
保持可见性涉及映射AI应用、记录集成情况、定义责任主体并建立监控机制。随着新工具快速采用并被整合到运营平台中，这一挑战日益加剧。
在此情境下，治理与架构互补发挥作用：治理确立AI使用的责任、政策和标准；技术架构则确保控制措施在实践中得以应用和监控。
“企业需在允许各部门探索新应用与保持内容可见性之间取得平衡。AI在企业内部分布越广泛，就越需要架构、集成和治理标准来跟上步伐，避免为每个新项目设立不同的控制措施。”他解释道。
实际案例方面，Engineering Brazil为沃尔沃汽车巴西开发了DHuO工具，加强API安全性，控制身份验证、授权及资源访问，并支持API生命周期监控、版本管理和治理。
该项目虽聚焦安全与集成管理，但也揭示了企业在AI扩展中面临的挑战：系统、数据和应用程序连接越多，越需对这些连接及其运行状况具备可见性。
欧洲动向还关注未直接受《人工智能法案》影响的组织。随着AI融入企业运营，建立控制与可追溯机制有助于应对更严格的技术使用环境。
这凸显了深入了解AI生态系统的重要性。明确技术与流程的连接方式、现有控制措施及主要关注点，有助于以更高安全性和一致性推动应用扩展。”Cristiano总结道。