本文总结了Tech in Asia 2026大会的一场炉边谈话。Certis集团总裁兼首席执行官黄炳义（Tian Beng Ng）指出，唯有在每项机器建议背后落实真人问责，自动化决策才能真正赋能安全团队。通过将人类保留在自动化任务的控制权中，并将AI智能体视为拥有明确数字身份的“真实员工”，企业可有效平衡响应速度与安全性。
Certis集团首席执行官兼总裁黄炳义 / 图片来源：黄炳义
AI主导、以人为本的决策机制
在自动化与客户安全之间取得平衡，需严格界定机器提议与人工执行的边界。黄炳义提出“AI主导、以人为本”战略，通过结构化工作流让人类依靠AI进行初步处理，从而提升决策效率：
- AI智能体扫描实时摄像头画面并起草事件报告；
- 系统自动关闭非关键案例，减少人类警报疲劳；
- 人工操作员接收预整理数据，专注于评估紧急情况。
信任与教育驱动劳动力转型
技术落地的前提是员工信任。Certis将技术整合视为管理纪律而非单纯的IT项目，并通过以下部署策略推动职责转变：
- 针对性角色培训：将员工分为AI用户、从业者、专业人员或领导者，提供差异化指导；
- 透明沟通：管理层阐明部署目的，消除对岗位替代的恐惧；
- 工作重新设计：将角色重心从重复性监控转向需要同理心与判断力的任务。
黄炳义强调，若员工不信任公司的AI转型举措，技术采纳便无从谈起。
AI智能体的数字化治理体系
为防止自动化系统失控，企业需将标准雇佣规则应用于AI治理，确保运营扩展不以牺牲安全为代价：
- 分配数字身份：每个AI代理获配专属员工ID，杜绝共享账户下的匿名操作；
- 限制访问权限：系统仅持有执行特定职责所需的最小权限；
- 规范官方渠道：代理使用公司认证邮箱，便于员工快速识别合规系统；
- 指定人类负责人：当性能异常时，专人有权立即暂停高风险操作。
潜在风险与挑战
尽管人机协同模式前景广阔，但在实际落地中仍需警惕以下隐患：
自动处置可能掩盖真实风险
自动关闭非关键警报虽能减轻负担，但也可能导致衡量失真。团队难以判断是风险真正降低，还是边缘事件被简单压制。研究表明，误报和低优先级警报仍会延迟响应时间。企业应对已关闭案件实施随机审计，并设定漏报率目标以校准系统。
员工信任不等于投资回报
基于角色的培训虽能建立信心，但若缺乏运营层面的KPI追踪，难以转化为实际效益。数据显示，仅不到20%的组织跟踪生成式AI的关键绩效指标。实现商业价值需彻底改革调度、报告及客户服务协议，精准管理人机交接环节。
数字员工的安全管控滞后
将AI视为人类员工可能低估其受损后的攻击速度。研究发现，13%的组织经历过AI模型泄露，其中高达97%缺乏适当的访问控制。因此，必须在授予智能体数据和工具访问权之前，实施严格的身份识别与授权验证。