- 人工智能有望为农业、教育及医疗等行业带来重大效益，但潜在风险不容忽视；
- 世界经济论坛报告指出，AI风险管理滞后于技术发展，90%首席风险官呼吁加强监管；
- 近半数受访者建议暂停或放缓新技术开发，直至充分评估其风险。
世界经济论坛《全球风险展望调查》显示，尽管企业首席风险官（CRO）普遍认可人工智能（AI）的社会与经济价值，但也警示若缺乏有效管控，该技术可能引发巨大破坏。年中发布的《首席风险官展望》报告强调，当前AI风险管理机制未能跟上技术迭代速度。
调研数据显示，75%的受访CRO认为AI应用将带来声誉风险，90%主张需进一步规范AI的开发与使用。近半数受访者支持在厘清风险前暂停或放缓新技术研发，指出AI正使组织运营环境趋于复杂和不确定。
重大效益与潜在破坏并存
报告指出，AI虽能在农业、教育和医疗等领域创造“重大利益”，但其“不透明的内部运作”构成了核心风险源。由于生成式AI易被滥用，恶意传播虚假信息、网络攻击及窃取敏感数据等威胁日益凸显。同时，算法决策偏差及无意中泄露个人数据等问题，也因技术黑箱特性而难以完全规避。
图注：首席风险官如何看待人工智能迅速崛起带来的风险（图片来源：世界经济论坛）
受限于对AI原理的认知不足，未来风险难以精准预测。目前，AI对运营、商业模式及战略的影响最为显著。所有受访者均认为，AI发展速度已超越伦理与社会风险治理进程，43%的人明确建议在充分了解潜在影响前暂缓新技术推进。
规范人工智能发展的紧迫性
面对技术监管趋势，超半数CRO已意识到其对组织的深远影响，90%呼吁加快监管落地。超过50%的受访者计划审查内部AI技术的安全性、合法性及道德合规性。然而，部分企业高管仍未将AI视为关键商业风险，这成为落实风控措施的阻碍。
苏黎世保险集团首席风险官Peter Giger指出，企业应采取长远视角应对AI风险。他认为，过度聚焦短期风险容易分散注意力，虽然AI未必立即颠覆生活，但其长期演变趋势绝不可被忽视。
负责任使用人工智能的路径
今年6月，世界经济论坛发布白皮书，倡导负责任地开发AI。文件敦促开发者提升透明度，采用准确且通用的术语，并呼吁科技行业加强公众科普，正视社会关切与用户反馈，以构建行业信任基础。
关于全球风险展望调查
本次调查对象为世界经济论坛首席风险官群体，涵盖技术、金融服务、医疗保健、专业服务及工业制造等领域的跨国企业风险专家。除人工智能外，宏观经济状况、关键原材料供应中断、武装冲突及监管变化也是企业关注的重点风险议题。
本文作者：Douglas Broom，论坛议程高级撰稿人
本文原载于世界经济论坛Agenda博客