当人人争相采用的软件变得过于危险以至于无人敢为其投保时，会发生什么？据《金融时报》报道，答案即将揭晓。
包括大美国保险（Great American）、丘博（Chubb）和 W. R. Berkley 在内的多家主要保险公司，正要求美国监管机构批准将广泛的 AI 相关责任排除在企业保单之外。一位承保商向《金融时报》坦言，AI 模型的输出“过于像一个黑箱”。
同样被提及的 AIG 随后向 TechCrunch 声明：“AIG 并未专门寻求采用这些免责条款，目前也没有实施计划。”
业界的恐慌不无道理。今年3月，谷歌 AI 概览功能错误指控一家太阳能公司存在法律问题，引发1.1亿美元诉讼；去年，加拿大航空被迫兑现聊天机器人编造的折扣优惠；此外，诈骗者利用高管数字克隆体，在逼真的视频通话中从伦敦设计工程公司奥雅纳（Arup）窃取2500万美元。
真正令保险公司恐惧的并非单笔巨额赔付，而是广泛使用的 AI 模型出错时，成千上万起索赔同时爆发的系统性风险。正如安盛（Aon）高管所言：保险公司可承受一家公司4亿美元的损失，却无法应对因代理型 AI 故障一次性引发的1万起损失。