人工智能在反欺诈中的应用与挑战
AI技术提升欺诈检测效率，但面临安全威胁与误判风险
随着支付速度的提升，欺诈风险也同步增加。国际清算银行（BIS）与英格兰银行联合开展的“赫塔计划”（Project Hertha）研究发现，人工智能在实时零售支付环境下的欺诈检测能力优于传统手段，其有效性高出26%，并能多识别12%的欺诈账户。
这一实验基于从数百万个银行账户和交易中提取的数据，模拟真实支付场景，展现了人工智能在识别新型金融犯罪模式方面的潜力。
FIS的调查进一步证实了AI在欺诈防控中的价值，78%的受访者表示，AI优化了其所在机构的欺诈检测与风险管理策略。同时，近半数商业和技术领袖计划在未来两年加大对AI的投资，并倾向于将更复杂任务交由人工智能处理。
其中，代理型人工智能（Agentic AI）被认为是未来打击欺诈的重要工具，该类AI具备自主执行多任务的能力。然而，专家指出其存在“双刃剑”效应。
SailPoint的研究显示，96%的技术专业人士认为AI代理正日益成为潜在的安全威胁，但在意识到潜在风险的同时，大多数受访者仍计划在未来一年内扩大对该技术的使用。
与此同时，网络犯罪分子也在快速采用生成式AI与代理式AI技术，将其应用于深度伪造、勒索软件等欺诈行为，因其较少受到隐私或声誉约束，反而具备显著优势。
尽管“赫塔计划”证明了AI的强大效能，但其依然存在局限性，如可能遗漏欺诈案例或产生误报。
美国商务部工业和安全局因此得出结论：AI工具应被视为补充手段，而非解决欺诈问题的终极方案。企业在依赖AI系统之外，还需探索创新防御方法，以应对不断升级的网络攻击态势。
