大数跨境

LinkedIn 公布可识别虚假个人资料的人工智能图像检测研究

LinkedIn 公布可识别虚假个人资料的人工智能图像检测研究 搜索引擎报
2023-06-22
0
导读:LinkedIn 宣布推出新的人工智能图像检测工具,在识别虚假个人资料方面成功率达 99%

LinkedIn 推出新型 AI 图像检测技术,在识别虚假个人资料照片方面实现 99% 的真阳性率与 1% 的误报率。据内部工程师透露,该模型在保持高检出率的同时显著降低了误判风险,实际应用中已证实有效。

虚假 LinkedIn 个人资料的泛滥与成因

创建虚假 LinkedIn 个人资料的现象屡禁不止,主要动机包括:

  • 迎合搜索引擎算法:部分联盟营销人员认为,作者简介中包含 LinkedIn 链接能提升网站的 E-E-A-T(经验、专业性、权威性和可信度)评分,从而获得 Google 信任。
  • 增强用户信任感:通过伪造专业身份让访问者对网站产生信赖。

尽管此类行为违背平台规则且不被提倡,但 AI 生成头像技术的普及大幅降低了造假门槛,加剧了这一问题。数据显示,仅 2022 年上半年,LinkedIn 就检测并删除了 2100 万个虚假账户。近期反馈表明,新上线的 AI 图像检测器已显著提升了对这类账户的识别效率。

“我们持续改进反滥用防御措施以保护会员体验,并与学术界合作,应对利用生成式 AI 等新技术演变的虚假账户滥用行为。”——LinkedIn 官方声明

AI 生成图像的识别难点

随着合成媒体技术的发展,虚假账户伪装愈发逼真。LinkedIn 指出,大多数用户难以从视觉上区分真实面孔与 AI 合成面孔,导致虚假账户极易被误认为真人。

“随着 AI 生成内容的兴起,虚假账户变得更加复杂。我们发现大多数会员通常无法在视觉上区分真实面孔与合成面孔……”——LinkedIn

基于结构差异的检测原理

LinkedIn 的研究团队发现,AI 生成图像存在特定的“结构差异”。人工创建的合成图像往往共享相似的模式特征,例如眼睛和鼻子周围区域高度雷同;而真实人脸图像则缺乏这种统一的结构组件,叠加后呈现模糊状态。

LinkedIn 提供的真假图像结构差异对比图

检测性能指标与现实应用效果

在针对 StyleGAN、StyleGAN2 及 StyleGAN3 生成的合成人脸测试中,该技术实现了 99.6% 的真阳性率(TPR),同时将真实照片误判为合成的假阳性率(FPR)控制在 1%。这一阈值设定旨在确保大型专业网络在精准拦截绝大多数合成图像的同时,最大限度避免误伤真实用户。

“对于现实世界应用而言,AI 生成图像检测模型需要捕捉大多数合成图像,而极少将真实图像分类为合成图像。”——LinkedIn 研究论文基准说明

在实际应用场景中,该技术同样表现卓越。有联盟营销人员反馈,其用于增加作者可信度的虚假 LinkedIn 主页在过去几个月内被平台暂停的比例高达 90%,甚至达到 100% 的识别率。这表明 LinkedIn 正持续提升风控能力,利用 AI 生成内容创建虚假身份的难度已大幅增加。

【声明】内容源于网络
0
0
搜索引擎报
搜索引擎时报
内容 2299
粉丝 0
搜索引擎报 搜索引擎时报
总阅读3.0k
粉丝0
内容2.3k