苹果详解合成数据应用:在隐私保护下优化AI模型
针对外界对其AI产品(尤其是通知摘要功能)表现不佳的批评,苹果于周一详细阐述了其技术改进方案。公司表示,将在严格保护用户隐私的前提下,利用合成数据分析用户数据,以持续优化AI模型。
苹果采用“差分隐私”技术,首先生成合成数据片段,并将其发送至已授权共享设备分析数据的用户终端。通过对比合成数据与本地实际数据,评估并提升模型的准确性。
苹果在博客中解释道:“合成数据旨在模仿真实数据的格式与关键属性,但不包含任何实际用户生成内容。”以邮件摘要为例,团队会先创建涵盖多主题的合成消息库,并为每条消息生成捕捉语言、主题及长度等维度的“嵌入”(embedding)表示形式。
随后,这些嵌入被发送至参与设备分析的用户设备上,与本地邮件样本进行比对,从而反馈给苹果哪些嵌入最为准确。
目前,该方法正用于改进Genmoji模型。未来,Image Playground、Image Wand、Memories Creation、Writing Tools及Visual Intelligence等功能也将引入合成数据。此外,苹果还将向授权用户征集关于合成数据的反馈,以进一步提升电子邮件摘要质量。

