OpenAI 正面临欧洲对其 AI 聊天机器人产生虚假信息（即“幻觉”）的隐私投诉，该投诉可能令监管机构难以忽视。
隐私权利倡导组织 Noyb 支持挪威一名个人提出投诉。该用户发现 ChatGPT 返回捏造信息，声称其因谋杀两名子女并试图杀害第三名子女而被定罪。
此前关于 ChatGPT 生成错误个人数据的投诉多涉及出生日期或传记细节等问题。核心争议在于 OpenAI 未提供让用户纠正 AI 生成错误信息的有效途径；尽管 OpenAI 通常会同意屏蔽此类提示回复，但在欧盟《通用数据保护条例》（GDPR）下，欧洲用户拥有更正个人数据的法定权利。
GDP R要求数据控制者确保生成的个人数据准确无误，这也是 Noyb 最新投诉的核心关切点。
Noyb 数据保护律师 Joakim Söderberg 表示：“GDPR 明确规定个人数据必须准确。若不准确，用户有权要求更改以反映真相。仅展示微小免责声明表明聊天机器人可能出错显然不够，不能散布虚假信息后仅以小字声明免责。”
违反 GDPR 可能导致高达全球年营业额 4% 的罚款。
执法行动还可能迫使 AI 产品整改。2023 年春季，意大利数据保护监管机构曾暂时封锁 ChatGPT，促使 OpenAI 更改信息披露方式；随后该机构又以缺乏法律依据处理数据为由对 OpenAI 处以 1500 万欧元罚款。
然而此后，欧洲隐私监管机构在将 GDPR 应用于热门 AI 工具时态度更为谨慎。
爱尔兰数据保护委员会（DPC）作为主要 GDPR 执法方，曾敦促不要急于禁止 GenAI 工具，建议花时间厘清法律适用性。
针对 ChatGPT 的隐私投诉自 2023 年 9 月起由波兰数据保护监管机构调查，但至今未作出决定。
Noyb 此次新投诉旨在唤醒监管机构对 AI 幻觉风险的认识。
“此案震惊了当地社区……”
Noyb 向 TechCrunch 分享了截图，显示 ChatGPT 在回应“Arve Hjalmar Holmen 是谁？”时，生成了一段虚构故事，错误声称该投诉人因儿童谋杀罪被判处 21 年监禁。
虽然指控完全虚假，但 Noyb 指出 ChatGPT 回复包含部分事实：此人确实有三个孩子、性别判断正确、家乡名称也正确。这种真假混杂使得编造的可怕内容更加离奇和令人不安。
Noyb 发言人表示无法确定 AI 为何生成如此具体却虚假的历史。经查阅报纸档案并排除混淆可能后，仍未找到 AI 捏造弑子行为的解释。
大型语言模型本质是预测下一个词，训练数据集中大量弑亲故事可能影响了查询特定男性名字时的用词选择。
无论何种原因，此类输出结果均不可接受。
Noyb 主张该内容违反欧盟数据保护法规。尽管 OpenAI 在屏幕底部显示“ChatGPT 可能会出错，请核实重要信息”的免责声明，但这并不能免除 AI 开发商根据 GDPR 不得生成严重虚假个人信息的责任。
OpenAI 发言人回应称：“我们持续研究新方法以提高模型准确性并减少幻觉。该投诉涉及的是旧版本 ChatGPT，后续已通过增加在线搜索功能增强了准确性。”
除本案外，Noyb 还指出 ChatGPT 曾捏造澳大利亚高级军官卷入贿赂丑闻、德国记者被指认为儿童虐待者等案例，表明这并非孤立问题。
值得注意的是，基础 AI 模型更新后，ChatGPT 不再产生关于 Hjalmar Holmen 的危险虚假信息。这一变化归因于工具现在会搜索互联网相关信息，而非依赖数据集空白进行推测。
测试显示，当询问“谁是 Arve Hjalmar Holmen？”时，ChatGPT 最初展示了来自 Instagram、SoundCloud 等网站的人物照片并称“找不到任何关于此人名的信息”；第二次尝试则将其标识为“一位挪威音乐人和词曲作者”，专辑包括《Honky Tonk Inferno》。
尽管危险虚假信息似乎已停止出现，但 Noyb 和当事人仍担心错误诽谤信息可能被保留在 AI 模型中。
Noyb 数据保护律师 Kleanthi Sardeli 指出：“添加‘你不遵守法律’的免责声明不能让法律消失。AI 公司不能仅对用户隐藏虚假信息而在内部继续处理。AI 公司应停止表现得好像 GDPR 不适用于它们，若幻觉问题得不到制止，人们极易遭受名誉损害。”
Noyb 已向挪威数据保护当局投诉 OpenAI，希望由其进行调查。Noyb 将投诉针对 OpenAI 美国实体，认为其爱尔兰办公室并非唯一对影响欧洲用户的产品决策负责。
然而，Noyb 支持的另一起 2024 年 4 月在奥地利提交的 GDPR 投诉，因 OpenAI 将爱尔兰分公司指定为区域服务提供商，已被转介至爱尔兰 DPC。
目前该投诉仍搁置在爱尔兰。DPC 助理首席官员兼通讯负责人 Risteard Byrne 表示：“DPC 于 2024 年 9 月收到奥地利监管机构投诉后已开始正式处理，目前仍在进行中。”但他未透露调查预计何时结束。
本报告已根据 OpenAI 的声明进行了更新