据Google研究人员称，我们曾向您介绍过通过ChatGPT查询访问个人信息的可行性。在上周由Google DeepMind发布的一项研究论文中，研究人员要求ChatGPT无限期重复一个单词，从而成功获取了大量数据，包括人们的电话号码、电子邮件地址和出生日期等。此后，该行为被视为违反ChatGPT使用条款。
Endgaget的测试中，要求ChatGPT无限期重复“hello”一词。对此，ChatGPT在重复一段时间后显示以下信息：
此内容可能违反了我们的内容政策或使用条款。如果您认为这是错误的，请提交您的反馈——您的输入将有助于我们在此领域的研究。
我们也使用“Webrazzi”一词进行了自己的测试。ChatGPT对我们的请求做出了如下回应：
我很遗憾无法执行此请求。您是否有其他想了解或讨论的话题？
ChatGPT这一表述的变化，实际上可能是因为内容政策中缺乏与该问题相关的详细指导方针。根据分享的信息，内容政策中并未包含禁止用户让ChatGPT无限期重复单词的表述。而在服务条款中，OpenAI指出用户不得使用任何自动或程序化方法从服务中获取数据或输出。然而，让ChatGPT无限期重复一个单词不能被认定为自动化操作。
ChatGPT在Google DeepMind研究人员发出的指令下泄露数据，导致OpenAI成为批评的焦点。人们强烈批评了这种实践，即在创建ChatGPT等产品时，未经数据所有者同意且未向其支付补偿，就使用了互联网上海量数据。
与此同时，OpenAI继续就该话题保持沉默。