OpenAI 已开发出一种能够检测使用 ChatGPT 撰写文本的技术，其准确率据称高达 99.9%。由于有大量关于学生利用人工智能作弊的担忧，这项技术仍未公开发布。据《华尔街日报》报道，这项技术在 OpenAI 内部已讨论了约两年，并在一年前就已准备好发布。
据内部消息人士透露，OpenAI 员工在公司透明度承诺和吸引、留住用户之间存在严重分歧。一项针对忠实 ChatGPT 用户的调查显示，近三分之一的用户会因这项反作弊技术而对 ChatGPT 失去兴趣。
该反作弊工具通过改变文本生成的 token 选择方式，留下一个称为水印的模式。这种水印对人眼不可见，但可以被 OpenAI 的检测技术识别。内部文档显示，当生成足够的新文本时，这些水印的有效性可达 99.9%。
尽管技术前景广阔，但员工们担心水印可能通过简单手段被消除，例如通过谷歌翻译或添加删除表情符号。此外，确定谁可以使用这个检测器也是一个挑战。如果访问权限过少，工具的实用性不高；但如果权限过多，恶意行为者可能会破解水印技术。
教师们表示迫切需要帮助以应对学生使用 AI 作弊的问题。根据科技政策非营利组织民主与技术中心的最新调查，中学和高中的教师中有 59% 确信学生使用过 AI 帮助完成学业任务，比上一学年上升了 17 个百分点。
与此同时，谷歌也在开发名为 SynthID 的水印工具，以检测由其 Gemini AI 生成的文本，目前该工具正处于测试阶段。
尽管 OpenAI 在早期测试中发现水印不会损害 ChatGPT 的性能，但内部仍对其影响用户体验存在担忧。内部讨论表明，除了水印外，公司还需要一个计划来影响公众对 AI 透明度的看法，并应对可能出台的新法律。
OpenAI 尚未就何时发布这项反作弊技术给出明确时间表，但内部的持续争论和外部的市场竞争，使这一决定显得尤为关键。
加微信：kurgerlion