导读“读起来像 AI”、检测器判为 AI、文章质量差,是三种不同的判断。文风可以提示表达问题,检测结果需要结合工具与样本条件解释,内容质量则要回到事实和论证。本文从检测机制与误判研究出发,讲清这些判断分别能说明什么,以及技术作者该据此修改哪里。
“像 AI”这句话,究竟在批评什么
设想一段自拟的产品介绍:“这款工具以强大的能力赋能工作流程,为用户带来前所未有的体验。”
读到这里,我会先问:工具做了什么?哪一步更方便?所谓强大,凭什么判断?
这些问题都可以直接检查。至于这句话出自人还是模型,仅凭它的空泛程度还下不了结论。人可以写套话,模型生成的句子也可以包含准确的信息。
日常说的“AI 味”,可以指过密的排比、重复的总结,也可以指语气热烈却没有具体内容。不同读者讨厌的东西未必相同。它更适合作为一个继续追问的起点:哪种表达妨碍了理解?
一旦把它当成作者身份的证明,就跨到了另一个问题。
检测器学到的,可能是什么
理解文本检测,可以先看一种常见思路:让语言模型估计一段文字有多容易预测。
困惑度描述的就是这种可预测性。相对于某个模型,后续词语越容易被预测,困惑度通常越低。它衡量的是模型面对文本时的预测表现,并不直接衡量作者是谁。
这里有一个容易忽略的条件:困惑度依赖用来计算它的模型。某段话对这个模型很熟悉,对另一个模型未必如此。因此,“困惑度低”不能脱离计算模型,直接变成一张通用的 AI 身份标签。
与困惑度一起常被提到的还有“突发度”。Pangram 的说明用它描述一篇文章中困惑度的变化。这些统计特征可以成为检测线索,但并不代表所有检测器都围绕它们设计。
也有检测器直接训练一个专门的分类模型。
以 Pangram 的公开说明为例,它明确表示,自己的预测不依赖困惑度和突发度。它用人类文本与 AI 文本训练神经网络,让模型学习区分这些样本;训练中还会补入容易误判的人类文本,并生成对应的 AI 文本继续训练。
这类方法为什么要认真准备训练样本?假如人类样本全是小说,AI 样本全是产品说明,模型就可能把题材差异当成作者差异。Pangram 披露的“合成镜像”做法,会围绕人类原文的主题生成 AI 样本,目的是减少这种干扰。
官方训练示意:用数据更新模型,再经分类模块输出预测;图中的数字和“Correct!”属于示意,不是本文测试结果
来源:Pangram 官方机制说明,图 3
训练完成后,待检测文本先被拆成 token,也就是模型处理文本的基本单位,再转换为向量表示,由分类模块给出预测。图中展示的是学习分类的过程,不能理解为工具查询到了作者实际写作时的记录。
所以,判断一款检测器,至少要知道它采用什么方法、评测覆盖什么文本。把所有检测器都解释成“查几个词、数几个标点”,会漏掉训练分类器这条路线;只因为用了神经网络,就相信它适用于任何场景,同样缺少依据。
真人文字被误判,研究说明了什么
2023 年,Weixin Liang 等人的研究比较了 7 种当时使用的 GPT 检测器。样本包括 91 篇非英语母语者的 TOEFL 作文,以及 88 篇美国八年级学生作文。
在这组实验中,TOEFL 作文被误判为 AI 生成的平均比例为 61.3%。研究者随后让 ChatGPT 改善这些作文的词汇选择,平均误判率降到了 11.6%。
2023 年实验:增强 TOEFL 作文的词汇选择后,误判率下降;简化美国学生作文的词汇后,误判率上升,误差线表示 7 种检测器之间的标准差
来源:Liang 等,Patterns,2023,图 1
图里的变化很有解释力。原本由人写的作文,经过 AI 修改后,反而更容易被这些工具判为人写。检测器对语言表达的反应,与真实写作过程并没有一一对应。
但这也不能推出“今天的 AI 检测器都会误判六成真人文章”。研究对象是特定时期的工具和英语作文。Pangram 后来的技术报告还专门评测了英语学习者文本,并报告了较低的误判率;那属于厂商在其协议下给出的结果,需要与旧实验分开看。
这项旧研究真正留下的判断方法是:看到一个检测结果,要追问它在哪类文本上被验证过。模型版本、语言和文本类型都变了,原有成绩还能否成立,需要相应的评测。
内容质量,要回到具体句子里检查
知道作者是谁,依然没有回答文章是否值得读。
还是用技术写作举一个自拟例子:“量化让模型更小、更快,部署从此变得轻松。”这句话读起来很顺,问题却很多。
“更小”说的是权重文件,还是运行时总内存?“更快”用了什么硬件和推理后端?“轻松”指安装方便,还是硬件要求降低?这些条件没交代,读者就无法判断结论能否用于自己的环境。
此时需要补的是对象、条件和证据。把“从此变得轻松”换成“确实省心多了”,只是换了一种语气;添一个错别字,也没有补出缺失的测试条件。
反过来,一段文字即使语气平实、保留了必要的冒号和排比,只要把事实、过程和依据交代清楚,就不该仅因这些形式被删改。
我更愿意把“去 AI 味”落实为具体的编辑动作:删掉重复表达,补清含糊指代,让判断有依据,让解释能被读者跟上。这些修改带来的收益可以直接在文章中检查,不必等检测分数替我们确认。
先确定要回答的问题,再决定怎么改
面对一句“这篇像 AI 写的”,先让批评落到具体位置。若是每节都重复总结,就删掉冗余;若是术语太密,就补足解释;若是看似有道理却没有证据,就回查来源。表达问题有各自的改法。
若争议涉及作者身份,检测报告可以提供待核查的线索,还应结合草稿、版本记录、资料笔记以及作者对内容的解释。它们帮助检查写作过程,也各有能证明和不能证明的范围;一张低分截图不能代替这些核查。
至于能否使用 AI,要看对应场景的明确要求。文章准确、好读,并不自动代表符合某项独立创作要求;检测结果也不能替代对使用范围的确认。
对技术作者而言,最值得投入时间的,仍是让读者看清楚:你在讨论什么,凭什么得到这个结论,在哪些条件下它才成立。若这几件事还没讲清,删掉最后一个破折号,也没有完成修改。
参考资料 上下滑动
•Pangram:Does Pangram use perplexity and burstiness?: https://pangram.cv/knowledge-hub/does-pangram-use-perplexity-and-burstiness•Pangram:How AI Detection Works: https://www.pangram.com/research/how-it-works•Pangram 4 Technical Report: https://pangram-public.s3.us-east-1.amazonaws.com/pdf/pangram_4_technical_report.pdf•Liang 等:GPT detectors are biased against non-native English writers,Patterns,2023: https://pmc.ncbi.nlm.nih.gov/articles/PMC10382961/
文章仅做学术分享,如有侵权请联系删除,非常感谢!

