总部位于纽约的AI检测初创公司Pangram致力于打击泛滥于互联网的AI垃圾内容。该公司刚刚完成900万美元融资，押注区分人类生成内容与AI生成文本的工具需求将持续增长。
Pangram本轮融资由Menlo Ventures领投，Haystack、ScOp、Script Capital和Cadenza参与投资。与此同时，公司推出了下一代AI文本检测模型Pangram 4及AI图像检测模型Pangram Image。
Pangram表示，新文本检测模型在识别AI辅助写作和混合人机内容方面的准确率超99%，且能更轻松地检测出AI人性化程序。目前，AI图像检测器仅通过研究预览版提供，计划在未来几周内广泛发布。
斯坦福大学人工智能与机器学习硕士Max Spero和Bradley Emi在ChatGPT发布约两年后创立了Pangram。ChatGPT的推出导致互联网充斥着机器人、AI生成的SEO垃圾内容，以及“由LLM驱动的俄罗斯虚假信息运动和在Twitter上受阿联酋影响的宣传活动”。
Spero对TechCrunch表示：“知道所见内容是否为AI生成具有极高价值，尤其是正在阅读的文本，因为它会改变人们对待文本的方式。这是需要警惕幻觉并持怀疑态度的内容，还是可信任的真正记者经充分研究的内容？”
Pangram的AI检测系统本质上是一个大型机器学习模型，已在数千万份已知人类文档上训练。随后，公司为每份文档创建“合成镜像”，复制其主题、长度和语气，但由前沿大语言模型（LLM）撰写。
Spero称：“我们的模型正在学习风格差异及AI consistently做出的选择，并利用这些高置信度地判断内容是否为AI生成。”他补充道，该检测器不依赖复制粘贴的元数据或隐藏水印。
对于Pangram而言，AI检测不仅是判断文本是否完全由AI撰写，还包括区分不同程度的AI辅助——例如作者自行撰写后要求AI编辑或润色。Spero认为，只要作者披露使用情况，AI辅助是可以接受的。
Pangram的出现正值AI使用日益普及之时。在某些情况下，如加拿大一位政客在向立法者发表演讲时大声朗读AI提示词，错误导致了嘲笑；在其他情况下，如某些律师使用ChatGPT创建的虚假引证陈述案情，后果可能是制裁和罚款。
这种反弹也开始体现在机构规则中。
开放获取档案库arXiv今年推出新执行策略，声明若提交材料中包含证据表明作者未审查LLM输出（例如幻觉引用或元评论，如“您希望我进行任何更改吗？”），则可能触发为期一年的提交禁令。
Pangram并非唯一押注AI检测的公司。Winston AI、Originality.ai、Copyleaks和GPTZero等竞争对手也在追逐同一需求，各自构建检测器。
尽管Pangram的技术并不完美，但它可能有助于推动对充斥在互联网、法庭和学术论文中的AI生成内容的抵制。
用户可通过每月20美元的网页订阅访问Pangram，或下载Chrome扩展程序，在X、LinkedIn、Substack、Reddit和Medium上实时自动标记帖子。它还提供内容健康评分，以百分比形式分解屏幕上的真人内容与AI内容比例。
Pangram还通过API提供技术。值得注意的是，Substack最近将其平台集成了Pangram技术，向读者展示喜爱的作者中哪些人使用AI撰写通讯。其他API客户包括Quora、学校及大学、出版商及代理人、招聘人员等。
Pangram有效吗？
Spero表示，使用Pangram模型时，大约每10,000份人类文档中就有一份被错误标记为AI生成。该文本检测模型令人印象深刻但并非完美无缺：它能轻松标记出由ChatGPT和Claude完全生成的新闻文章，且很少被试图将AI文本编辑得更像人类的手法欺骗；然而，Pangram确实将我完全重写的句子标记为AI生成。此外，当我尝试提示ChatGPT和Claude规避AI检测器时，Pangram完全没有上当。
我还将自己的一篇文章交给ChatGPT和Claude润色。Pangram给出的AI辅助评分为13%，这可能接近准确值，但该模型能检测到某些句子中细微的用词变化，而在其他句子中则忽略了这些变化。当一些句子实际上是人工撰写时，它也被标记为AI辅助。这一点值得注意，因为当我将整篇亲自撰写的同一篇文章交给Pangram时，它给出了100%的人类内容评分。
也许问题在于新闻文章可能略显枯燥，容易听起来像AI生成。于是我尝试了不同策略：在自己更具个人风格、语气更鲜明的Substack通讯内容上测试Pangram，将文本前半部分粘贴进去，然后要求ChatGPT和Claude模仿我的风格撰写后半部分。在大多数情况下，Pangram能够轻松区分人工撰写文本和AI生成文本。
我对Pangram新图像检测模型的有限测试同样令人印象深刻。
与OpenAI或Google DeepMind主要检测自身输出的基于水印的检查不同，Pangram的AI图像检测系统承诺能够跨AI模型识别AI生成图像。该系统通过像素级分布工作，学习真实照片与AI生成图像之间细微的统计差异。Spero表示，该模型甚至能够检测出现在真实照片中的AI图像。
在我的测试中，该模型能够轻松检测出AI生成的图像，无论是写实风格还是卡通风格。我也可以确认该模型能够检测出现在真实照片中的AI图像——Pangram提供的热力图清晰地突出了该图像区域——尽管有一次它将一张AI生成图像的照片错误地标记为人类内容。
Spero表示，他不希望自己的技术助长对使用AI写作之人的“猎巫行动”，但需要某种机制来抵制低质量的内容垃圾。
“我看到的未来是，AI内容将继续大量涌现，”Spero说。“我们获得新GPU的速度比新生儿出生的速度还要快。如果我们不主动偏向于人类内容，那么我们将看到越来越多的AI内容，它会淹没我们所有的人类信号。”