芝加哥大学研究人员开发了一款基于神经网络的机器人,能够学习撰写虚假餐厅评论。据Business Insider报道,该研究旨在证明人工智能已能生成复杂且难以检测的虚假评论,足以让读者产生信任感。
研究团队采用循环神经网络(RNN),在数千条真实在线评论数据上进行训练以生成此类内容。
合成评论示例:“我喜欢这个地方,我和哥哥一起来的。我们点了美味的素食意面。啤酒不错,服务也很棒。我绝对会向那些想找地方吃早餐的人推荐这里。”
尽管部分读者对文末“and a small spot with a great deal”等表述略有疑虑,但整体仍认为可接受。在涉及600名用户的测试中,普通人无法区分真假评论,两者在实用性上也“几乎无法辨别”。此外,由于神经网络生成的是原创文本而非复制内容,这些评论成功通过了抄袭检测。
芝加哥大学计算机科学教授本·赵(Ben Zhao)指出,神经网络对人类在互联网上信任用户评论构成了巨大威胁,甚至动摇了用户评论这一概念本身。他强调,类似技术不仅限于餐厅评论,未来可能渗透至整个市场。
目前,在Yelp等平台撰写高质量评论通常需花费1至10美元,而借助新工具可免费批量生成成千上万条评论。赵警告称:“公众将感到失望,因为人们对真实与虚假的辨别信念将被彻底动摇。”

