6月26日，专栏作家、前谷歌安全研究员lcamtuf，在博客里公开了一项针对AI生成儿童读物的调查结果，发现一本亚马逊畅销榜排行第一的儿童百科全书中，存在大量怪异、扭曲甚至令人不安的AI生成插图。
lcamtuf在博客中表示，他此前整理了约220本AI生成儿童读物的封面，用以研究当前AI生成内容的同质性。
随后出于好奇，他在亚马逊平台上实际购买了一本儿童百科全书。
翻看后发现——书中很多插画都出现了人体畸形变异的“身体恐怖”风格，包括扭曲的人体、诡异的猫，以及与树木融合的怪物等，完全不符合儿童读物应有的标准。
书中标注显示，这些插图出自美国某旗舰AI模型。
lcamtuf警告，尽管去年多家前沿AI公司已宣称其模型具备“超越博士级”的智能，但像文中这样今年新上市的AI生成儿童读物，仍存在严重质量问题，恐影响儿童认知。
目前这类AI生成儿童读物，在亚马逊相关品类中普遍存在。
来源：lcamtuf's thing
