影视、书籍及社交媒体让大众对人工智能（AI）形成了固有认知，其中不乏“反乌托邦”式的末日担忧。尽管未来充满不确定性，但不可否认的是，AI在提升生活便利性方面仍具积极价值。
什么是 ImageNet Roulette？
ImageNet Roulette网站直观展示了AI对照片的分类逻辑，其结果往往令人啼笑皆非。例如，普通人物照可能被标记为“女性”，戴耳机者被标为“工作女郎”，手持球类者竟被识别为“读者”。虽然系统偶尔能准确识别出“活人（mortal）”，但整体表现并不稳定。
该平台的识别准确率欠佳：猫的照片被误标为“齿轮”，穿开衫毛衣被标为“离异”，头戴式耳机则被识别为“飞行员”，且标签随时间不断变化。这表明其在精准识别方面仍有明显短板。
Facebook 与 ImageNet Roulette
此前Facebook崩溃时，用户曾看到类似“图像可能包含：微笑的人、跳舞的人、婚礼”或“猫”等机械描述，而非具体的场景内容。相比之下，ImageNet Roulette的识别效果同样不尽如人意，甚至更为荒诞。
平台如何运作？
ImageNet Roulette是AI研究员Kate Crawford与艺术家Trevor Paglen联合展览“Training Humans”的一部分，由开发者Leif Ryge基于伯克利开发的Caffe深度学习框架实现。
其运行机制如下：
- 用户上传图片后，应用首先运行面部检测器；
- 若检测到人脸，将人脸区域发送至Caffe模型分类，返回带边界框和标签的原图；
- 若未检测到人脸，则将整张图片发送至模型，并在左上角显示分类标签。
种族主义标签问题
ImageNet数据集源自WordNet，其中包含大量带有敌意或种族主义色彩的类别术语。这些有问题的训练数据直接导致了输出结果的偏差、不准确甚至冒犯性，这也是该平台产生荒谬标签的根本原因之一。
综上所述，尽管ImageNet Roulette具有实验性和趣味性，但其输出的标签恰恰印证了人们对AI“恐惧型乌托邦”的担忧。或许在“识别能力不如Facebook”这一点上，大家终于达成了共识。