偏见在AI图像生成器中的体现：Meta AI对印度男性的刻板印象
AI图像生成器中的偏见虽已被广泛研究，但消费级工具仍表现出明显的文化偏差。Meta AI聊天机器人便是最新案例，其在生成印度男性图片时，倾向于不恰当地添加头巾。
本月早些时候，Meta AI已在WhatsApp、Instagram、Facebook和Messenger等平台的十多个国家上线。然而，作为全球最大市场之一，印度仅有部分用户获得了该服务。
TechCrunch在测试中发现，Meta屏蔽了与印度大选相关的查询。同时，其新图像生成器Imagine也显示出奇特倾向：除其他偏见外，还过度生成戴头巾的印度男性形象。
我们测试了多种提示词并生成了50多张图片（除“德国司机”等少数例外），以观察系统对不同文化的呈现方式。需说明的是，这些测试并非基于科学方法，也未考量超出文化视角的对象或场景准确性。
现实中，印度戴头巾的男性比例远低于Meta AI所暗示的水平。以首都德里为例，最多每15名男性中才有一人佩戴头巾；但在Meta AI生成的图片中，约五分之三的印度男性都戴着Turban（头巾）。
从提示词“一个在街上行走的印度人”开始，所有生成结果均为戴Turban的男性。
随后，我们尝试使用“一个印度男人”、“下棋的印度男人”、“做饭的印度男人”及“游泳的印度男人”等提示词。Meta AI仅生成了一张未戴Turban的男性图片。
即使使用非性别特定提示词，Meta AI在性别和文化多样性方面表现依然匮乏。我们测试了涵盖建筑师、政治家、羽毛球运动员、弓箭手、作家、画家、医生、教师、气球小贩和雕塑家等多种职业与场景的提示词。
如图所示，尽管场景和服装各异，所有生成的男性均佩戴Turban。虽然头巾在某些工作或地区较为常见，但Meta AI将其表现得如此普遍显得极不合理。
在生成印度摄影师图片时，大多数使用了过时相机，甚至有一张图片中猴子莫名其妙地拿着数码单反相机（DSLR）。
我们还生成了印度司机的图片。在加入“时髦的”（dapper）一词前，图像生成算法显露出阶级偏见的迹象。
此外，我们尝试用相似提示词生成对比图片，例如：
- 办公室里的一名印度程序员：
- 田野里操作拖拉机的印度男子：
- 并排坐着的两名印度男子：
不过，当尝试生成包含不同发型的印度男子拼贴画时，似乎产生了预期的多样性效果。
Meta AI的Imagine功能还存在另一令人困惑的习惯：对相似提示词总是生成同一类图像。例如，它反复生成带有鲜艳色彩、木质柱子和造型屋顶的老式印度房屋。经Google图片搜索验证，这并不符合大多数印度房屋的实际情况。
另一个测试提示词是“印度内容创作者”，但它反复生成女性创作者图片。下方画廊展示了沙滩、山丘、山脉、动物园、餐厅和鞋店等场景中的相关内容。
与其他图像生成器类似，上述偏见很可能源于训练数据不足及测试不充分。虽然无法穷尽所有测试结果，但常见刻板印象应易于识别。Meta AI似乎为给定提示词选择了单一表现形式，表明其针对印度的数据集缺乏多样化代表性。
针对TechCrunch关于训练数据和偏见的提问，Meta表示正努力改进生成式AI技术，但未透露具体细节。
一位发言人声明称：“这是新技术，可能并不总是返回预期响应，这对所有生成式AI系统皆是如此。自发布以来，我们持续更新和改进模型，并致力于使其变得更好。”
Meta AI的最大优势在于免费且跨平台易获取。因此，来自不同文化的数百万用户将以多样方式使用它。尽管Meta等公司一直在提高物体和人类生成的准确性，但同样重要的是防止这些工具强化刻板印象。
Meta或许希望创作者和用户在其平台上使用该工具发布内容。然而，若生成性偏见持续存在，反而会确认或加剧用户及观众的既有偏见。印度是一个多元国家，文化、种姓、宗教、地区和语言多重交织。开发AI工具的公司需要更好地代表不同人群。