人们正向AI寻求直言不讳的真相。
朋友会顾及你的感受，但它却毫不留情。
全文2282字，阅读时长4min
32 岁的安妮娅・鲁钦斯基（Ania Rucinski）的心情很低落。
她觉得自己长相 “还不错”，但朋友们总暗示她 “配不上” 她的“男神级”的男友。
她说：“这些人永远不会跟我说实话，告诉我怎样才能更有吸引力。”
于是，她转向了一个非传统的渠道寻求真相：ChatGPT。她在聊天机器人的输入框中写道，自己厌倦了成为 “不被看好的那一个”，并询问如何改善外貌。
AI 建议她尝试 “窗帘刘海”（curtain bangs）。
“窗帘刘海” 图片来源：网络
当AI成为“裁判”，
是外貌评估还是消费指南？
自2022年底推出以来，ChatGPT已从办公助手演变为“外貌咨询师”。
People are uploading their own photos, asking it for unsparing assessments of their looks. Many also ask the bot to formulate a plan for them to “glow up,” or improve their appearance.
用户上传自拍照，要求AI进行“无滤镜评价”，甚至制定“变美计划”。
从染发剂到肉毒杆菌，AI会精准推荐具体产品，有人为此花费数千美元。
32岁的凯拉·德鲁（Kayla Drew）向ChatGPT询问“如何提升吸引力”，按照AI从皮肤、发型到妆容给出的一整套方案，她已花费约200美元。
If the real people in her life gave her point-blank feedback on her appearance, it would probably hurt her feelings, Drew said. But coming from ChatGPT, which Drew refers to with “she” pronouns, the whole thing feels more palatable.
德鲁说，如果现实生活中的真人直截了当地对她的外貌给出反馈，可能会伤害到她。但来自被德鲁用“她”来指代的ChatGPT的反馈，整个事情感觉更易让人接受。
图片来源：网络
The trend highlights people’s willingness to rely on chatbots not just for information and facts, but for opinions on highly subjective topics such as beauty. Some users view AI’s responses as more impartial, but experts say these tools come with hidden biases that reflect their training data or their maker’s financial incentives.
这一趋势凸显了人们不仅愿意依赖聊天机器人获取信息和事实，还希望AI对美这类高度主观的话题给出意见。一些用户认为 AI 的回应更公正，但专家指出，这些工具隐藏着偏见 —— 反映了其训练数据或开发者的财务动机。
“AI 只是在重复它在网上看到的内容，而其中很大一部分内容本就是为了让人们自我怀疑并购买更多产品而设计的。”电商分析师艾米丽（Emily Pfeiffer）表示。
《美丽评论》通讯作者、美妆评论员杰西卡·德菲诺（Jessica DeFino）表示，用户将ChatGPT视为更“客观”的美丽衡量工具，因为它不像亲友那样会考量善良、幽默等内在特质。互联网时代的审美标准将“自我”异化为可评估的“客体”，而“通过另一个（人工智能驱动的）客体来评价客体”正是这种思维的极致体现。
OpenAI在5月宣布将更新ChatGPT，当用户显露出购物意图时，系统将展示产品信息（包括图片、详情和链接）。部分科技与美妆专家警告称，聊天机器人的建议首先服务于开发者的目标，而非用户需求。
“美丽标准”
分布式人工智能研究所（Distributed AI Research Institute）研究总监亚历克斯·汉纳（Alex Hanna）表示，尽管ChatGPT的开发公司OpenAI未公开其AI系统的训练数据，但这些数据很可能包含在线论坛内容，而其中主要是男性对女性的吸引力进行评分的内容。
聊天机器人的建议可能源自专业的YouTube美妆博主，也可能来自充满恶意的论坛讨论；甚至可能是对虚构产品或对真实商品作出虚假宣称。由于其训练数据既庞大又不透明，机器人易受偏见影响或出现错误。
汉纳指出，虽然训练数据包含多样化的观点，但聊天机器人往往倾向于抓取最常见的“共同点”——例如“女性需要不断改善外貌”的观念。
“We’re automating the male gaze。”
“我们正在将‘男凝’自动化。”专攻生成式AI的计算语言学家艾米丽·本德（Emily Bender）补充道。
OpenAI发言人莉亚·西伊·安妮丝（Leah Seay Anise）称，公司已组建团队致力于减少模型中的偏见。但她拒绝透露ChatGPT的技术是否基于“颜值评分”内容训练，仅表示购物功能尚处新开发阶段，仍在优化中。
AI=
绝对公正吗？
AI的“客观”背后可能隐藏着更深的偏见。
2月5日， 联合国妇女署（UN WOMEN）发表了一篇对津尼亚·德尔·比利亚尔（Zinnya del Villar）的采访，有关AI暗含的性别偏见和其解决路径的问题。
津尼亚・德尔・比利亚尔在阿尔巴尼亚首届性别数据马拉松活动中开展关于性别数据分析和负责任人工智能的专题讲座。
图片来源：联合国妇女署
津尼亚·德尔·比利亚尔，“2024年100位杰出AI伦理女性”之一，现任Data-Pop Alliance数据、技术与创新总监。她致力于推动女性和女孩在科学、技术、工程和数学（STEM）领域的发展，并倡导在人工智能系统中以符合伦理和包容性的方式使用数据.
“AI systems, learning from data filled with stereotypes, often reflect and reinforce gender biases,”says Zinnya del Villar. “These biases can limit opportunities and diversity, especially in areas like decision-making, hiring, loan approvals, and legal judgments.”
“AI系统从充满刻板印象的数据中学习，往往会反映并强化性别偏见，”津尼亚·德尔·比利亚尔表示，“这些偏见可能限制机会和多样性，尤其在决策、招聘、贷款审批和法律判决等领域。”
机器学习模型等AI系统通过所训练的数据学习执行这些任务。当这些模型依赖有偏见的算法时，可能会强化现有不平等，并在AI领域助长性别歧视。
试想，训练一台机器通过展示过去的案例来做出招聘决策。如果这些案例大多带有显性或隐性偏见——例如，将男性描绘为科学家、女性描绘为护士——AI可能会解读为男性和女性更适合特定角色，并在筛选求职申请时做出偏见决策。
这就是AI性别偏见（AI gender bias）——当AI基于其训练的偏见数据，以性别为依据区别对待人群时，偏见便产生了。
德尔·比利亚尔指出，“语音助手默认使用女性声音，强化了‘女性适合服务性角色’的刻板印象；而GPT、BERT等语言模型往往将‘护士’与女性关联，‘科学家’与男性关联。”
此外，AI的建议背后还可能有互联网公司自己的经济算盘。
OpenAI在5月宣布将更新ChatGPT，当用户显露出购物意图时，系统将展示产品信息（包括图片、详情和链接）。部分科技与美妆专家警告称，
人工智能公司需要新的收入来源——部分企业正投入数十亿美元构建和维护AI工具。让聊天机器人推送赞助产品和广告成为了潜在的路径。 随着购物功能的推出，消费者可能在毫不知情的情况下接收产品推荐。
即便机器人指出了所谓的“不完美”，向ChatGPT寻求外貌反馈的用户仍表示对结果满意。
39岁的华盛顿州居民米凯拉·拉西格（Michaela Lassig） 婚前请ChatGPT帮自己“变美”。她在提问中告知机器人自己的目标（无瑕年轻的肌肤）、预算（2500美元）和时间线。她接受了这些建议，机器人甚至预估了美容师建议的肉毒素剂量。
31岁的海莉·安德鲁斯（Haley Andrews）想听到关于自己外貌的“真”心话，而不是客套话。她一直欣赏姐姐直言不讳的批评风格，因此向机器人提出特殊请求：“我告诉它，‘请像一个爱你、希望你变得最好的姐姐那样说话，即便有点刺耳也要说实话。’”安德鲁斯说。
机器人指出她眉毛稀疏，不涂腮红时气色平平。
“It was so spot-on,” she said.
她夸赞道：“这简直一针见血。”
参考资料：
https://www.washingtonpost.com/technology/2025/05/25/chatgpt-ai-beauty-advice/
How AI reinforces gender bias—and what we can do about it | UN Women – Headquarters
编译：沈加畅
排版：沈加畅
点击关注，携手成长👇