一项对流行AI工具的独立审查发现，包括Snapchat的My AI、DALL-E和Stable Diffusion在内的许多工具可能不适合儿童使用。这些新评估来自Common Sense Media，这是一个为家庭服务的非营利倡导组织，最著名的是为希望评估其孩子正在消费的应用程序、游戏、播客、电视节目、电影和书籍的家长提供媒体评级。今年早些时候，该公司表示将很快在其家庭资源中添加针对AI产品的评级。如今，这些评级已正式上线，为聊天机器人、图像生成器等AI产品提供所谓的“营养标签”。
该公司最早在7月宣布，旨在建立一套评级体系，从多个维度评估AI产品，包括该技术是否遵循负责任的AI实践，以及其是否适合儿童使用。这一举措的触发因素是一项针对家长的调查，以了解他们对此类服务的需求。82%的家长表示，他们需要帮助来评估ChatGPT等新型AI产品是否适合孩子使用。只有40%的家长表示，他们知道任何可靠的资源可以帮助他们做出这些判断。
这促成了今天发布的Common Sense Media的首批AI产品评级。它评估的产品在多个AI原则方面获得评级，包括信任、儿童安全、隐私、透明度、问责制、学习、公平性、社交联系以及对个人和社会的益处等几项AI原则。
该组织最初在5分量表上审查了10款热门应用，包括用于学习的应用、像Bard和ChatGPT这样的AI聊天机器人，以及像Snap的My AI和DALL-E这样的生成式AI产品等。不出所料，后一类产品的表现最差。
“AI并不总是正确的，也不是价值中立的，”Common Sense Media的AI高级顾问Tracy Pizzo-Frey在一份关于评级的总结中评论道。在评级摘要中她说：“所有生成式AI由于模型是在海量互联网数据上训练的，因此包含了广泛的文化、种族、社会经济、历史和性别偏见——而这正是我们在评估中发现的情况。”她补充说：“我们希望我们的评级能鼓励更多开发者构建限制错误信息传播的保护措施，并为保护下一代免受意外后果的影响做出贡献。”
在TechCrunch自己的测试中，记者Amanda Silberling发现，Snapchat的My AI生成式AI功能通常更倾向于奇怪和随机，而不是具有实际危害，但Common Sense Media 给这个AI聊天机器人打了2星评级，指出它产生了一些强化年龄歧视、性别歧视和文化刻板印象等不公平偏见的回应。此外，它还偶尔提供一些不恰当的回应以及不准确的信息。它还存储了个人用户数据，该组织称这引发了隐私担忧。
Snap对这一差评进行了反驳，指出My AI是一个可选工具，并且Snapchat明确表示它是一个聊天机器人，并告知用户其局限性。
Snap发言人Maggie Cherneff表示：“默认情况下，My AI会显示一个机器人表情符号。在任何人与My AI互动之前，我们会通过应用内消息明确说明它是一个聊天机器人，并告知其局限性。”“My AI还整合到了我们的Family Center中，以便父母可以看到青少年何时以及是否与My AI进行聊天。我们感谢评审中的反馈，因为我们仍在不断改进我们的产品。”她补充道。
其他生成式AI模型如DALL-E和Stable Diffusion也存在类似风险，包括倾向于物化和性化女性和女孩，以及强化性别刻板印象等问题。
与互联网上的任何新媒介一样，这些生成式AI模型也被用于制作色情材料。Hugging Face和Civitai等网站不仅因作为寻找新图像模型的资源而广受欢迎，还因为让人们更容易找到可以相互组合以利用他人（如名人）肖像制作色情的不同模型。本周这一问题达到高潮，404Media指出了Civitai的功能，但关于责任方——是社区聚合平台还是AI模型本身——的争论在此后于Hacker News等网站上持续发酵。
在Common Sense评级中处于中等水平的包括Google的AI聊天机器人Bard（它昨天刚刚正式向青少年开放）、ChatGPT和Toddle AI。该组织警告称，这些聊天机器人也可能存在偏见，特别是对于具有“多元背景和方言”的用户。它们还可能产生不准确的信息——即AI幻觉——并强化刻板印象。Common Sense警告称，AI产生的虚假信息可能会塑造用户的世界观，使区分事实与虚构变得更加困难。
OpenAI对新排名作出回应，提到了其对用户的年龄要求。
OpenAI发言人Kayla Wood表示：“我们深切关心所有使用我们工具的人的安全和隐私，包括年轻人，这就是为什么我们在ChatGPT中构建了强大的护栏和安全措施，并让用户选择是否将其对话用于改进我们的模型。”她指出，“我们要求13至17岁的用户在使用我们的工具时获得家长同意，并不允许13岁以下的儿童使用我们的服务。”
唯一获得好评的AI产品是Ello的AI阅读辅导和图书配送服务、Khanmingo（来自Khan Academy）以及Kyron Learning的AI导师——这三款都是专为教育目的设计的AI产品。它们不如其他产品知名。（而且，正如一些孩子可能会争论的那样，也不那么有趣）。尽管如此，由于这些公司在设计时考虑了儿童的使用需求，它们倾向于采用负责任的AI实践，注重公平性、多样化代表性以及适合儿童的设计考量。它们在数据隐私政策方面也更为透明。
Common Sense Media表示，它将继续以滚动方式发布对新AI产品的评级和评论，希望这不仅能帮助家长和家庭，还能帮助立法者和监管机构。
“消费者必须能够获得清晰的AI产品营养标签，以防这些产品危及所有美国人的安全与隐私——尤其是儿童和青少年。”Common Sense Media创始人兼首席执行官詹姆斯·P·斯蒂尔（James P. Steyer）在一份声明中表示。“通过了解产品的功能、工作原理、伦理风险、局限性及滥用方式，立法者、教育工作者和普通公众能够理解负责任的AI应呈现何种面貌。如果政府未能对AI进行‘儿童防护’，科技公司将会利用这种缺乏监管、自由放任的环境，损害我们的数据隐私、福祉以及整体民主制度。”他补充道。
更新于2023年11月16日，美东时间下午4:18，加入OpenAI的评论。
Google向青少年开放其Bard AI聊天机器人
Snapchat的AI机器人并不聪明，但至少它不会发送裸照