在活动人士和家长的审视下，OpenAI组建了一个新团队，研究如何防止其AI工具被儿童误用或滥用。
在其招聘页面的新职位公告中，OpenAI披露了儿童安全团队的存在。该公司表示，该团队正与内部平台政策、法律和调查部门以及外部合作伙伴合作，管理与未成年用户相关的“流程、事件和审查”。
该团队目前正在招聘一名儿童安全执行专家，负责在AI生成内容的背景下实施OpenAI的政策，并处理与“敏感”（presumably与儿童相关）内容相关的审查流程。
一定规模的科技供应商会投入大量资源以遵守《美国儿童在线隐私保护规则》等法律，这些法律要求对儿童可访问和不可访问的网络内容进行管控，并限制公司可收集的儿童数据类型。因此，OpenAI聘请儿童安全专家并不令人意外，尤其是如果该公司预计未来会有大量未成年用户群体。（OpenAI当前的使用条款要求13至18岁的儿童需获得家长同意，并禁止13岁以下儿童使用。）
但这个新团队的成立——在OpenAI宣布与Common Sense Media合作制定适合儿童的AI指南并签下首个教育客户几周后——也表明OpenAI对违反涉及未成年人使用AI的政策及负面报道心存顾虑。
越来越多的儿童和青少年转向生成式AI工具寻求帮助，不仅用于学业，还用于个人问题。根据民主与技术中心的一项民意调查，29%的儿童表示曾使用ChatGPT应对焦虑或心理健康问题，22%用于解决朋友间的问题，16%用于家庭冲突。
一些人认为这是一个日益增长的风险。
去年夏天，出于对抄袭和虚假信息的担忧，学校和大学匆忙禁止使用ChatGPT。此后，一些学校撤销了禁令。但并非所有人都相信生成式AI的积极潜力，他们指出如英国Safer Internet Centre的调查等显示，超过一半的儿童（53%）报告看到同龄人以消极方式使用生成式AI——例如创建逼真的虚假信息或图像来惹恼他人。
今年九月，OpenAI发布了面向课堂的ChatGPT文档，包含提示词和常见问题解答，以向教育工作者提供将生成式AI作为教学工具使用的指导。在其中一篇支持文章中，OpenAI承认其工具，特别是ChatGPT，“可能会产生不适合所有受众或所有年龄段的输出”，并建议对接触儿童——即使是符合年龄要求的孩子——保持“谨慎”。
呼吁制定关于儿童使用生成式AI的指导方针的声音正在增强。
联合国教育、科学及文化组织（UNESCO）在去年年底推动各国政府规范教育中生成式AI的使用，包括实施用户年龄限制以及在数据保护和用户隐私方面设置护栏。UNESCO总干事Audrey Azoulay在新闻稿中表示：“生成式AI可以为人类发展带来巨大机遇，但也可能造成危害和偏见。”“如果没有公众参与以及政府提供的必要保障措施和监管，它无法融入教育体系。”