为应对日益加剧的在线儿童安全问题，OpenAI 发布了一项旨在加强美国儿童保护工作的蓝图，以应对人工智能热潮带来的挑战。该儿童安全蓝图于周二发布，旨在帮助更快地检测、更好地报告以及更高效地调查涉及利用人工智能剥削儿童的案件。
《儿童安全蓝图》的总体目标是解决与人工智能进步相关的儿童性剥削案件激增这一令人担忧的问题。根据互联网观察基金会（IWF）的数据，2025年上半年检测到超过8,000起由人工智能生成的儿童性虐待内容举报，较前一年增长了14%。其中包括犯罪分子利用人工智能工具生成虚假的儿童色情图像以进行财务性勒索，并生成逼真的信息用于诱骗儿童。
OpenAI发布此蓝图也正值政策制定者、教育工作者和儿童安全倡导者加强审查之际，尤其是鉴于近期发生的令人不安的事件，即有年轻人在据称与人工智能聊天机器人互动后自杀身亡。
去年11月，社交媒体受害者法律中心（Social Media Victims Law Center）和科技正义法律项目（Tech Justice Law Project）在加州州法院提起了七起诉讼，指控OpenAI在未准备好之前就发布了GPT-4o。这些诉讼声称，该产品具有心理操纵性质，导致了错误的自杀和协助自杀死亡事件。他们引用了四名因自杀身亡的个体，以及三名在与聊天机器人长时间互动后出现严重、危及生命的幻觉的人。
该蓝图是在与全国失踪与被剥削儿童中心（NCMEC）和总检察长联盟合作开发的过程中制定的，并采纳了北卡罗来纳州总检察长杰夫·杰克逊（Jeff Jackson）和犹他州总检察长德里克·布朗（Derek Brown）的反馈。
该公司表示，该蓝图侧重于三个方面：更新立法以涵盖由人工智能生成的虐待材料，完善向执法部门报告的机制，以及在人工智能系统中直接整合预防性保障措施。通过这样做，OpenAI旨在不仅更早地检测潜在威胁，还确保可操作的信息能够及时传递给调查人员。
OpenAI的新版儿童安全蓝图建立在先前的举措基础之上，包括更新了与18岁以下用户互动的指南，禁止生成不当内容或鼓励自我伤害，并避免提供会帮助年轻人向监护人隐瞒不安全行为的建议。该公司最近发布了针对印度青少年的安全蓝图。