AI初创公司Anthropic调整政策，允许未成年人在特定条件下使用生成式AI系统
周五，Anthropic在官方博客宣布，将开始允许青少年和儿童使用基于其AI模型的第三方应用服务。前提是开发者必须实施特定的安全功能，并向用户明确披露所使用的Anthropic技术。
在配套支持文章中，Anthropic列出了面向未成年人AI应用应具备的安全措施，包括年龄验证系统、内容审核与过滤，以及关于“安全且负责任”使用AI的教育资源。此外，公司还可能提供定制化技术措施，例如针对相关开发者强制实施的“儿童安全系统提示”。
使用Anthropic AI模型的开发者还需遵守适用的儿童安全及数据隐私法规，如美国《儿童在线隐私保护法》（COPPA）。Anthropic表示，计划定期审计应用以确保持续合规；对反复违规账户将暂停或终止服务，并强制要求开发者在公开渠道明确声明其合规状态。
Anthropic指出：“在某些用例中，AI工具可为年轻用户带来显著益处，如备考或辅导支持。鉴于此，我们更新后的政策允许组织将其API集成到面向未成年人的产品中。”
此次政策调整正值青少年日益依赖生成式AI解决学业及个人问题之际。与此同时，Google和OpenAI等竞争对手也在探索更多儿童适用场景：OpenAI今年成立新团队研究儿童安全，并与Common Sense Media合作制定适龄AI指南；Google也已在其聊天机器人Gemini（原Bard）中向选定地区的英语青少年开放服务。
Center for Democracy and Technology的民调显示，29%的儿童曾使用ChatGPT等生成式AI处理焦虑或心理健康问题，22%用于应对朋友间矛盾，16%用于解决家庭冲突。
去年夏天，出于对抄袭和错误信息的担忧，众多学校曾紧急禁止生成式AI应用（尤其是ChatGPT），但此后部分学校已撤销禁令。然而，并非所有人都认可其积极潜力。U.K. Safer Internet Centre调查显示，53%的儿童目睹过同龄人以负面方式使用生成式AI，例如创建逼真的虚假信息或用于激怒他人的图像（含色情深度伪造）。
目前，关于儿童使用生成式AI的指导方针呼声日益高涨。联合国教科文组织（UNESCO）已于去年底推动各国政府规范教育领域生成式AI的使用，建议实施年龄限制及数据隐私保障措施。总干事奥德蕾·阿祖莱强调：“生成式AI虽为人类发展带来巨大机遇，但也可能造成危害与偏见。若无公众参与及政府提供的必要保障与监管，它无法真正融入教育领域。”