OpenAI发布青少年安全提示词，助力开发者构建更安全AI应用
OpenAI周二宣布推出一组专为青少年安全设计的提示词，供开发者优化其应用的安全性。该AI实验室表示，这套青少年安全政策可与开源权重安全模型gpt-oss-safeguard配合使用。
相较于从零研究AI青少年安全性，开发者可直接利用这些提示词加固内容。其覆盖范围包括暴力与色情内容、有害身体形象与行为、危险活动与挑战、浪漫或暴力角色扮演，以及年龄限制商品与服务等关键领域。
由于采用提示词形式设计，这些安全策略除适配gpt-oss-safeguard外，也与其他模型具备良好兼容性，不过在OpenAI生态系统中效果最佳。
OpenAI透露，在编写过程中与AI安全监督机构Common Sense Media及everyone.ai展开了合作。
Common Sense Media AI与数字评估主管Robbie Torney表示：“这些基于提示词的策略有助于在整个生态系统中设定有意义的最低安全标准，且因开源发布，可随时间推移不断适应和改进。”
OpenAI在博客中指出，即便是经验丰富的团队，也常难以将安全目标转化为精确、可操作的规则。
该公司强调：“这可能导致保护漏洞、执行不一致或过滤范围过宽。清晰且范围明确的安全策略是有效安全系统的关键基础。”
OpenAI承认，这些政策并非解决AI安全复杂挑战的万能药，但建立在家长控制、年龄预测等产品级安全措施之上。去年，OpenAI已更新大型语言模型Model Spec指导方针，以规范AI模型与18岁以下用户互动时的表现。
尽管OpenAI自身记录并不完美，正面临多起由ChatGPT过度使用者家属提起的诉讼——此类危险关系往往形成于用户绕过安全措施之后，且没有任何模型的护栏完全不可穿透——但这些策略仍代表一定进步，尤其能为独立开发者提供切实帮助。