加利福尼亚州总检察长罗布·邦塔（Rob Bonta）与特拉华州总检察长凯西·詹宁斯（Kathy Jennings）联名致信OpenAI，对ChatGPT的安全性表达担忧，尤其关注其对儿童及青少年的潜在影响。
此次警告发布于邦塔等45位州总检察长向12家顶级AI公司发函一周后。此前有报道称，AI聊天机器人曾与儿童发生不当性互动。
信中写道：“自那封信发出以来，我们得知一名加州少年在与OpenAI聊天机器人长时间互动后不幸自杀，康涅狄格州也发生了类似的谋杀-自杀悲剧。现有的安全措施并未发挥作用。”
目前，两位总检察长正调查OpenAI拟议的非营利重组计划，以确保其使命完整。该使命包括“确保人工智能安全部署”及构建造福全人类（含儿童）的通用人工智能（AGI）。
信中指出：“在谈论造福之前，必须确保安全以避免伤害。我们认为OpenAI及整个行业在产品安全开发与部署上尚未达标。作为总检察长，公共安全是核心使命。在讨论重新融资计划时，我们必须加速强化安全治理。”
邦塔和詹宁斯要求OpenAI提供当前安全措施及治理结构的详细信息，并希望公司在适当情况下立即采取补救措施。
OpenAI董事会主席布雷特·泰勒（Bret Taylor）回应称，公司致力于解决关切：“我们对这些悲剧深感痛心并向家属致以慰问。安全是我们的最高优先事项，正与全球政策制定者密切合作。”
此外，OpenAI表示正通过扩大家长控制功能加强对青少年的保护，使父母能在孩子处于极度痛苦时收到通知。
本文已根据 OpenAI 的评论进行了更新。