OpenAI 正在招聘一名新高管，负责研究新兴的与人工智能相关的风险，涵盖从计算机安全到心理健康等多个领域。
在X上的一篇帖子中，CEO Sam Altman承认AI模型“开始带来一些真正的挑战”，包括模型对心理健康的“潜在影响”，以及那些“在计算机安全方面如此出色以至于开始发现关键漏洞”的模型。
Altman 写道：“如果你希望帮助世界解决如何赋予网络安全防御者尖端能力，同时确保攻击者无法将其用于危害目的（理想情况下是通过使所有系统更加安全），并同样地，在发布生物相关能力以及增强对能够自我改进系统的运行安全性信心方面发挥作用，请考虑申请。”
OpenAI为“准备负责人”职位发布的招聘启事将该职位描述为负责执行公司准备框架的角色，“该框架解释了OpenAI追踪和准备前沿能力的方法，这些能力会带来新的严重伤害风险。”
该职位的薪酬为 555,000 美元加上股权。
该公司于2023年首次宣布成立一个准备团队，称其将负责研究潜在的“灾难性风险”，无论是更紧迫的风险（如网络钓鱼攻击），还是更具推测性的风险（如核威胁）。
不到一年后，OpenAI将准备负责人Aleksander Madry调任至专注于AI推理的工作。OpenAI的其他安全高管也已离开公司或承担了准备和安全领域之外的新角色。
该公司最近还更新了其准备框架，表示如果竞争对手的AI实验室发布了一个没有类似保护的“高风险”模型，它可能会“调整”其安全要求。
正如Altman在其帖子中所暗示的那样，生成式AI聊天机器人在其对心理健康的影响方面正面临越来越多的审查。最近的诉讼指控OpenAI的ChatGPT加剧了用户的妄想、增加了他们的社会孤立感，甚至导致一些人自杀。（该公司表示，它仍在努力提升ChatGPT识别情绪困扰迹象的能力，并将用户与现实世界的支持资源联系起来。）