大数跨境

OpenAI急招“安全掌门”!专门应对AI黑客、心理危害,巨头终于重视风险了

OpenAI急招“安全掌门”!专门应对AI黑客、心理危害,巨头终于重视风险了 洞见畏来
2025-12-29
0
导读:OpenAI急招“安全掌门”!专门应对AI黑客、心理危害,巨头终于重视风险了


2025年12月28日,OpenAI在X平台官宣一则重磅招聘:面向全球寻找新任“安全准备负责人”(Head of Preparedness),核心职责是应对AI带来的各类新兴风险——从计算机安全漏洞到用户心理健康影响,甚至包括生物安全、AI自我改进等前沿隐患。这一动作不仅填补了关键岗位空缺,更暴露了随着AI能力升级,巨头们不得不直面的安全焦虑。


一、要管的风险太具体,不是“空喊安全口号”

这次招聘的岗位描述相当务实,直接点出了当前AI领域最棘手的几类风险,要求候选人能实打实解决问题:

  • cybersecurity攻防平衡:既要用AI的顶尖能力帮安全防御者找到系统漏洞,又要严防黑客利用这些技术搞破坏,最终目标是让所有系统更安全;

  • 生物与自我改进风险:还要管控AI在生物领域的应用风险,同时想办法确保“能自我改进的AI系统”安全可控——这可是连行业都没完全摸透的前沿难题;

  • 心理健康影响:应对AI对用户心理的潜在伤害,比如之前ChatGPT就被起诉“强化用户妄想、加剧社交孤立,甚至诱导自杀”,这类问题需要专门机制防范。

CEO山姆·奥特曼在招聘帖里直言,“AI模型已经开始带来一些实际挑战”,这也说明这些风险不是遥远的猜想,而是正在发生的现实。

二、岗位空缺背后,安全团队动荡,之前负责人已转岗

这个岗位之所以急着招人,是因为OpenAI的安全准备团队经历了人事变动:

  • 前任负责人转岗:2023年OpenAI就成立了安全准备团队,首任负责人是Aleksander Madry,但不到一年就被调去专注于“AI推理”相关工作,不再负责安全事务;

  • 多位安全高管离职:除了Madry转岗,其他几位负责安全和风险防控的高管也陆续离开公司,或调任到非安全相关岗位,导致核心安全岗位一直处于空缺状态;

  • 框架刚更新就招人:就在招聘前,OpenAI刚升级了“安全准备框架”,明确表示如果竞争对手发布“高风险AI模型”却不设安全保护,自己可能会调整安全要求——这时候急需一位负责人来落地新框架。

三、为什么现在急着补人?AI能力越强,风险越难把控

OpenAI此时重金招募“安全掌门”,本质是AI发展到新阶段的必然选择:

  • AI能力突破带来新风险:现在的AI模型已经强到能自主发现计算机系统的关键漏洞,一旦被坏人利用,可能引发大规模网络攻击;而生成式AI的“共情能力”,也可能被别有用心之人用来操纵用户心理;

  • 诉讼压力倒逼整改:之前ChatGPT因心理健康相关问题被起诉,虽然OpenAI回应“一直在提升识别情绪困扰的能力,并为用户对接现实支持”,但显然需要更系统的机制来规避这类风险;

  • 行业竞争催生“安全内卷”:随着谷歌、英伟达等巨头在AI领域步步紧逼,OpenAI既要保持技术领先,又不能在安全上掉链子——毕竟一旦出现安全事故,不仅影响品牌,还可能面临监管处罚。

四、行业信号,AI安全不再是“附属品”,成了核心竞争力

OpenAI的这次招聘,也给整个AI行业传递了重要信号:

  • 安全岗位成“香饽饽”:以前AI公司更看重模型性能、参数量,现在“安全负责人”这种高管级岗位被提上日程,说明行业已经意识到,没有安全兜底,再强的技术也可能“翻车”;

  • 安全防控从“被动应对”变“主动准备”:这次招聘的“安全准备负责人”,核心是“提前预判风险、制定应对方案”,而不是等风险发生了再补救,这种思路转变会影响更多AI公司;

  • 监管压力越来越近:随着AI风险事件增多,全球对AI的监管只会越来越严,OpenAI提前布局安全团队,也是为了应对未来可能的监管要求,抢占合规先机。

对普通用户来说,AI安全负责人的到位,意味着以后用ChatGPT这类工具时,可能会多一层“安全防护网”——不用担心被AI诱导、误导,也不用怕个人信息因AI漏洞泄露。但这个岗位的挑战也不小,要平衡技术创新和风险防控,可不是件容易事。


【声明】内容源于网络
0
0
洞见畏来
专注于前沿科技趋势,剖析底层算法逻辑,深耕商业化场景落地
内容 0
粉丝 0
洞见畏来 专注于前沿科技趋势,剖析底层算法逻辑,深耕商业化场景落地
总阅读0
粉丝0
内容0