大数跨境

OpenAI再失首席安全研究员 Lilian Weng

OpenAI再失首席安全研究员 Lilian Weng 海外洞察
2024-11-08
0
导读:OpenAI的另一位首席安全研究员林恩·翁(Lilian Weng)周五宣布,她将从这家初创公司离职。翁曾担任研究和安全副总裁

OpenAI首席安全研究员Lilian Weng周五宣布离职。Weng自8月起担任研究和安全副总裁,此前曾负责OpenAI安全系统团队。

她在X平台发文表示:“在OpenAI工作7年后,是时候重新出发探索新事物了。”其最后工作日为11月15日,但未透露下一步去向。

“做出离开OpenAI的决定极其艰难,”Weng写道,“回顾成就,我为安全系统团队的每位成员感到自豪,并对团队未来的持续发展充满信心。”

Weng的离职标志着又一位AI安全或政策高管离开该公司,此前已有数人指责OpenAI将商业利益置于安全之上。她与Ilya Sutskever、Jan Leike同为今年离开的知名人物——三人曾是已解散的Superalignment团队领导者,该团队致力于开发引导超级智能AI的方法,如今均已转往他处从事AI安全工作。

据其LinkedIn显示,她曾加入公司机器人团队,耗时两年研发出能复原魔方的机械手。

随着OpenAI聚焦GPT范式,Weng的职业重心也随之调整。2021年,她转型协助建立应用AI研究团队;2023年GPT-4发布后,她受命组建专门的安全系统团队。目前,该部门拥有超过80名科学家、研究人员和政策专家。

尽管安全团队规模庞大,外界仍对OpenAI在构建强大AI系统时的安全性存疑。长期政策研究员Miles Brundage去年10月离职时指出AGI准备团队已被解散;同日,《纽约时报》报道前研究员Suchir Balaji因认为公司技术弊大于利而选择离开。

OpenAI向TechCrunch确认,高管与安全研究人员正积极推进交接工作。

发言人表示:“我们深切感谢Lilian在突破性安全研究和构建严谨技术保障措施方面的贡献。我们有信心安全系统团队将继续发挥关键作用,确保系统安全可靠地服务全球用户。”

近期离职的高管还包括CTO Mira Murati、首席研究官Bob McGrew及研究副总裁Barret Zoph。今年8月,知名研究员Andrej Karpathy和联合创始人John Schulman也宣布离开。其中Leike和Schulman加入了竞争对手Anthropic,其他人则创办了自己的企业。

【声明】内容源于网络
0
0
海外洞察
海外资讯洞察,电商,AI
内容 14232
粉丝 0
海外洞察 海外资讯洞察,电商,AI
总阅读3.2k
粉丝0
内容14.2k