OpenAI长期政策研究员Miles Brundage离职,AGI准备团队重组
OpenAI长期政策研究员、AGI准备团队高级顾问Miles Brundage已正式离职。
Brundage周三在X平台及通讯杂志中发文表示,他认为自己在非营利部门作为研究人员和倡导者将产生更大影响,且能“拥有更自由的出版能力”。他坦言:“做出这个艰难决定的部分原因是,在OpenAI工作是一个具有极高影响力的机会。但公司需要那些深切关心使命、并致力于维持关于开发和部署(包括内部部署)严格决策文化的员工。”
随着Brundage离职,原属AGI准备工作子团队的经济研究部门将转由新任首席经济学家罗尼·查特拉吉领导。Brundage透露,其余逐步解散的AGI准备工作团队成员将被分配至其他部门,任务对齐负责人乔舒亚·阿希亚姆将接手部分项目。
一位OpenAI发言人向TechCrunch表示,公司“完全支持”Brundage在行业外从事独立AI政策研究的决定,并对其贡献“深表感激”。声明称:“我们相信在他的新角色中,Miles将继续提高行业和政府的政策制定质量。”不过,发言人未说明谁将接管其具体职责。
Brundage于2018年加入OpenAI,历任研究科学家及政策研究主管,此前曾是牛津大学人类未来研究所研究员。在AGI准备团队期间,他重点关注ChatGPT等语言生成系统的负责任部署,并主导了外部红队测试项目及首份记录AI模型能力与局限性的“系统卡”报告。
近年来,OpenAI因被指优先考虑商业产品而牺牲AI安全屡遭前员工及董事会成员批评。Brundage在帖文中呼吁员工“畅所欲言”,探讨改进之道。他写道:“有人对我离开感到难过,并感谢我经常愿意提出担忧……如果我们屈从于群体思维,就无法做出正确决定。”
近期高管密集离职折射出公司内部对发展方向的分歧。继9月下旬CTO Mira Murati、CRO Bob McGrew及研究副总裁Barret Zoph宣布辞职后,著名研究科学家Andrej Karpathy于今年2月离开;联合创始人兼前首席科学家Ilya Sutskever与前安全负责人Jan Leike也相继辞职;8月,联合创始人John Schulman宣布离职;总裁Greg Brockman目前正处于长期休假状态。
此外,据《纽约时报》报道,前OpenAI研究员Suchir Balaji周三发声,称其离职是因为不愿再为“弊大于利”的技术做贡献。他还指控OpenAI在未获许可的情况下使用受版权保护的数据训练模型,这一说法与此前集体诉讼中的指控相呼应。

