大数跨境

山姆·奥特曼退出OpenAI安全委员会

山姆·奥特曼退出OpenAI安全委员会 土耳其小莫
2024-09-17
3
导读:OpenAI宣布,其在安全和安全实践方面进行了重大调整,包括成立一个独立的董事会监督委员会。

OpenAI安全治理架构重大调整:Sam Altman退出监督委员会

OpenAI宣布对其安全实践进行重大变革,核心举措是成立全新的独立监督机构。值得注意的是,公司首席执行官Sam Altman将不再担任该委员会成员,此举标志着其治理结构与过往模式的显著分离。

新设“安全与保障委员会”及核心成员

新成立的“安全与保障委员会”(SSC)由卡内基梅隆大学机器学习系主任Zico Kolter领衔。其他关键成员阵容强大,包括:

  • Quora 首席执行官 Adam D'Angelo
  • 美国陆军退役将军 Paul Nakasone
  • 索尼公司前常务董事兼总顾问 Nicole Seligman

职权升级:从建议咨询到实质监管

此次重组后的SSC接替了2024年6月成立、原包含Altman在内的旧委员会。与前任仅提供建议不同,新委员会的职权实现了实质性跨越:

  1. 审查权:有权对大型模型版本的安全评估进行深度审查;
  2. 监督权:全程监督模型发布流程;
  3. 否决权:若安全问题未获充分解决,委员会拥有推迟发布的决定权。

这一变革发生在OpenAI全面审视其AI安全承诺的关键节点。此前,公司因解散Superalignment团队及安全骨干离职而备受外界质疑。将Altman移出安全委员会,旨在从根本上消除利益冲突隐患,重塑公众对公司安全监督机制的信任。

此外,Sam Altman曾在内部周会上向员工透露,公司计划于明年对其复杂的非营利性企业结构进行调整。

【声明】内容源于网络
0
0
土耳其小莫
小莫带你了解土耳其电商,探索AI应用
内容 45623
粉丝 0
土耳其小莫 小莫带你了解土耳其电商,探索AI应用
总阅读56.4k
粉丝0
内容45.6k