大数跨境

“OpenAI文件”推动在通往通用人工智能(AGI)的竞赛中加强监管

“OpenAI文件”推动在通往通用人工智能(AGI)的竞赛中加强监管 海外洞察
2025-06-18
0
导读:《OpenAI文件》是Midas项目和Tech Oversight Project发起的一项档案项目,是一份“记录了对OpenAI治理实践、领导层诚信和组织文化等方面担忧的文件合集”。

OpenAI首席执行官山姆·奥特曼表示,人类距离开发出能够自动化大多数人类劳动的人工通用智能(AGI)仅有数年之遥。如果这是真的,那么人类也有权了解并参与决定这一令人惊叹且极具颠覆性力量的背后人物及其运作机制。

这正是“OpenAI档案”背后的指导宗旨,该项目由Midas Project和Tech Oversight Project这两个非营利科技监督组织发起。这些档案是“一份记录了关于OpenAI治理实践、领导诚信和组织文化方面担忧的文件集合”。除了提高公众意识外,该项目的目标是为OpenAI及其他AI领导者提出一条前进之路,重点关注负责任的治理、道德领导和共享利益。

网站上的变革愿景写道:“引导如此重要项目的治理结构和领导诚信必须反映其使命的规模和严重性。”“在通往AGI(通用人工智能)的竞赛中领先的公司必须被要求,也必须自我要求,达到 exceptionally high standards(极高的标准)。”

迄今为止,在AI领域的霸权争夺导致了单纯的规模扩张——一种不惜一切代价增长的心态,导致像OpenAI这样的公司未经同意就大量摄取内容用于训练,并建造了造成停电和增加当地消费者电费的巨大数据中心。急于商业化的趋势也导致公司在投资者要求盈利的压力下,在产品推出前未建立必要的安全保障措施。

这种来自投资者的压力改变了OpenAI的核心结构。《OpenAI文件》详细记录了在其早期的非营利阶段,OpenAI最初将投资者利润上限设定为最高100倍,以便在实现AGI时产生的任何收益都能惠及全人类。此后,该公司宣布计划取消这一上限,承认做出此类改变是为了安抚那些以结构性改革为注资条件的投资者。

这些文件凸显了诸如OpenAI仓促的安全评估流程以及“鲁莽文化”等问题,还指出了OpenAI董事会成员及奥特曼本人可能存在的利益冲突。其中还列出了一系列初创公司,它们可能位于奥特曼自己的投资组合中,并且与OpenAI的业务存在重叠。

这些文件也对奥特曼的诚信提出了质疑,自2023年高级员工因“欺骗性和混乱的行为”试图罢免他以来,这一直是一个备受猜测的话题。

“我不认为山姆是那个应该手握AGI启动按钮的人”,OpenAI前首席科学家伊利亚·苏茨克纳据报道当时曾表示。

《OpenAI文件》所引发的问题和解决方案提醒我们,巨大的权力掌握在少数人手中,缺乏透明度且监督有限。这些文件让我们得以窥见这个“黑箱”,并旨在将讨论从“不可避免”转向“问责”。

【声明】内容源于网络
0
0
海外洞察
海外资讯洞察,电商,AI
内容 14232
粉丝 0
海外洞察 海外资讯洞察,电商,AI
总阅读3.2k
粉丝0
内容14.2k