0
0
分享网址

恐惧和紧张导致 Sam Altman 在 OpenAI 被解雇

跨语桥梁
2023-11-20
3465
大数跨境 导读: 这家旧金山公司备受瞩目的老板的离职引起了人们对构建新人工智能系统的人们之间的哲学分歧的关注。

 

去年,Sam Altman 带领 OpenAI 进入了科技行业的成人领域。得益于其广受欢迎的 ChatGPT 聊天机器人,这家旧金山初创公司成为了人工智能热潮的中心,而 OpenAI 的首席执行官 Altman 先生也成为了科技界最知名的人物之一。

但这一成功引发了公司内部的紧张局势。据三名知情人士透露,受人尊敬的人工智能研究员 Ilya Sutskever 与 Altman 先生和其他九人共同创立了 OpenAI,他越来越担心 OpenAI 的技术可能存在危险,而 Altman 先生没有对这种风险给予足够的重视。他的想法。据两位知情人士透露,该公司董事会成员苏茨克韦尔也对自己在公司内部的角色被削弱表示反对。

周五下午,快速增长与人工智能安全之间的冲突成为人们关注的焦点,当时 Altman 被Sutskever 领导的 OpenAI 六名董事会成员中的四名解雇。此举震惊了 OpenAI 员工和科技行业的其他人士,其中包括已向该公司投资 130 亿美元的微软。一些业内人士表示,这次分裂的严重程度不亚于 1985 年史蒂夫·乔布斯被迫离开苹果公司。
但周六,令人头晕目眩的是,据说 Altman 先生正在与 OpenAI 董事会讨论重返公司的事宜。

周五,38 岁的 Altman 被赶下台,引发了人们对人工智能社区中长期分歧的关注:一些人认为人工智能是一代人中最大的商机,而另一些人则担心行动太快可能会带来危险。罢免他的投票表明,一场致力于对人工智能恐惧的哲学运动已成为科技文化中不可避免的一部分。

自 ChatGPT 发布近一年以来,人工智能已经激发了公众的想象力,人们希望它可以用于药物研究或帮助教育儿童等重要工作。但一些人工智能科学家和政治领导人担心它的风险,例如工作岗位被自动化所取代,或者自主战争超出了人类的控制范围。

对人工智能研究人员正在构建危险事物的担忧一直是 OpenAI 文化的基本组成部分。它的创始人相信,因为他们了解这些风险,所以他们是构建它的合适人选。

OpenAI 董事会没有提供驱逐 Altman 先生的具体原因,只是在一篇博客文章中表示,董事会不相信他与他们进行了诚实的沟通。根据《纽约时报》看到的一条消息,OpenAI 员工于周六早上被告知,他的免职与“渎职或与我们的财务、业务、安全或安保/隐私实践相关的任何事情”无关。
另一位联合创始人兼公司总裁格雷格·布罗克曼 (Greg Brockman) 于周五晚上辞职以示抗议。OpenAI 的研究总监也是如此。据 6 名现任和前任员工称,到周六上午,公司已陷入混乱,大约 700 名员工很难理解董事会为何采取这一举措。

编辑精选

墨西哥创客之城瓜达拉哈拉的景点、美食和购物

红冠鹦鹉在洛杉矶县深受喜爱。谁在困住他们?

这些书会让你们的关系更牢固
“我确信你们都感到困惑、悲伤,或许还有一些恐惧,”OpenAI 首席运营官 Brad Lightcap 在给 OpenAI 员工的一份备忘录中说道。“我们完全专注于处理这个问题,推动解决方案和清晰度,然后重新投入工作。”

周五中午,奥尔特曼先生被要求参加在旧金山举行的视频董事会会议。据一位知情人士透露,37 岁的苏茨克韦尔在那里朗读了一份脚本,该脚本与该公司几分钟后发布的博客文章非常相似。帖子称,奥尔特曼“与董事会的沟通并不一贯坦诚,阻碍了董事会履行职责的能力。”

但在接下来的几个小时里,OpenAI 员工和其他人不仅关注 Altman 先生可能做了什么,还关注这家旧金山初创公司的结构方式,以及自此以来公司工作中对人工智能危险的极端观点。它创建于2015年。

周六未能联系到苏茨克韦尔和奥尔特曼发表评论。
最近几周,帮助监督 ChatGPT 核心技术 GPT-4 的 Jakub Pachocki 被晋升为该公司的研究总监。据两位知情人士透露,他之前担任过苏茨克韦尔以下的职位,后来被提升到与苏茨克韦尔并肩的职位。

知情人士称,帕乔基于周五晚间辞职,紧随布罗克曼之后不久。当天早些时候,OpenAI 表示,布罗克曼先生已被免去董事会主席职务,并将向新任临时首席执行官米拉·穆拉蒂 (Mira Murati) 汇报工作。奥尔特曼的其他盟友——包括两名高级研究员西蒙·西多尔和亚历山大·马德里——也离开了公司。

布罗克曼在X(前身为 Twitter)上发帖称,尽管他是董事会主席,但他并未参加奥特曼被罢免的董事会会议。只剩下苏茨克维尔和其他三名董事会成员:问答网站 Quora 的首席执行官 Adam D'Angelo;塔莎·麦考利 (Tasha McCauley),兰德公司兼职高级管理科学家;海伦·托纳 (Helen Toner),乔治城大学安全与新兴技术中心战略和基础研究资助主任。

周六未能联系到他们置评。
麦考利女士和托纳女士与理性主义和有效利他主义运动有联系,该团体深切担心人工智能有一天可能会毁灭人类。今天的人工智能技术无法毁灭人类。但这个社区认为,随着技术变得越来越强大,这些危险将会出现。

2021 年,一位名叫 Dario Amodei 的研究人员(他也与这个社区有联系)和其他大约 15 名 OpenAI 员工离开了公司,成立了一家名为 Anthropic 的新人工智能公司。

苏茨克韦尔先生越来越认同这些信念。他出生于苏联,在以色列度过了成长岁月,青少年时期移居加拿大。作为多伦多大学的研究生,他帮助创造了称为神经网络的人工智能技术的突破。

2015 年,Sutskever 先生辞去了 Google 的工作,与 Altman 先生、Brockman 先生和特斯拉首席执行官埃隆·马斯克 (Elon Musk) 一起帮助创立了 OpenAI。他们将该实验室建立为非营利组织,并表示与谷歌和其他公司不同,它不会受到商业激励的驱动。他们发誓要打造所谓的通用人工智能(AGI),一种可以做大脑能做的任何事情的机器。

Altman 先生于 2018 年将 OpenAI 转型为一家营利性公司,并与微软协商获得 10 亿美元投资。如此巨额资金对于构建今年早些时候发布的 GPT-4 等技术至关重要。自最初投资以来,微软又向该公司投资了 120 亿美元。

该公司仍然由非营利组织董事会管理。像微软这样的投资者确实从 OpenAI 中获得了利润,但他们的利润是有限的。超过上限的任何资金都会重新注入非营利组织。

当 Sutskever 先生看到 GPT-4 的强大功能时,他帮助在公司内部创建了一个新的 Super Alignment 团队,该团队将探索确保该技术的未来版本不会造成损害的方法。

Altman 先生对这些担忧持开放态度,但他也希望 OpenAI 能够领先于规模大得多的竞争对手。据两位知情人士透露,9 月底,奥特曼飞往中东与投资者会面。他向孙正义领导的日本科技投资者软银寻求高达 10 亿美元的资金,用于一家潜在的 OpenAI 企业,该企业将构建用于运行 ChatGPT 等人工智能技术的硬件设备。

OpenAI 还在就“要约收购”资金进行谈判,该资金将允许员工兑现公司股票。这笔交易将使 OpenAI 的估值超过 800 亿美元,几乎是六个月前估值的三倍。

但该公司的成功似乎只会加剧人们对人工智能可能出现问题的担忧

“我们将拥有比人类聪明得多的计算机(数据中心),这似乎一点也不令人难以置信,”Sutskever 先生在 11 月 2 日的播客中说道。“这样的人工智能会做什么?我不知道。”
原文链接;https://www.nytimes.com/2023/11/18/technology/open-ai-sam-altman-what-happened.html

【版权声明】秉承互联网开放、包容的精神,大数跨境欢迎各方(自)媒体、机构转载、引用我们原创内容,但要严格注明来源大数跨境;同时,我们倡导尊重与保护知识产权,如发现本站文章存在版权问题,烦请将版权疑问、授权证明、版权证明、联系方式等,发邮件至 zoey@10100.com,我们将第一时间核实、处理。
0
0
跨语桥梁
大家好
内容 4367
粉丝 1
关注