华尔街日报：ChatGPT之父Sam Altman如何在矛盾之中保持平衡？

来源：新商业思想库「ID：NewBusinessReview 」

投稿/培训/合作 | Tapmadou（微信）

分享 ｜ 领导者养成笔记「ID：GoToLead 」

37岁的创业大师萨姆·奥特曼一直梦想着未来计算机能像人类一样交流和学习，他是人工智能热潮的先锋。

他最清晰的童年记忆之一是在圣路易斯郊区的卧室里熬夜，玩着他八岁生日时得到的Macintosh LC II电脑。突然间他意识到：“总有一天，计算机会学会思考。

在最近几个月中，Altman先生比任何其他人都更多地推动了这个未来并商业化它。他领导的OpenAI公司在11月份发布了ChatGPT，这是一款具有惊人能力的聊天机器人，可以产生类似于人类写作的内容，并成为技术史上最病毒性的产品之一。

在此过程中，OpenAI从一个小型非营利组织发展成为一个价值数十亿美元的公司，并以接近创纪录的速度实现了这一转变，部分原因是通过启动营利性部门使其获得了来自微软公司130亿美元的投资。(根据投资者文件显示)

这一成功是在一个微妙的平衡中取得的。Altman先生表示，他担心如果人工智能被鲁莽地推广到社会上会发生什么事情。八年前，他与其他人共同创立了OpenAI作为一个研究性非营利组织，并认为以盈利为主要驱动力来开发强大的人工智能模型是极其危险的。

他非常警惕利润作为人工智能开发的激励因素，他说他没有在自己建立的公司中直接投资——这在硅谷是一种反常现象，成功创业者通常会从股权中获得财富。

谈到经济收益时，他说：“和大多数人一样，我喜欢看着收益上升。而且我喜欢完全不考虑这个因素。” （该公司表示，他的薪水“微薄”，但拒绝透露具体数额。）Altman先生表示，他在一家投资 OpenAI 的风险基金中持有少量股份，但这“无关紧要”。

Altman先生表示，他在职业生涯早期通过投资年轻的初创企业赚了一大笔钱，已经“赚到足够我用一辈子”的财富。他拥有三座房产，包括旧金山俄罗斯山区的豪宅和纳帕谷的周末别墅，并雇佣几十人来管理这些房产以及他家族办公室中的投资和非营利组织。

在他最后一次拜访去年去世的祖母期间，他为她买了杂货，然后向他的母亲坦承自己已经四五年没有去过杂货店了。

他说，他的目标是打造一个新的世界秩序，在这个秩序中，机器将人们从繁琐工作中解放出来，让他们追求更有创意的工作。在他的愿景中，普遍基本收入（即为每个人提供现金津贴而不附带任何条件的概念）有助于弥补被AI取代的工作所带来的影响。Altman先生甚至认为，人类会非常喜欢AI以至于一款高级聊天机器人可以成为“你意志力量”的延伸。

他说，从长远来看，他想建立一个全球治理结构，监督有关人工智能未来的决策，并逐渐减少OpenAI执行团队对其技术的控制力。

支持者表示，他具有社会意识的资本主义思维使他成为领导 OpenAI 的理想人选。其它一些包括为他工作过的人，说他过于商业化，沉浸在硅谷的思维中，无法领导一场已经在重塑商业和社会生活的技术革命。

该公司在一月份与微软签署了一项价值100亿美元的协议，允许这家科技巨头拥有该公司盈利实体49%的所有权，投资者文件显示。企业合作伴随着Altman先生更积极地商业化其技术的推动，使OpenAI的关键早期领导感到幻灭，他们认为这些决定违反了最初开发AI不受股东影响的承诺。

OpenAI的批评者之一是埃隆·马斯克，他在2015年共同创立了这个非营利组织，但在2018年因控制和方向上的争议而离开。这位特斯拉公司CEO在2月份发推文称，OpenAI成立时是一个开源非营利组织，“旨在作为谷歌的对抗力量”，但现在已经变成了一个闭源、以最大化利润为目标的公司，并受到微软有效控制。这不是我想要的结果。

当被问及他的联合创始人的批评时，Altman停顿了一下。他最终回答道：“我喜欢马斯克，我会关注他所说的话”。

在本周公开信中，马斯克和其他硅谷名流（包括苹果公司联合创始人史蒂夫·沃兹尼亚克）呼吁暂停6个月的时间来开发比GPT-4更先进的人工智能技术。GPT-4是OpenAI于3月发布的最新技术，这样可以遏制可能失控的技术竞赛。

阿尔特曼先生表示，他并不一定需要成为第一个开发出通用人工智能的人。研究人员和科幻作家长期以来一直想象着这样一个世界，在这个世界里，软件不仅擅长于生成文本或图像等某种具体任务，而且可以像人类一样理解和学习甚至更好。相反，他表示OpenAI的最终使命是安全地构建所谓的AGI。

OpenAI已为投资者设定了利润上限，根据投资时间的早晚，任何超过七到100倍投入金额的回报都将流向非营利性母公司。根据投资文件显示，OpenAI和微软还创建了一个联合安全委员会，其中包括Altman和微软首席技术官Kevin Scott，如果产品被认为太危险，则该委员会有权撤销Microsoft和OpenAI的产品发布。

AGI的可能性使得Altman先生认为，根据亿万富翁风险投资家彼得·蒂尔（Peter Thiel）所说，一些类似的技术创造了我们的宇宙。蒂尔是Altman先生的密友和非营利组织早期捐赠者，他长期以来一直支持人类和机器有朝一日会合并的想法。

ChatGPT的发布引发了一系列竞争性人工智能公告。

Altman谈到他的竞争对手时说：“他们急着发布新闻稿。显然，现在他们落后了。” （Google宣布正在测试自己的聊天机器人Bard，并于二月份向公众开放访问权限。）

在其创始章程中，OpenAI承诺如果另一个项目接近构建超级智能之前就会放弃研究努力。该公司表示，目标是避免通过竞争推动危险人工智能系统建设的比赛，并优先考虑保障人类安全。

位于旧金山Mission区的OpenAI总部更像是一个富裕的新时代乌托邦组织而不是试图拯救世界的非营利组织。几乎所有阳光充足的房间里都有多个石头喷泉和蕨类植物。

Altman对他构思的蜿蜒中央楼梯赞不绝口，因为这样所有400名公司员工每天都有机会相遇（或者至少在周一到周三需要亲自上班的时候）。办公室包括一个大学风格的自助餐厅、一个自助酒吧和一个图书馆，模仿了他最喜欢的巴黎书店和斯坦福大学最大图书馆顶层安静学习空间Bender Room 的结合体。

Altman说，父亲教给他的其中一课就是“你总要帮助别人——即使你认为自己没有时间，也要想方设法”。

吉布斯汀博士说，她的儿子在两岁时就能操作家庭的录像机，并在13岁时自己重新预订了回家的飞机票。她说，到他上三年级时，他已经开始帮助当地公立学校的老师解决电脑问题。中学时期，他转入私立约翰·伯勒斯学校。

时任校长的安迪·阿博特说道：“老师们喜欢他，因为他非常聪明、勤奋，而且是名社牛。他很有趣，性格也很大方。”

Altman后来进入斯坦福大学，在一个人工智能实验室进行研究。到了大二时，他与人共同创立了Loopt公司，一家基于位置的社交网络服务公司。该公司成为Y Combinator（初创企业加速器）的第一批成员，他在此期间离开了学校。

然而Loopt并没有得到发展，在2012年以接近4340万美元的金额出售给投资者（包括红杉资本等机构投资的公司）。

随后Altman开始创建风险基金，并结识了强大的盟友，包括Thiel和Paul Graham等人。Graham是Y Combinator联合创始人之一，并最终引进了Altman先生。在那里，他帮助将该公司打造成硅谷权力”经纪商“。

早期他自己投资于许多成功企业中, 包括云软件公司Asana Inc.和贴吧网站Reddit Inc.

当运营Y Combinator时, Altman 开始对像DeepMind这样被Google收购的大型研究实验室正在私下创造潜在危险的人工智能技术感到越来越担忧。马斯克也曾表达过类似的担忧，认为这可能会导致一个由强大AI机器控制的反乌托邦世界。

Altman和Musk决定成立自己的实验室。他们两人都是承诺向非营利组织OpenAI Inc捐赠10亿美元的团体中的一员。

马斯克先生没有回应置评请求。

这个非营利组织在早期的时候曾经徘徊不前（试验了一些项目），比如教机器人如何执行像解决魔方之类的任务。OpenAI在2017年裁员了一部分小型员工。

OpenAI研究人员很快得出结论：实现人工通用智能最有希望的途径是大型语言模型，或者说计算机程序模仿人类阅读和写作的方式。这样的模型需要训练大量文本，并且需要大量计算能力来支持，而作为一个非营利组织，OpenAI无法提供足够资金支持这项工作，Altman先生表示。

他说：“我们当时并没有真正意识到这个项目会有多么昂贵。我们现在仍然不知道。”

那一年，Altman表示他考虑过筹集更多资金给OpenAI使用的选项，例如获得联邦政府资助和推出新加密货币。他说：“但是没有任何人愿意以任何方式为此提供资金支持。那是一个非常艰难的时期”。

据知情人士透露，马斯克先生也与OpenAI产生了紧张关系，他对进展缓慢感到失望，并推动更多地掌控该组织。

最终，OpenAI高管们重新提出了一个曾在公司历史上被提出过的不寻常想法：创建一个营利性机构OpenAI LP，向非营利母公司汇报。

当时为OpenAI提供咨询并后来担任董事会成员的LinkedIn联合创始人里德·霍夫曼表示，这个想法是吸引那些渴望从某些OpenAI技术的商业发布中赚钱的投资者，加速OpenAI的进展。

他说：“你要先想到要到哪里，你才能设定规范。这就是为什么速度在这里是一种道德和伦理的原因之一。”

据知情人士透露，该决定进一步疏远了马斯克先生。他于2018年2月与OpenAI分道扬镳。

曾参加会议的前员工表示，马斯克先生在公司全体会议上宣布了自己的离职。他解释说，他认为通过特斯拉创造人工智能通用性更有机会，并且在那里可以获得更多资源。

一位年轻的研究员质疑马斯克是否已经考虑过安全问题，前雇员们说马斯克变得明显沮丧，并称这个研究员是“蠢货”，这让员工们感到震惊。那是他们中很多人最后一次亲眼见到马斯克。

不久之后，OpenAI的一名高管为这位年轻的研究员委托了一个“蠢货”奖杯，并在一个抱枕上也印制了这个词。Altman说：“你必须要有点儿乐趣。这就是文化所形成的东西。”

马斯克离开标志着一个转折点。同年晚些时候，OpenAI领导告诉员工Altman将领导公司。他正式成为首席执行官，并协助于2019年初完成了营利子公司的创建。

OpenAI表示，从最初的10亿美元承诺中获得了约1.3亿美元的捐款，但在营利公司成立后不再需要进一步捐赠（马斯克先生曾在推特上表示他向OpenAI捐赠了大约1亿美元）。

与此同时，Altman开始寻找投资者。他在2018年夏天的太阳谷年度会议（Sun Valley, Idaho）上的的楼梯间遇到微软CEO Satya Nadella，并向他介绍了OpenAI。Nadella表示很感兴趣。这些对话就在那个冬天加速进行了。

Altman 说：“我记得回到团队后，向大家宣布，微软是唯一的合作伙伴。因为他们理解安全问题、人工智能通用性质以及计算能力。”

据前员工称，Altman 正在协商合同时与员工分享了这个事件，并在办公室主持全体会议时打消员工的顾虑（即该合作关系是否违反 OpenAI 最初承诺开发企业界之外人工智能的原则）。

一些员工仍然认为这笔交易是一个恶魔式交易。

OpenAI 的首席安全研究员 Dario Amodei 及其副手担心该交易将允许微软在强大的 OpenAI 技术经过足够安全测试之前销售产品，他们认为 OpenAI 的技术远未准备好进行大规模发布（更不用说与世界上最大的软件公司之一合作了）担心它可能会出现故障或被滥用以一种他们无法预测的方式对人类造成伤害。

Amodei 还担心该交易将把OpenAI绑定到一个公司（微软）上，这将使OpenAI更难忠于其创始章程承诺：如果它首先达到AGI，则必须协助另一个项目。

Nadella在最近接受采访时说：“你必须跳下悬崖时安全着陆。这就是平台转变发生的方式。”

纽约大学心理学和神经科学荣誉教授、机器学习公司联合创始人Gary Marcus表示：“该交易完全削弱了他们获得非营利组织地位时确立的原则”。

他说：Altman“领导了公司进行了一个180度的转变，我认为这只是口头上对人类关切的应付而已”。

Altman不同意。他说：“微软作为合作伙伴的非同寻常之处在于，它让我们保留了我们认为对我们使命重要的所有原则。包括利润上限和承诺如果另一个项目首先达到AGI就提供帮助”。

现金加速了OpenAI的进展，使研究人员能够获得改善大型语言模型所需的计算能力，并在数十亿页公开可用文本上进行培训。

OpenAI很快开发出一种更强大的语言模型GPT-3，然后通过称为应用程序接口或APIs 的打包代码向开发者销售技术。

Altman和Amodei再次因API发布问题发生冲突，前员工表示Amodei希望更有限、分阶段地发布产品，以帮助减少宣传频次，并允许安全团队在较小的用户群体上进行更多测试。

几个月后，Amodei代与其他人一起离开公司成立了一个名为Anthropic的OpenAI竞争对手AI实验室。Altman说：“他们对如何最好地实现安全AGI有不同的看法。”

Anthropic今年已从谷歌获得超过3亿美元，并于3月份推出了自己的AI聊天机器人Claude，也可通过API提供给开发者使用。

在最近的投资策略中，Anthropic表示“致力于大规模商业化”，以实现创建安全AGI，并且该公司“完全致力于”商业化方法。该公司成立时是一家AI安全和研究公司，并表示可能会从其产品中创造商业价值。

根据投资者文件显示，在最初交易之后三年内，微软总共向OpenAI投资了30亿美元。

ChatGPT在去年11月发布后五天内就有超过100万用户注册使用这款应用程序, 这个速度甚至令Altman感到惊讶。这是该公司推出DALL-E 2之后的又一款产品（它可以根据文本提示生成复杂的图像）。

关于人们使用 ChatGPT 创作十四行诗或策划幼儿生日派对的轶事在互联网上炸开了锅。

据瑞银分析师称，到 2 月，它的用户已达到 1 亿，这是历史上消费者应用程序达到这一目标的最快速度。

Altman 先生的亲密伙伴称赞他平衡 OpenAI 优先事项的能力。蒂尔说：没有人能更好地在“放错了理想主义的 Scylla”和“短视的野心的 Carybdis”之间游刃有余。

Altman表示，他将最新版本的模型GPT-4的发布时间从去年推迟到了今年3月份，以进行额外的安全测试。用户报告称，在集成到必应中的该软件中，模型出现了一些令人不安的体验——也就是说，它会编造答案回答自己不知道的问题，并发出不祥之兆和威胁。

Altman说：“要做好这个系统，关键在于让人们与之互动、探索这些系统、研究它们，学习如何使其更加安全。”

文件显示，在微软最初投资得到回报后，公司将获得OpenAI利润的49%，而非此前协议下的21%。非营利性母公司OpenAI Inc.将获得剩余部分。‘

Altman还参与创立了Worldcoin等项目。该公司旨在向地球上每个人提供加密货币。近年来他几乎把所有流动财富都投入了两家公司：Helion Energy和Retro。

Altman说：Helion Energy正在寻求通过核聚变创建无碳能源，并且即将在真正演示中实现“合法净增益能量”。

Retro则旨在通过“细胞重编程、受血浆启发的治疗和自噬”（即重复使用旧的和损坏的细胞部分）来延长人类寿命10年。他指出，这些问题在道德上要容易得多，而不像AI那样“可能非常好，也可能非常可怕”。

信息来源：华尔街日报，由BigHead使用ChatGPT 、Google 翻译、DeepL编译整理。 

@THE END

《领导者管理笔记》读者群开放，如你致力于提升领导力

请加（微信：Tapmadou）进群