加（微信：New-leaders）进入《领导者管理笔记》读者群
2023年11月7日，OpenAI开发者大会后，科技博主Dan Shipper发表文章，介绍OpenAI提出的主要更新，称OpenAI进步速度惊人，未来几个月与几年将非常疯狂。
2023年11月2日，英国首相苏纳克Rishi Sunak与马斯克Elon Musk在英国AI Safety Summit上进行对话，涵盖AI领域众多关键问题，包括开源与封闭源码的辩论、AI对就业市场影响，维护人类意识与意愿的重要性。
2023年10月15日，科技类播客节目《Acquired》走进英伟达总部，专访黄仁勋，深入挖掘英伟达切入数据中心来龙去脉以及初衷，包括黄仁勋创业思考、平台战略初衷、内部管理理念、市场&技术判断方法。
本期长期主义，选择科技博主Dan Shipper在OpenAI开发者日见闻、英国首相苏纳克对话马斯克纪要、黄仁勋接受《Acquired》专访纪要，华尔街见闻、有新Newin发布，六合商业研选精校，分享给大家，Enjoy！
OpenAI是最令人兴奋的公司，GPT更大、更智能、更快、更便宜、更简单
2023年11月7日，OpenAI开发者大会后，科技博主Dan Shipper发表文章，介绍OpenAI提出的主要更新，称OpenAI进步速度惊人，未来几个月与几年将非常疯狂。
OpenAI推出的GPT-4 Turbo有五大升级：更大的上下文容量、更高的智能级别、更快的响应速度、更低的价格、更简单的操作；不仅令模型本身得到加强，与模型交互的方式也更简单、便捷。全新的检索功能与自动维护对话状态，使开发者可更容易构建应用；无代码自定义ChatGPT，降低普通用户门槛。
上述特性为OpenAI日后推出AI Agent服务的更新奠定基础。所谓代理，即模型可自主规划与执行更复杂、多步骤的任务，在没监督情况下完成。GPT-4现在还没聪明到那个程度，但OpenAI已在为这个目标做准备。
Shipper分析OpenAI试图建立应用商店的战略，认为这个战略可让用户建立自己个性化的GPT，并据此收费，是一种令构建聊天机器人的能力民主化的表现。但这种战略同时存在问题，比如用户可能对在不同版本的ChatGPT间切换感到疲惫，Shipper认为这是OpenAI需解决的问题。
OpenAI与开发者间的微妙关系，OpenAI近来发布的许多更新，更多针对的是消费者，而非开发者，但OpenA最初成立目标是服务开发者，这造成一种矛盾，ChatGPT会直接与开发者产生竞争。
这就是参加OpenAI开发者日等活动的难得之处：你可看到摄像头没捕捉到的东西，听到台上没说出口的话语。
现场人头攒动，水泄不通，WiFi飞快，LED灯闪闪发亮，这是为AI技术迷如我，准备的魔术秀。
我在人群中穿梭，做着我的专利动作FCO偷偷摸摸窥视会议（Furtive Conference Ogle）。我会看到某个也许很有名的人，比如说，Roon，或Karpathy，或Kevin Roose，然后迅速低头看一眼他们徽章，在他们给我一个我眼睛在这里的表情前，又抬起头看他们脸。
我通常喜欢在活动中坐在后排，但在开发者日我确保坐在前排，我想近距离观看这场魔术秀。
Sam Altman走上舞台，向观众致意。在他表演时，我可从他脸上与身上看到紧绷、内敛、紧张的能量。
我能从他表演中，感受到他经过数小时练习。简短的开场独白后，Sam介绍一段视频，视频中创意专业人士、开发人员与普通人都在谈论他们是如何使用ChatGPT。灯光暗下来，他走到一边，视频开始。大家都在看视频，我却在看Sam。
他独自站在舞台一角的阴影里，穿着深色牛仔裤与原色的阿迪达斯x乐高合作款运动鞋。他双手合十，目不转睛盯着地板。Sam很紧张，总是绷着。但在舞台一侧，听着正在播放的视频，他却显得不修边幅，不学无术。我感觉自己抓住了魔术师操纵一枚隐藏硬币的左手，而观众们却在看他挥舞的右手。
暂时看穿魔术师的秘密，会打破他们的魔力。但它也会创造一种新的魔力：你会将魔术师看作一个人类，吃饭，呼吸，一条腿一条腿穿裤子，却仍然施法。
Sam正在成为科技界传奇人物，但在舞台上那一刻，他也是一个人。他看起来乐在其中，观察并期待自己创造的东西，并看着它在世界最大的舞台上上演。他实现了所有曾经制造过某样东西，并希望世界会喜欢它的人的梦想。
目睹他那一刻本身，就值回入场券价格，我不会很快忘记。
以下是他要告诉我们的：更大、更智能、更快、更便宜、更简单。
这就是OpenAI 2023年11月7日宣布的主要变化，让我们逐一回顾这些更新，并讨论它们为何如此重要。
OpenAI推出新模型GPT-4 Turbo，拥有128K Token上下文窗口，这意味着发送给GPT-4 Turbo的每个提示符可相当于300页文本。
以下这些内容在300页以内：埃里克·莱斯《精益创业》全部内容，圣埃克苏佩里《小王子》三本，我中学时喜怒无常日记的至少一半。
这比今天之前最广泛使用的GPT-4版本的上下文窗口长度，增加16倍。它显著增强开发人员使用GPT-4可运行的查询的复杂性与功能。以前，开发人员必须花费时间与精力来决定将哪些信息放入他们提示符中，这是LLM性能最重要的瓶颈之一。
128K上下文窗口，极大简化这一任务，但并未解决所有问题。过长的上下文窗口不易管理，而且语言模型会越来越多忘记或忽略上下文信息。我们还不知道GPT-4 Turbo是否存在这些问题，我会在使用过程中与你分享。
GPT-4 Turbo在以下几方面，比OpenAI以前模型更智能：
它可同时使用多种工具。之前版本的GPT-4引入工具使用，工具使用允许GPT-4调用开发者定义的工具，如网页浏览、计算器或API，来完成查询。之前，GPT-4每次只能使用一个工具，现在它可同时使用多个工具。
知识截止时间更新。之前版本的GPT-4，只知道截止2021年9月之前的事件。这个版本更新到2023年4月，使其更加可靠。
GPT-4会JSON。JSON是一种非AI应用可轻松读取的文本格式，GPT-4 Turbo可以可靠的以这种格式返回结果，使其更易与其他软件集成。之前，开发者需通过例如告诉GPT如果格式错误，就会被解雇来哄骗它正确格式化输出，现在不再需要哄骗。
GPT-4可编写与运行代码。一段时间以来，ChatGPT Plus用户可使用代码解释器(后改名为高级数据分析)，这是可为开发者编写与运行Python代码的ChatGPT插件。它就像一个口袋里的数据科学家，现在开发者可通过GPT-4 API使用与集成到自己程序中。
多模态。GPT-4 API可接受图像作为输入：开发者可发送任何图像，GPT-4可告诉他们看到什么。它还可进行文本到语音，这意味着它可用人声回复文本输入。它还可用DALL-E进行图像生成。
目前还没公开的速度基准测试，但Sam说它更快。根据我昨晚的科学测试，他是对的，它真的很快。它让GPT-4望尘莫及，看起来至少与GPT 3.5 Turbo一样快，甚至略快于GPT 3.5 Turbo，之前最快的模型。
GPT-4 Turbo比GPT-4便宜3倍，我不记得有哪家公司能在大幅提升性能的同时，还能降低价格。
我们很幸运，OpenAI采用的是硅谷的游戏规则，旨在创造大规模应用，而不仅仅是高额的企业合同。只要足够便宜，AI就能为每个人所用，而这正是OpenAI的目标。如果IBM发明GPT，你认为它会做这样的事情吗？不会。
OpenAI使开发者与非开发者更容易与GPT-4 Turbo交互，该公司使许多第三方库的功能，以及开发者通常编写的模板代码，变得不必要。
检索。这是一个重大进步，提高大型语言模型性能的最重要方式之一，是让模型访问私人数据，如公司知识库或个人笔记。
以前，这种功能需要手动构建，就像我为我的Huberman实验室聊天机器人所做的那样，或使用第三方库，如Langchain或LlamaIndex。
OpenAI通过其检索功能，将这些库的部分功能集成到其核心API中，使开发者更容易开始构建GPT-4应用程序。
这会产生有趣的结果。一方面，它减少对这些第三方库的需求。另一方面，OpenAI检索机制目前是一个黑箱，没可配置性。
检索是个难题，不同目的有许多不同的检索机制。OpenAI新发布涵盖了基础知识，但Langchain与LlamaIndex实现了各种各样检索类型，并适用非OpenAI制作的模型，所以它们的服务仍有需求。
保存状态。GPT-4就像《初恋50次》里朵琳·芭丽摩，每次与它交互时，你都必须一次又一次介绍你是谁，为什么它爱你。
GPT-4 API可通过Threads（与Meta的Twitter克隆版无关联）的新功能，自动记住对话历史，节省开发者时间与麻烦，他们不再需要自己管理对话历史。
自定义无代码ChatGPT。OpenAI使任何人都可轻松构建自己的自定义ChatGPT版本，内置私人数据，无需编程。任何人都可设置一个ChatGPT版本，具有自己的个性与访问私人知识的能力，这是重大进展。
2023年早些时候，我为Substack作者Lenny Rachitsky构建一个基于他新闻稿存档的机器人。如今的更新，意味着任何人都可构建等效的机器人，无需编码。
GPT应用商店。OpenAI宣布任何人都可在公共应用商店中，列出自己GPT，并为之收费。我主张将聊天机器人作为一种新内容形式已近1年，这一发展支持了这一论点。
无需切换模型。这是巨大的更新。以前版本ChatGPT中，必须选择要使用的模型：GPT-3.5、GPT-4、GPT with DALL-E、GPT with Web Browsing或GPT with Advanced Data Analysis。
现在，只需向ChatGPT发送一条消息，它就会选择合适的模型。用户可更轻松将ChatGPT不同功能组合使用，无需来回切换，这为开发者创造新机遇。
所有这些更新都很棒，它们大多是增量。它们在API中构建了许多开发人员必须自己完成的任务，从而使开发人员构建的东西更快、更便宜、更强大。
这些特性为一个可能更重要的更新奠定了基础：AI Agent。代理是一种模型，它可被分配复杂、多步骤的任务，并在没监督的情况下完成这些任务，这就是GPT-4的新助手API。
这是支持检索、保存状态与工具使用的API，这些要素加在一起，就是AI Agent代理服务的开始。
目前情况来看，OpenAI似乎正在预测一个世界，在这个世界中，你将能够给助手分配一个目标，给他们一组工具，并让他们自己完成目标。
我们离那还很远，GPT-4还不够聪明，无法自主规划与执行任务。但OpenAI现在正在奠定架构与安全基础，并有意推出渐进式步骤，以使技术准备就绪。
2023年4月，OpenAI推出插件，允许用户从ChatGPT内部访问第三方服务与数据。有很多关于插件将成为新APP Store的宣传，但事实并非如此。
OpenAI从未发布过相关数据，但据我所知，第三方插件的采用率非常低，尽管OpenAI构建的两个插件：代码解释器与DLL-E的采用率很高。
现在，OpenAI凭借GPT再次尝试这一点，它的服务允许任何人使用私人数据创建ChatGPT的定制版本。
任何用户都可创建GPT。你可定义它的个性：它如何回应询问，使用什么声音与语气。你可让它访问一些工具，比如执行代码的能力，或从私有知识库中获得问题的答案。然后可发布GPT供其他用户使用。
我安装了由OpenAI构建的名为谈判者的新GPT，它可帮助你在任何类型的谈判中为自己辩护。
如果我点击谈判者，它将把我从普通ChatGPT中移出，进入一个专门设计的体验，帮助我在任何谈判中获得最佳结果。
我很喜欢这种方法。我喜欢这个让构建聊天机器人的能力民主化的想法，我可预见，在接下来几周里，我将在这里进行大量实验。
尽管如此，我还是有疑问。它面临与OpenAI失败的插件实验相同的问题：没人愿意为不同的用例在不同版本的ChatGPT之间切换。
更好的方法是让ChatGPT能在需要时自动切换到特定的个性，比如谈判专家，并在不需要时再切换回来。在这发生之前，我看不到这些机器人有太大的采用。
但如果它发生了，那将是巨大的。为ChatGPT下载一个新的个性，将等同于让你的AI阅读一本新主题的书或上一门课。在这个世界里，会有一整个经济体的人创建的内容是专门针对LLM而不是人类。例如，我可能会购买ChatGPT阅读与摄取的谈判书等价物，而不是购买一本自己阅读的谈判书。
我认为OpenAI最终确实有机会建立一个应用商店体验。但在他们能够弄明白如何让ChatGPT在长长的个性列表间自动切换之前，这是不会发生的。鉴于OpenAI改变了ChatGPT，以便你不必在其内部模型间切换，这对自定义GPT来说也可能很快就会到来。
这个开发者大会最引人注目的一件事，是OpenAI发布的许多更新，更多是针对消费者，而不是开发者。
例如，自定义GPT是面向消费者，OpenAI发布的一些ChatGPT特定更新也是如此。这反映了一件重要的事情：OpenAI目前处于消费者公司与开发者公司之间。
ChatGPT生来就是有原罪的。当OpenAI刚开始时，目标是服务开发者，直到它意外的创建了有史以来最大的消费者应用。
不幸的是，这使该公司与开发者处于对立面，因为ChatGPT直接与开发者想要构建的许多东西竞争，无论是在消费者层面，还是基础设施层面。
如果OpenAI不得不在ChatGPT与开发者生态系统间做出选择，它将不得不选择ChatGPT。
ChatGPT是OpenAI最有价值的高质量训练数据来源，所以它是改进模型质量的最佳途径。
不仅如此，OpenAI正在朝商品化与消费化开发工作的方向发展。ChatGPT本身可把任何人变成半熟练的程序员，它昨天推出的功能，允许任何人在不需编码情况下构建聊天机器人。
这是该公司核心的一个基本紧张关系。这个紧张关系也是许多平台的核心，例如，苹果面临iOS与MacOS的紧张关系。苹果因内部产品与第三方开发者产品竞争而遭到批评，这被称为夏洛克。
但对OpenAI来说这更成问题，因为它的消费者产品与它为开发者提供的产品惊人相似，这就像苹果允许开发者发布自己版本的iOS。
我猜如果你想在OpenAI生态系统中发挥作用，最好方法是收集将对使用ChatGPT的某人有用的私人数据集，并将其作为自定义GPT发布。
OpenAI可能会投资使GPT在ChatGPT界面中更易访问、随时间更强大。你带到派对上的优势，将是私人的、经过策划的数据，以及一套规则，用于说明如何为特定类型用户在特定情况下运用这些数据。这很可能不是OpenAI要直接竞争的东西，所以这是一个双赢。
现在没任何公司比OpenAI做的工作更有趣、更快。这家公司的进步速度惊人，在可预见的未来也没放慢的迹象。在这个会议上，业内说法是，OpenAI是人才强者，给人的感觉非常像鼎盛时期的Stripe。
事实上，我听说OpenAI聘用了许多曾在Stripe工作过的人。
房间里的能量是显而易见的。我认为科技行业中没更大、更有趣的故事了，未来的几个月与几年将非常疯狂。
多样性。我很欣赏这次会议的包容性。这家公司提供的食物非常美味，是由当地女性或少数族裔经营的企业提供。演示与小组讨论的演讲者非常多样化，他们在OpenAI与Shopify与Salesforce等其他大型科技公司担任领导职务。这一切都很低调，没表演。在我看来，OpenAI做得对，值得赞扬。
OpenAI与微软。一位与会者对我说，他认为OpenAI与微软的关系，让他想起了苹果与英特尔的长期合作关系。处理器是英特尔制造的，其他一切都是苹果做的。在OpenAI案例中，微软提供托管基础设施，OpenAI负责其他所有工作。这不是完美的类比，但它引起了我的共鸣，尤其是在萨蒂亚·纳德拉Satya Nadella出现在这次会议上，在Sam发表主题演讲时与他站在舞台上。
有人能分清OpenAI的命名吗？我简直不敢相信它将它的新自定义无代码ChatGPTs命名为GPTs。需要有人出面干预，这太令人困惑了。
马斯克告诉苏纳克：AI能力每年增长5～10倍，而开源比闭源慢6～12个月，差距只会越拉越大
近日，英国首相苏纳克Rishi Sunak与马斯克Elon Musk在英国AI Safety Summit上进行对话，涵盖AI领域众多关键问题，包括开源与封闭源码的辩论、AI对就业市场影响，维护人类意识与意愿的重要性。
马斯克强调开源算法与数据相对封闭源码的滞后，以及对AI进步速度的影响，这一讨论引发了对如何平衡开源与封闭源码的重要性的思考；还关注AI对劳动力市场潜在影响。
苏纳克提出I已在创造就业机会方面取得了进展的观点，强调教育与技能培训的重要性，以适应不断变化的劳动市场，马斯克强调AI可能会带来无限可能性同时，也带来一些挑战，如何在拥有无限资源世界中找到生活的意义。
欢迎，Elon，谢谢你来参加，我们感到非常高兴，我要开始提一些问题。Bill Gates说，我们这个时代没人比你更多推动科学创新的边界，这是什么意思？
Bill Gates对你评价很高，但奇怪的是当涉及到AI时，实际上你已持相反观点有大约10年之久，你曾说过，我们需考虑我们在这方面所做的事，需考虑我们在推动这个领域时正在做什么，我们要怎么做才能确保安全，也许我们不应像现在这样加紧推动，像你一直这样做了10年，是什么原因让你以这种方式思考？我们为什么需担心？
Elon Musk：会有很多人告诉你应关注AI，但有部分人会感到奇怪，他们从来没真正接触过AI，由于我很长时间以来一直沉浸在技术中，我能看到它的发展，但我认为2023年有一些突破，我指的是有人可看到一个实时动态创建的视频，就像你可创建一个视频，里面的你可说出任何话，或我也可以，有了Deepfake视频，它们真的非常出色，有时甚至比真实的更具说服力，有点深度真实。
显然像ChatGPT这样的东西相当引人注目，我看到GPT-1、GPT-2、GPT-3、GPT-4整个过程，对我来说很容易看出它会发展成什么样，如果只是推断曲线上的点，并假设趋势将继续下去，我们将拥有深刻的AI，显然远超过人类智能。
我很高兴现在人们开始认真对待安全问题，感谢你举办AI安全会议。我认为实际上这将成为历史上非常重要的一部分，这真的相当深刻。总的来说，我认为AI最有可能具有积极的影响，创造出物质与服务不再匮乏的未来。
这有点像精灵的问题，如果你有一个可实现所有愿望的精灵，通常这些故事不会以好的方式结束，要小心你所期望的，包括愿望。
Rishi Sunak：你刚才提到这次峰会，感谢你的参与，人们很喜欢你参与这次对话。现在，我们今天在公司与领导间的会议中取得的一个成就是，理想情况下，政府应在模型发布之前进行安全测试。
我认为这是你略微提到过的，我们为此付出很大努力，我在政府中的工作就是说，等一下，这里存在潜在风险，不是确定的风险，但可能存在不好的东西，现在我的工作就是保护国家，我们只有在我们安全研究所建立所需的能力后，才能进入并确保对模型进行测试。
你对我们应做些什么，有什么看法？你谈到潜在风险；再次强调，我们不知道，但政府应采取哪些措施来管理与减轻这些风险？
Elon Musk：我通常认为，当公共安全受到威胁时，政府介入是有益的。对绝大多数软件来说，公共安全并不受威胁。我意思是，如果你手机或电脑上应用程序崩溃，这并不是一场巨大灾难，但当谈到数字超级智能时，我认为它确实对公众构成风险，政府就有责任保障公众利益。
这在许多领域都是真实的，航空、汽车，我与全球各地监管机构都有联系，我涉及通信、航天与车辆运输等领域。我非常熟悉与监管机构打交道，我实际上同意绝大多数规定，偶尔我可能会不同意一些规定，但我不同意的规定占比可能不到1%。
有一些来自硅谷的人，对从未与监管机构打交道感到担忧，他们认为这将扼杀创新，拖慢进展，并变得让人讨厌。确实，他们是对的，这会让人讨厌，但我认为多年来我们已学到一点，有一个裁判是件好事；如果你看任何体育比赛，都会有个裁判，没人建议没裁判的体育比赛。
我认为这是正确的思考方式，政府应扮演裁判角色，确保像运动员一样行为，确保公共安全得到关注，我们关心公共安全；我认为人们对技术可能时常过于乐观，我是作为一名技术专家说这样的话，所以我应该知道；总的来说，我认为AI很有可能是一种积极力量，但它出现问题的概率不是0%，我们只需减轻潜在风险。
Rishi Sunak：你提到裁判，这正是我们试图做的，我们讨论很长时间，实际上他们信用以及行业内的人，确实对我们说过，但有人认为不对，我们需有个独立的评审机构，这就是为什么我们在这里成立安全研究所。
认为政府能积累专业知识吗？我们需做的一件事是，Sam与其他人都有很多非常聪明的人在做这个，政府需迅速提升能力，包括人员方面。这就是我们正在做的事；鉴于技术发展的速度如此之快，你认为政府能快速做到这一点吗？或我们需做些什么来确保我们能尽快做到？
Elon Musk：我认为这是一个很好的观点。AI的发展速度远超过历史上任何我见过的技术，它似乎每年的能力增长至少5倍，甚至可能是10倍，2024年肯定会增长一个数量级。
政府并不习惯以这样的速度行动，但我认为即使没明确规定，即使没执行能力，拥有洞察力，并能向公众强调关注的问题将非常有力量，即使只有这一点得以实现，我认为也将是非常好的。
Rishi Sunak：希望我们能做得更好。实际上，我们之前谈过，令人印象深刻的是，你是一个在技术领域度过一生的人，熟悉摩尔定律；在过去几天里，我们与所有正在进行这项工作的人交流时，我认为你可理解，这里的进展速度与你们在技术领域的职业生涯中所见到的一切都不同，这个说法合理吗？你们有硬件、数据与人员的复合效应。
Elon Musk：AI发展的两个主要中心，目前是旧金山湾区与伦敦地区，虽然还有许多其他地方在进行研发，但这两个地区是主要的。我认为如果美国、英国与中国在安全方面保持一致，那将是一件好事，那是领导力的地方。
Rishi Sunak：你刚才提到中国，我做了一个决定，在过去几天里邀请中国参加峰会，这不是一个容易的决定，很多人批评我；如果你打算认真对待这个问题，你就需邀请他们，你对此有什么看法？你在世界各地都有业务，你刚才提到中国，我们应与他们合作吗？我们能信任他们吗？这样做是正确的吗？
Elon Musk：如果中国不参与AI安全，那将是一种困境。我最大的反对意见是，对任何形式的AI规定或安全控制，最大的反对意见就是中国不会这么做，他们将领先于我们，并超越我们所有人。但实际上，中国愿参与AI安全，感谢你邀请他们，我认为我们应感谢中国参加。
2023年早些，我在中国时，我与中国领导层的主要讨论内容是AI安全，我告诉他们这确实是他们应关心的问题，他们认真对待，这是很好的，他们参与其中是必不可少的，如果他们不参与的话，那就没意义。
Rishi Sunak：我认为我们很高兴，他们昨天参与了讨论，最终也签署了与其他人相同的联合公报，这是很好的开始。我说过，如果我们想要有解决这个问题的现实机会，就需所有人以类似方式对待这个问题。
我之前提到创新与监管的辩论，今天我们进行了一场关于开源的讨论，我认为你一直是算法透明性与使一些算法开源的支持者，实际上我们在来的路上谈到Hinton，他特别关注开源模型被不良行为者使用的问题。
有一些人认为这对创新以分布方式发生是至关重要的，这确实是棘手的问题，可能没完美的答案，有一个微妙的平衡，你对我们应如何处理这个开源问题有什么看法？或我们应针对哪些规范或监管进行监控？
Elon Musk：开源算法与数据，通常滞后闭源6～12个月，鉴于改进速度，开源与闭源间确实存在相当大差异。如果事情每年都以5倍或更多速度改进，滞后1年意味着差距增加5倍，这是相当大差异，这可能是可接受的情况。我们可能会达到一个点，开源AI会接近人类智能水平，那将是一个成功。
我不太清楚该怎么处理这个问题。我认为开源在某种程度上是不可避免的，我可能会稍微倾向支持开源，至少你可看到发生了什么，相比之下，如果是封闭源码，你就不知道发生了什么。
现在应指出，即使是开源的AI，你是否真的知道发生了什么？如果你有一个庞大的数据文件，数以亿计的数据点或权重与参数，你不能简单阅读它，并知道它将会做什么，它是庞大的包含难以理解数字的文件，你可在运行它时测试它，你可运行一系列测试来查看它将会做什么，但这是概率性的，而不是确定性的，不像传统的编程，其中有非常明确的逻辑，结果是非常可预测的。
你可阅读每一行，并知道每一行将会做什么；神经网络只是一堆概率，最终它会变成一个巨大的逗号分隔值文件，就像我们的数字向导是一个CSV文件一样，这就是它的本质。
Rishi Sunak：你刚提到的这一点，我们一直在讨论，再次与开发技术的人们进行对话时，他们提出你刚提出的观点。这不像普通的软件，输入的改进会导致特定输出的改进，而随模型迭代与改进，我们不太知道最终会产生什么结果。
这就是为什么我认为我们需在模型发布之前，介入训练过程，以了解这个新的迭代在能力方面带来什么变化，听起来你也同意这一点。
我要稍微转换一下话题，你谈到很多关于人类意识与人类行动的话题，这可能会让人们感到奇怪，你以出色的创新者与技术专家而闻名，但当我听到你谈论这个问题以及在技术中保持人类行动与保护人类意识的重要性时，我感到非常真诚。
现在，这与我即将问的问题有一定联系，当我在采访或与人们在工作中讨论AI时，最常讨论的事，实际上可能不是我们之前讨论的内容，而是工作，对我工作意味着什么？AI会意味着我失去工作吗？孩子会失去工作吗？
我作为政策制定者与领导者的回答，实际上是，AI已创造就业机会，你可看到那些创办公司的情况，还有它被用于更多作为共同驾驶员，而不是替代人，人仍有决策权，但它有助更好完成工作，这是件好事。
正如我们在过去技术革命中所看到的，劳动力市场发生变化。正如我今天引用麻省理工学院几年前进行的一项研究所说，当时大约有60%工作岗位在40年前还不存在，很难预测。
我的工作，是创建一个令人难以置信的教育体系，无论是在学校，还是在职业生涯的任何阶段，为人们提供再培训。最终，如果我们有一个有技能的人口，我们必须跟上变化的速度，过上好的生活，但这仍是一个担忧。
你对AI对劳动力市场与人们工作以及他们对此的看法，有什么观察？
Elon Musk：我认为我们正在见证历史上最具颠覆性的力量，这将是我们有史以来第一次，我们将首次拥有比最聪明的人类还要聪明的东西。
我是说，很难确切说那个时刻是什么时候，但总会有一个时刻，不再需工作。你可有一份工作，如果你想要出于个人满足的目的，但AI将能做任何事，我不知道这是否会让人们感到舒适或不舒适。
如果你希望有一个可满足你任何愿望的神灯，没限制，你不需3个愿望的限制，你可拥有无数愿望，这既是好事，也是坏事。
领导者管理笔记