11月12日，Lex Fridman的播客又炸了！
继之前采访了马斯克和Sam Altman之后，这次他又对Anthropic的CEO进行了采访。
在这次访谈中，Anthropic的CEO Dario Amodei(达里奥·阿莫代)和Lex Fridman聊了很多关于AI的话题。
比如AI的发展规律、未来趋势预测、安全问题、如何负责任地开发、监管问题、行业竞争、人才状况、模型评估方法、宪法AI的概念、对齐研究的重要性、计算机使用能力的提升、代码生成的最新进展，还有公司的组织文化等等。
达里奥特别强调了AI发展的巨大潜力和同时面临的安全挑战，还分享了他对AI未来发展的看法和建议。
以下是Anthropic CEO在本次采访中的重要回答：👇
📈关于扩展定律和AI能力：“如果我们将迄今为止的曲线进行外推……我们现在开始达到博士水平，去年我们还在本科水平，前年我们则像高中生水平一样。”
⏰关于时间线预测：“我认为仍然存在一些世界，在那里100年内这不会发生[但]这些世界……这些世界的数量正在迅速减少。我们正在迅速耗尽真正令人信服的障碍。”
⚠️关于AI安全问题：“权力的滥用和AI增加了世界上的权力总量，如果你集中这种权力并滥用它，它可能会造成无法估量的损害。”
🛡️关于负责任的AI开发：“为了做好所有这些事情……我们既需要构建技术……但我们也需要解决风险，因为它们就在那里，这些风险挡在我们的路上，它们是从这里到那里的路上的地雷。”
📋关于AI监管：“如果我们到2025年底还没有对此采取任何行动，那么我就会感到担心。我现在还不担心，因为风险还没有到来，但时间不多了。”
🤝关于AI领域的竞争：“我认为最终谁赢并不重要，只要每个人都在复制别人的好做法。”
🌟关于AI公司的人才：“如果每次超级有才华的人环顾四周，都能看到其他超级有才华和超级投入的人，那么这就为一切定下了基调。”
📊关于模型评估：“模型在这些令人担忧的任务上正变得越来越擅长，就像它们在经济上有用的任务上变得越来越擅长一样。”
💡一场引人入胜的对话，突显了AI开发中的巨大潜力和严峻挑战。达里奥强调了在推进能力的同时解决安全问题的至关重要性。
📜关于宪法AI：“这里的目标是确定你需要什么，你需要测试来告诉你风险何时临近，你需要一个预警系统。”
🔬关于AI对齐研究：“就我们观察事物的能力而言，我们仍然处于早期阶段，但我一直对我们能够深入这些系统内部并理解我们所看到的东西的程度感到惊讶。”
💻关于计算机使用能力：“规模扩展非常快。我们今天就可以做到这一点——我们制作一个模型，然后部署数千甚至数万个实例。到2026-2027年，集群的规模将达到可以部署数百万个实例的程度。”
👨💻关于代码生成进展：“今年年初，最先进的水平在SBench上是3%或4%。在10个月内，我们在这个任务上从3%提高到了50%，我认为再过一年，我们可能会达到90%。”
🎯关于组织文化：“从100到1000，从1000到10000，如果不注意确保每个人都有一个统一的目标，这是很容易做到的……如果每个人都看到了更广泛的目标，那就是一种超能力。”
🏆达里奥的最后想法：“冲向顶峰是关于通过树立榜样来促使其他参与者做正确的事情。这不是关于成为好人，而是关于建立一种机制，让我们所有人都能成为好人。”
这个时候，又不得不提到Anthropic的竞争对手——OpenAI。
就在今年3月，Lex Friedman还对OpenAI首席执行官Sam Altman进行了二次采访。
没有对比就没有伤害，网友评价Sam Altman的采访回答有点空。
📈OpenAI董事会风波这段经历让奥特曼认识到，在追求通用人工智能（AGI）的过程中，可能会遇到一系列爆炸性的事件，这些事件虽然令人不安，但也为未来的挑战提供了宝贵的经验和教训。
⏰首席科学家苏茨凯弗的未来动向：尽管他近期相对沉默，但奥特曼表示，苏茨凯弗一直在深入思考并确保OpenAI在追求AGI的过程中做出正确的决策。
⚠️与埃隆·马斯克的法律纷争：奥特曼表示不清楚马斯克的真实动机，但他认为OpenAI的初衷是作为一个人工智能研究实验室，逐步探索和发展，OpenAI的使命是将强大的技术免费提供给公众。
🌟Sora和GPT-5：奥特曼对Sora的发展表示乐观，认为它在理解和模拟三维世界方面取得了令人印象深刻的进步，但也提到了Sora的局限性。GPT-5作为新一代大语言模型，虽然未在专访中详细讨论，但它预示着OpenAI在自然语言处理领域的持续进步。
💻通用人工智能的远景规划：OpenAI的“开放”不仅仅是关于开源，而是关于将技术作为公共福利提供给人们。
👨💻ChatGPT记忆能力：未来的AI助手不仅可以记住用户希望它记住的事情，还能从中吸取教训，并在未来提醒用户该怎么做或者要注意什么。
🔬7万亿美元芯片项目：奥特曼否认自己发推文宣称要筹资7万亿美元，但他承认世界需要大量的算力支持，而能源供应、数据中心和供应链建设、制造足够芯片都存在巨大挑战。
📋没兴趣打造翻版谷歌：奥特曼对于打造比谷歌更好的搜索引擎没兴趣，认为这是将AI大材小用。他希望将大语言模型与搜索相结合，从而找到自己的商业模式。他还称自己讨厌广告。
🎯AGI何时会出现：奥特曼预计，在2030年之前，或者可能比那更早，我们将拥有非常强大的AI系统。他称，AGI不是终点，它更接近是一个起点。
ChatU可免费申请试用，支持企业私有部署，多引擎AIGC操作系统安全稳定，点击下方公众号一键试用！
软积木