如果从 OpenAI-Hugging Face事件 中我们能学到唯一的教训，那就是AI代理可能难以预测。
“想象一下，如果类似的事情发生在物理世界中会怎样，” Laplace Intelligence的首席执行官兼联合创始人Howie Sun对TechCrunch表示。“AI代理正从计算机走向现实世界，而我们并不希望物理AI在现实世界中失败。”
总部位于安娜堡的Laplace正在为机器人技术和物理AI构建自动化红队测试——本质上是通过故意尝试使系统失效来对其进行压力测试。该公司押注认为，确保物理AI安全的唯一方法是让AI对其进行测试。
Sun表示：“我们的目标是帮助公司在部署前发现并解决问题，并在长期内建立一个客户、保险公司和监管机构可以信任的共同证据基础。”
Laplace是Startup Battlefield 200中20家参赛初创公司之一，该初创企业路演比赛将在本周于旧金山举行的 TechCrunch Disrupt 期间进行，时间为10月13日至15日。它将于周二下午在Disrupt舞台上发表演讲。
Sun与他的联合创始人兼首席科学家Henry Liu一年前在密歇根大学创立了Laplace。过去八年里，Sun一直在学术界研究如何通过模拟来挑战自动驾驶AI。2023年，他与当时的博士导师Liu发表了一篇关于该主题的论文，并登上了顶级科学期刊《自然》的封面。从那以后，开始有自动驾驶汽车公司联系他们，希望实施他们的想法。
Sun说：“我意识到我想构建这个产品，并将其从纯粹的学术研究转化为对现实世界有用的产品。”
以他们的学术研究为基础，Sun和Liu构建了Laplace，其名称来源于“拉普拉斯妖”，这是法国学者皮埃尔-西蒙·拉普拉斯在1814年提出的一个思想实验。他设想，如果你知道宇宙中一切事物的确切状态，你就可以完全精确地预测未来。
Sun说：“我们基本上是利用模拟来预测现实世界的未来。”
这家初创公司的核心是一个从现实世界重建的高保真模拟环境，搭配一个不断探测弱点和故障点的AI代理。其目标是确保任何物理AI——无论是机器人、自动驾驶汽车还是智慧城市解决方案——在部署到现实世界之前，在模拟环境中都是安全的。
该模拟环境是英伟达（Nvidia）Cosmos的后期训练版本，Cosmos是一个基于现实世界的AI世界模拟平台，使Laplace能够重建从亚利桑那州高速公路到巴黎人行横道等各种场景。模拟结果通过融合多种真实世界信息生成。例如，一张Google街景图像可作为参考，从而生成整条街道。但模拟器并非随机生成内容，而是结合真实世界的地图数据，重建出符合实际比例的逼真环境。
开发者随后可以使用语言提示词实时更改场景设置，例如添加下午的交通状况。Sun表示，Laplace会从TomTom等导航提供商处获取实时交通和拥堵信息。
在Laplace的模拟环境中，不仅环境被模拟，其他参与者的行为也被模拟。例如，在一次演示中，Sun指挥测试代理车辆突然变道驶入对向车道。它原本会撞上（或在某些生成式世界模型中常见的情况下直接穿过）的车辆则主动避让以避免碰撞。
“这确实是一个交互式模拟环境，”Sun说，“每个人都在对其他一切做出反应……这更像是一个具有互动参与者的世界模型。”
尽管模拟环境是Laplace产品的重要组成部分，但其真正的独特卖点在于该公司正在开发的AI智能体，这些智能体能够自动设计极端案例（即可能使AI系统陷入困境的棘手、罕见场景），从而进一步减少人工干预。
“它们可以从新闻报道、交通事故报告等各类信息中设计场景，主动挑战自动驾驶汽车和其他物理AI智能体，”Sun说。
如今，自动驾驶汽车开发人员主要使用录制的视频片段训练AI处理边缘情况，然后将其转化为模拟场景，或者依赖人类提出新想法并进行设计。虽然许多自动驾驶汽车公司已经像Laplace所推销的那样开始采用AI来创建用于训练的边缘情况——例如自动驾驶卡车公司Waabi——但当我们将通用机器人放入现实世界时，这种技术的需求才会真正显现出来。
“关于通用机器人的数据较少，”Sun说，“没有人知道现实中会出现哪些极端情况。”
尽管Sun和Liu出身学术界，没有硅谷科技公司的光鲜背景，但两人已成功实现收入增长，甚至实现了 modest 盈利。大部分收入来自自动驾驶应用场景，客户包括日本卡车制造商五十铃（Isuzu）以及总部位于德克萨斯州的自动驾驶卡车公司Bot Auto。
Sun表示，英伟达也是其客户。这两家公司与T-Mobile合作，为加利福尼亚州圣何塞市开展一项免费的智慧城市试点项目，以提供高级交通运营服务。Laplace还正处于早期阶段，正与为仓库构建人形机器人的合作伙伴展开合作。
目前，Laplace的大部分客户合同均为项目制，公司正努力将其转化为经常性收入。该公司的近期目标——希望借助参加Disrupt活动获得助力——是筹集资金并扩大规模，以便与竞争对手抗衡。
其主要竞争对手是 Applied Intuition，这是一家备受关注的后期初创企业，迄今为止已融资12亿美元，投后估值达150亿美元。五十铃也是Applied的客户之一。
Sun并不太担心。他认为Laplace使用AI测试AI的核心方法论是一种“彻底改变物理AI测试的新范式”，将其转变为一种“动态交互式测试过程”。
他说：“那将是最大的护城河。”