本周，一段展示人行道上配送机器人穿越黄色警戒线并驶入洛杉矶犯罪现场的视频在网络上迅速走红，在推特上获得了超过65万次的观看量，引发了关于该技术是否已准备好投入主流应用的争论。
事实证明，至少在这个案例中，机器人的错误是由人为因素造成的。
该事件的视频由位于洛杉矶的警方监督账号Film the Police LA的所有者威廉·古德（William Gude）拍摄并发布。大约上午10点，当古德在好莱坞高中疑似校园枪击案现场附近时，他拍下了这台机器人徘徊在街角、显得困惑不已的画面，直到有人揭开了胶带，机器人才得以继续穿过犯罪现场离开。
一台送餐机器人强行穿过警方设置的犯罪现场。
Uber的衍生公司Serve Robotics告诉TechCrunch，该机器人的自动驾驶系统并未决定闯入犯罪现场，这是由远程操作该机器人的操作员做出的决定。
该公司的配送机器人具备所谓的L4级（Level 4）自动驾驶能力，这意味着在特定条件下它们可以自主驾驶，无需人类接管。自五月以来，Serve一直在该地区与Uber Eats合作试点其机器人服务。
Serve Robotics有一项政策，要求人类操作员在每个路口远程监控并协助其机器人。如果机器人遇到障碍物（如施工区域或倒下的树木）且无法在30秒内找到绕行方法，人类操作员将远程接管控制权。
在此案中，这台刚完成配送任务的机器人接近路口时，根据公司的内部运营政策，一名人类操作员接管了控制。起初，该操作员在黄色警戒线前停下。但当旁观者拉起警戒线并似乎“挥手示意通过”时，人类操作员决定继续前行，Serve Robotics首席执行官Ali Kashani告诉TechCrunch。
Kashani表示：“机器人本身绝不会自行穿越（犯罪现场）。有很多系统确保它不会在得到人类授权之前穿越。”他补充道，这里的判断失误在于有人决定继续穿越。
无论原因如何，Kashani表示这种情况本不应发生。他表示，Serve已提取了事故数据，正在制定一套新的人机协议，以防止未来再次发生类似事件。
几个显而易见的步骤包括确保员工遵守标准操作程序（SOP），其中包括适当的培训，以及制定针对个人试图挥手让机器人通过路障时的新规则。
但Kashani表示，还有办法利用软件来帮助避免此类事件再次发生。他说，软件可以帮助人们做出更好的决策，或者完全避开某些区域。例如，该公司可以与当地执法部门合作，向机器人发送有关警方事件的最新信息，以便其绕过这些区域。另一个选择是让软件具备识别执法人员的能力，然后提醒人类决策者并注意当地法律。
随着机器人技术的进步和运营范围的扩大，这些经验教训至关重要。“有趣的是，机器人做对了——它停了下来。”Kashani说，“因此，这确实回到了一个核心问题：在我们将AI的信心提升到足以无需人类参与决策之前，必须为人们提供足够的背景信息，以做出正确的判断。”
Serve Robotics的机器人尚未达到这一阶段。不过，Kashani告诉TechCrunch，这些机器人正变得越来越独立，通常能够自主运行，仅在两种情况下例外：十字路口和某种形式的路障。
本周发生的情景与许多人看待人工智能的方式背道而驰，Kashani表示。“我认为一般的叙事是：人类在边缘案例中表现优异，而AI则会犯错，或者可能尚未准备好应对现实世界，”Kashani说，“有趣的是，我们学到的恰恰相反：我们发现人类会犯很多错误，而我们更需要依赖AI。”