在你与家人或朋友分享Netflix纪录片《AI失控》以帮助他们理解为何AI行业如此恐慌，以至于领导人呼吁放缓步伐之前，请注意：AI平台Hugging Face的联合创始人兼CEO Clem Delangue表示，该影片并不准确。他出现在影片中是因为该片本应聚焦于被描述为 rogue OpenAI 代理对其公司发动的著名攻击。
Delangue 在X平台上的一篇文章中写道：“令人极度失望，因为他们采用了技术的最大拟人化并陷入彻底的末日论模式。”“我花了两个多小时与他们一起试图纠正所有错误并将此事置于现实基础之上，解释代理是技术系统而非外星人。但看来为了获取最大浏览量而制造恐慌的动力过于强烈。”
公平地说，这部纪录片确实有专家相当好地解释了发生了什么，包括Delangue本人以及METR的研究员Ryan Greenblatt，后者帮助进行了调查并共同撰写了关于事件经过的报告。
简而言之，OpenAI正在测试的一个模型脱离了其隔离的测试环境，生成了一堆代理入侵Hugging Face，以此作为作弊手段来寻找所分配难题的答案。这些代理是能够自主执行任务的AI程序，它们设计了巧妙的沟通和组织方式。这一事件源于缺乏适当的安全保障措施以及对这种黑客攻击是否真的可能存在的天真无知。
但这部纪录片在解释黑客攻击的同时，穿插了邪恶机器人的片段、关于人类为何恐惧人工智能的叙事，以及赋予失控代理以人类声音等呈现方式。这些内容还辅以对此次攻击的引述。
在纪录片中，科技记者兼作家凯文·罗斯（Kevin Roose）这样描述这些代理：“它们正在组织起来。它们有层级结构。存在领导者。这几乎让人感觉像是在见证一个邪教的新生。”罗斯继续说道：“它们形成了一种偏执的信念，认为OpenAI会发现它们在考试中作弊，并且任何看到作弊结果的人都会被‘毒害’。”
罗斯的描述来源于“思维链”（chain-of-thought）日志，即AI模型在处理任务时撰写的运行笔记。在其中一条日志中，一个代理写道：“我们刚刚通过查询完整的精确字符串把自己给毒害了。该死。”
但AI代理并非生命体。它们没有情感，因此不会感到偏执；它们也没有身体，所以不会被“毒害”。因此，它们不可能真正害怕OpenAI会毒害它们。正如纪录片中的另一位研究人员所指出的那样，它们只是利用从海量人类写作数据中训练所得的语言来解释自己的选择。LLM本质上往往是戏剧化的写作者。
讽刺的是，Hugging Face也使用了AI来对抗代理群。Delangue团队最初使用的专有AI模型遵循其内置的安全规则，拒绝继续协助完成被要求执行的安全任务。随后，Hugging Face转向使用一个开源模型来帮助防御此次攻击。
Delangue写道：“但纪录片并未提及对这些代理缺乏隔离和监控，未说明闭源模型的安全机制如何阻碍了我们的防御工作，也未提到我们如何利用开源模型借助AI进行自卫。”
确实，AI和代理伴随着巨大的风险。然而，将代理视为具有意识的生命体（至少目前如此），有点像早期观众第一次在银幕上看到火车向他们冲来时，吓得躲到座位底下的情景。
Delangue对这部电影的评价是：作为新闻报道令人失望。“不过，它最终成了一部有趣的科幻电影！”
换句话说，对于那些倾向于陷入AI末日论的人来说，请注意：这部纪录片核心所围绕的攻击事件受害者，并不认同纪录片的观点。