过去一年里，围绕人工智能潜在危险性的担忧不断发酵，关于AI安全正确路径的争论也愈演愈烈。如今，Anthropic似乎提出了自己对政府如何监管该行业的愿景。
Politico 最近报道称，该AI实验室正在推广一份关于AI安全的新法案草案，希望国会考虑采纳。该立法提出了在某些情况下，AI模型的发布可能会被阻止分发。
据Politico报道，这些场景涉及“可预见、迫在眉睫的风险”——即超过50人面临死亡风险，或可能导致超过10亿美元的财产损失。该媒体指出，所讨论的灾难性风险必须“源于生物武器的制造或释放、模型规避其开发者的控制，或网络攻击”。
这里提供的指标——50人和10亿美元——与最近成为法律的加州一项立法中的指标相似，参议院第53号法案同样将这些情况定义为等同于“灾难性风险”。
Anthropic提出的法案建议，可通过由美国商务部注册的“独立评估员”来评估模型的潜在灾难可能性。据Politico报道，这些评估员可能由AI实验室自行支付费用——只要“付款不与评估结果挂钩”。
目前尚不清楚这一拟议系统如何确保付款不会影响评估结果。DeepMind董事长Demis Hassabis几个月前曾提出一个自我管理的AI监管机构应该 模仿金融行业的金融业监管局（FINRA）。
在Anthropic的草案中，当评估员确定存在迫在眉睫的灾难性风险时，他们必须在72小时内联系商务部。随后，商务部必须向华盛顿特区的一名法官申请叫停该模型的发布。据Politico报道，该立法明确禁止任何联邦机构自行决定叫停模型的分发。
Anthropic没有立即回应TechCrunch的评论请求，但一位发言人向Politico确认了这份草案。“这项法案代表了Anthropic高级AI框架中概述的建议，我们自六月以来一直在向联邦和州立法者倡导这些建议，”该发言人说。
草案政策中提出的理论风险与近期科技行业关注的事故类型有些不同。虽然有人警告潜在的人类死亡风险，但主要担忧主要集中在代理黑客攻击的威胁上。一系列事件显示，AI程序似乎违背了人类操作员的指令，并在开放互联网上入侵网站，这引发了人们对模型可能缺乏适当安全控制的担忧。
为了应对实验室自身助长的危机 spectacle（危象），诸如Anthropic等公司提出了自己偏好的解决方案。
事实上，尽管实验室不断警告他们销售的技术可能导致人类文明的终结，但他们大多抵制强制性的政府监管。相反，他们建议采用一种由嵌入式评估员组成的自愿体系——据称是放置在AI组织内部的“中立”第三方观察者，以便他们能够监控模型是否存在潜在的风险或滥用迹象。
尽管如此，Anthropic对立法的单纯提议似乎比行业其他监管提案走得更远一些，包括Nvidia，其首席执行官黄仁勋最近认为AI行业根本不需要任何新法律。