关注Generative AI，General AI等新一代AI Governance问题，致力于共建智能创新生态，共筑科学安全治理。
欢迎「关注」AIGverse 并设为星标⭐️
Anthropic 今日宣布，将其网络安全验证计划（Cyber Verification Program）扩展为三个访问层级，面向经过审核的安全团队开放。随着访问层级提高，针对网络安全工作的限制将逐步减少。
此次调整旨在解决 Anthropic 自身产品中设置的一项限制。由于该公司认为网络安全技术具有攻防两用属性，其面向公众开放的模型配备了较为保守的分类器，会拦截大多数网络安全任务。Claude Opus 5.5 于9月22日发布时，提交给它的大多数安全任务都会被转交给较旧的 Opus 4.8 处理。
与此同时，Anthropic 正将 Glasswing 项目并入该计划。自4月以来，Glasswing 一直向负责保障关键软件安全的组织提供 Claude Mythos 的访问权限，并于6月将覆盖范围扩大至另外150家组织。在新的分层架构下，所有层级均可使用 Claude Opus 5.5、Claude Sonnet 5.5 和 Claude Mythos 5.1，后续模型也将在发布后加入。
“防御访问”（Defense Access）是入门层级，面向事件响应、恶意软件逆向工程等防御性工作。无论隶属于企业、大学还是政府机构，只要安全团队负责保护其所属组织拥有或维护的系统，就符合申请条件。
有漏洞报告记录的独立研究人员也可以申请，区域医院这样规模较小的关键基础设施运营机构同样可以参与。Anthropic 预计，许多从事防御性工作的组织都能符合条件，并计划在几天内回复申请。
“红队访问”（Red Team Access）允许组织对其获准测试的系统开展经授权的渗透测试和红队测试。即使在这一层级，当相关工作开始转向部署勒索软件等行为时，Anthropic 的分类器仍会实时拦截请求。申请者需要等待数周接受审核，在此期间可先使用“防御访问”层级。目前，独立研究人员尚不能申请这一层级。
“专项访问”（Specialized Access）是三个层级中网络安全限制最少的一档。只有获准测试电网、电信网络等涉及安全的系统的组织才符合条件，因为这些系统一旦发生故障，可能危及生命或扰乱市场。Anthropic 会与美国政府合作，对每家申请组织开展深入审核。现有 Glasswing 成员将直接转入这一层级，无须就当前模型的访问权限重新接受审批。
参与计划的组织必须允许 Anthropic 留存数据，以便该公司监测滥用行为。计划于今年晚些时候推出的“企业前沿安全保障”（Enterprise Frontier Safeguards）将允许符合条件的客户，把这些数据保存在由其自行控制的云基础设施中。
Anthropic 使用多阶段网络攻防行动基准 CyScenarioBench 测试了各个访问层级，让 Claude Opus 5.5 对其中10项挑战分别运行5次。未获得该计划访问权限时，所有尝试都在第一次提交提示词时被拦截。由于这些测试场景具有进攻性质，Anthropic 原本就预计“防御访问”层级会出现大量拦截；实际测试中，50次运行有46次在某个阶段被阻止。
在“红队访问”层级，没有任何运行遭到拦截，模型在50次运行中完成了34次。Anthropic 表示，这一结果与模型在完全不施加安全防护措施时67.6%的成功率基本相当。
在实验室之外，扩大访问范围的依据来自此次被纳入新架构的 Mythos 项目。4月至7月期间，Glasswing 项目的合作伙伴发现了至少12.9万个经核实的漏洞；截至10月，Anthropic 自行开展的开源代码扫描又发现了5500个漏洞。在这些漏洞中，超过3.3万个被评为严重或高危。
上述数据仅来自33份合作伙伴报告。该公司表示，实际成效很可能至少达到已报告水平的5倍。披露漏洞修复数量的合作伙伴不到一半，通常是因为修复工作仍在进行。
该计划可通过 Claude Platform、Google 的 Vertex AI 和 Microsoft 的 Foundry 服务使用。在 Amazon Web Services 的 Bedrock 平台上，该计划仅向符合“企业前沿安全保障”资格要求的客户开放。
您认为，当同一种AI能力既能发现漏洞，也能发动攻击，按用户身份和机构资质分级开放，能否有效划定安全边界？如果独立研究者被排除在更高权限之外，这种安排该如何平衡风险防控与安全研究的开放性？
如需交流思考题或咨询有关问题，请关注公众号并AIGverse小秘书：
AIGverse