英国AI安全研究所（U.K. AI Safety Institute）近日发布开源工具集Inspect，旨在降低AI评估工具开发门槛，助力业界、研究机构及学术界加强AI安全建设。
Inspect基于MIT许可协议开源，专注于评估AI模型的核心知识与推理能力并生成评分。该机构表示，这是首个由政府支持机构主导并公开发布的AI安全测试平台。
AI安全研究所主席Ian Hogarth指出，共享且易用的评估方法是AI安全测试合作的基石。他期望全球社区不仅能利用Inspect进行模型安全测试，还能参与平台的调整与构建，共同产出高质量评估结果。
针对当前顶尖AI模型“黑箱”化、关键细节保密导致基准测试困难的问题，Inspect通过高可扩展性及对新测试技术的兼容能力加以应对。其架构包含三大核心组件：
- 数据集：为评估提供测试样本；
- 求解器：负责执行具体测试任务；
- 评分器：评估求解器表现并将结果汇总为量化指标。
此外，Inspect支持通过Python编写的第三方包扩展内置功能。
该工具集发布后引发行业关注。Mozilla研究员Deborah Raji评价其为“公共投资赋能AI问责制开源工具的证明”。Hugging Face CEO Clément Delangue则提议将Inspect与其模型库集成，或基于评估结果建立公共排行榜，以惠及更多模型开发者。
Inspect的推出与美国NIST GenAI项目形成呼应，后者同样致力于生成式AI技术评估及内容真实性检测。此前美英两国已宣布建立合作伙伴关系，共同开发先进AI模型测试方法，美国亦计划成立AI安全研究所，以系统评估AI及生成式AI风险。