Baseten于周三联合旗下研究部门Base Labs推出全新安全基础设施标准，并与Hugging Face、Goodfire AI达成合作，旨在为开放权重模型构建安全评估与监控体系。
当前，开放权重模型的安全性正引发激烈争议。通过“abliteration”技术移除安全措施后，这些模型可能产生风险；据Hugging Face数据显示，目前已有超6,000个经过此类处理的开源AI模型在托管。
作为Baseten今年新成立的研发团队，Base Labs将致力于开发并公开开源模型的训练与监控方法。该公司将此项工作定位为一种内嵌于模型训练及部署全流程的透明“标准”，而非事后补救措施。
Baseten表示：“开放性对AI安全具有显著优势。它不仅能让模型行为更清晰可见，更重要的是，相比闭源方案，开放性提供了更多将安全研究转化为可操作、透明控制手段的途径。”
尽管双方尚未披露具体技术细节，但Goodfire AI强调“安全性必须内置于开源模型中，并由服务提供方落实”。鉴于Goodfire专注于AI可解释性研究，其有望承担安全机制“内置”的核心工作。
在资本层面，AI推理服务商Baseten已完成15亿美元F轮融资，估值达130亿美元；合作伙伴Goodfire AI也于今年早些时候完成由B Capital领投的1.5亿美元B轮融资，以加速推进其模型可解释性平台的发展。
展望未来，Baseten向开发者生态发出公开邀请，呼吁共同完善该框架，携手构建一个安全且普惠的开源模型生态系统。