随着决策模型在行业中广泛普及，一家名为 Musubi 的公司提出了将其付诸实践的新思路：内容审核。周二，Musubi 宣布发布专为实时审核设计的轻量级决策模型 PolicyLM-1.7B，该模型以开放权重形式推出。
其核心理念是将用自然英语撰写的内容政策应用于消息处理，耗时不到50毫秒。Musubi 的模型在成本和速度上旨在与支撑大多数社交平台审核工作的 AI 分类系统相当；但因其具备现代大语言模型的灵活性，无需特殊训练即可应用复杂政策。更重要的是，当政策发生变化时，该模型无需重新训练，允许人类政策制定者根据需要反复迭代。
正如 Musubi 联合创始人兼首席 AI 官 Filip Jankovic 所言，它为平台管理者提供了一种主动对内容进行标注的方式。
Jankovic 表示：“产品团队只是希望更好地了解其平台上正在发生的情况，尤其是随着内容量的指数级增长。”“能够以高度可扩展且可定制的方式对所有这些内容进行标注，具有极高的实用价值。”
自今年九月 TypeSafe AI 的 Jev 发布以来，决策模型已成为人工智能领域的热门话题，随后 OpenAI 和 Amazon 也推出了竞品。与输出文本不同，决策模型输出的是结果概率；在本例中，该模型输出二元判断：内容要么属于该类别，要么不属于。通过将模型输出限制为一组预定选择，决策模型能够在保持 Transformer 架构灵活性的同时，比大型语言模型运行得更快、成本更低。
一个早期的应用场景是约束 AI 代理的不当行为——因此将相同技术应用于人类的不当行为也就顺理成章了。
值得注意的是，Jankovic 表示他对决策模型的兴趣早于 Jev，可以追溯到一个名为 GLiNER（通用命名实体识别模型）的 2024 年项目，该项目部署了许多相同的技术。
尽管如此，Musubi 并不回避这种比较。事实上，该公司渴望利用人们对决策模型的新兴趣来凸显内容审核的重要性。“如果 Jev 引起了你的注意，PolicyLM-1.7B 是同类型的模型，专为内容审核而训练，你可以自行运行它”，产品公告中写道。