总部位于法国的AI公司Mistral推出了新的API，用于内容审核。该API与为Mistral的Le Chat聊天机器人平台提供审核支持的API相同。
根据该公司发布的信息，该API可根据特定应用和安全标准进行调整，并由经过微调的Ministral 8B模型提供支持。Ministral 8B微调模型旨在将文本分类为九类：性、仇恨和歧视、暴力和威胁、危险和犯罪内容、自残、健康、金融和法律以及个人信息。该模型支持包括英语、法语和德语在内的11种语言。考虑到竞争对手主要专注于英语，Mistral还支持阿拉伯语、中文和日语等语言，这是一个优势。Mistral的内容审核API可应用于原始文本或语音转文本结果。
Mistral在其发布的博客文章中表示，内容审核分类器利用了最相关的政策类别以实现有效的“稻草人”测试。尽管Mistral声称其审核模型非常准确，但也承认这是一项正在进行的工作。到目前为止，我们见过Jigsaw的Perspective API和OpenAI的内容审核API等流行示例。您可以从该公司发布的文档中开始使用Mistral的内容审核API。
值得一提的是，Mistral今天还推出了批量处理选项——批处理API。通过这种方式，该公司希望在异步处理高容量请求的同时，将其API提供的模型成本降低25%。此前我们曾介绍过Anthropic为挑战OpenAI而推出的平价批量处理选项——Message Batches API。值得注意的是，OpenAI和Google也为其API提供了批量处理选项。您可以通过La Plateforme访问Mistral的批处理API。