一文带你看懂 | 算法备案和大模型备案到底要办哪个？

📌举例：

我们再给大家举一个例子方便大家的理解，我们以抖音APP为例，带大家重新梳理一下判断流程：

■ 抖音面向境内公众提供服务（拥有舆论属性和社会动员能力）

■ 判断抖音中所包含的算法类型

○ 会根据用户的喜好来推荐个性化的视频内容→属于个性化推荐类

○ 会根据用户喜好、点击将话题或内容根据实时热度生成排序榜单→属于排序精选类

○ 根据用户输入的搜索词进行内容的检索与过滤，输出搜索结果→属于检索过滤类

○ 内含有群聊AI（智能对话）、拍摄生成AI图片（图片生成）等功能→属于生成合成类

■需要根据所包含的算法类型分别完成算法备案

■抖音使用了生成合成类算法且使用的模型为自研模型（云雀大模型）所以也需要完成大模型备案

算法备案流程

📌备注：

主体信息材料直接在备案系统上进行填写，按照系统提示填写即可，除了一般常见的主体信息之外，还需填写算法安全责任人材料。

算法安全责任人就是算法安全的第一责任人，对应用结果负责。

企业在填写算法安全责任人材料的时候，除了提供算法安全责任人的基本信息外，还需提供算法安全责任人的工作证明，证明算法安全责任人与企业的关系。

📌备注：

展示企业有能力和体系承担算法安全的主体责任，形成算法安全组织架构-算法安全保障制度-算法安全保障技术-算法安全监管体系的完整闭环。

📌备注：

算法安全自评估报告是企业主动排查算法应用全流程的风险并提出相应的防控措施。

大模型备案流程

📌备注：

谁评估（安全小组搭建）→评估了什么（评估了哪些内容）→怎么评估（使用了哪些评估方法）→评估结果

📌备注：

与算法备案不同的是，大模型备案除了需对材料进行审核外，还需要进行技术测试

需要提供5个功能完整的测试账号供官方测试，主要测试内容分为：内容安全测试、数据安全与治理测试、模型技术能力测试（验证模型基础可用性）、模型安全与对抗防御测试。