引言
关于算法备案的攻略以前的文章也做过介绍,感兴趣可以点击链接进行阅读:
■ 算法备案避坑指南
本篇文章将为大家详细介绍一下:
1、 算法备案是什么(核心逻辑)
2、 谁要做算法备案(一个公式)
3、 算法备案材料准备
4、 算法备案流程
01
算法备案是什么
算法备案全称是互联网信息服务算法备案,全程在线办理,无需线下提交材料
算法备案核心逻辑
这里我们要搞清一个核心逻辑,很多企业会以为算法备案是考验“算法技术”❌
算法备案的核心并不是“考核技术”,而是“核查责任闭环”
如何核查责任闭环→是否明确算法风险、是否建立防控措施、是否落实安全责任
算法风险
算法风险主要包括以下几类:算法歧视风险、算法操控风险、算法协同(共谋)风险、算法黑箱风险、数据安全与隐私风险、数据决策与可靠化风险、伦理与价值观风险、法律责任与监管风险,在做算法备案之前,先考察自己的算法是否可能存在这些风险,如果存在这些风险应该怎么应对?
如何建立防控措施
防控措施就是针对算法全生命周期风险(如数据泄露、算法歧视)制定的可落地的应对方案。
落实安全责任
安全责任指明确责任部门(如算法安全部)责任人及履职要求,确保风险防控落地
区分3个易混淆的概念
■ 算法备案:
面向所有使用“个性化推送类、排序精选类、检索过滤类、调度决策类、生成合成类”5类核心算法,且面向公众提供互联网信息服务的企业,是基础的合规要求;
■ 大模型备案:
针对自主研发、或微调/模改第三方大模型的生成式AI模型且向公众提供服务的企业
■ 大模型登记:
仅调用已备案大模型(如文心一言、通义千问)不进行训练/微调的应用层企业,无需大模型备案,只需登记
02
谁必须备案
只需要记住一个核心公式:“面向境内对外提供互联网信息服务+算法具备(个性化推送/生成合成/排序精选/检索过滤/调度决策)任一核心能力都需要完成备案
对外提供服务:包括ToC、ToB、跨境服务(面向中国用户)
算法类型:
|
算法类型 |
举例 |
|
个性化推送类 |
电商“猜你喜欢”、根据用户爱好的短视频推荐/社交平台内容推送等 |
|
排序精选类 |
热搜榜单、外卖商家排名、APP应用商店排序等 |
|
检索过滤类 |
搜索引擎结果筛选、敏感信息拦截等 |
|
调度决策类 |
物流路径规划、骑手调度、出租车分配等 |
|
生成合成类 |
AI绘画、虚拟人互动、语音/视频生成 |
算法备案|大模型备案|AIGC行业资质
03
算法备案材料准备
关于算法备案的材料准备我们已经在过文章中进行过详细解读,感兴趣的可以点击链接进行查看:一文理清I算法备案材料清单+关键材料怎么写
这里我们主要介绍一下算法备案材料中的重难点:《算法安全自评估报告》
💡特别注意:
《算法安全自评估报告》很复杂,往往需要准备60+页,而且在网信办审核的时候很容易被驳回,需进行多轮修改,很费时间和精力。
算法概括(基础模块)
明确算法名称、版本号、类型、所属业务领域、服务群体、用户数量、核心功能、运行流程.....
算法名称
算法需需规范命名,建议格式为“名称+功能+算法类型”
参考第十五批通过算法备案的算法名称:
运行流程
算法流程以流程图的形式提供算法的描述,描述从原始数据输入开始到最终结果输出的整个算法服务链路,流程图里每个节点的粒度不大于单个算法模型或干预策略
参考算法流程图:
服务情况
这里主要需要描述产品提供的服务功能介绍、上线时间、展现形态、服务流量、用户情况,以及算法在服务中的应用情况。
很多企业会问:我们的APP还没有上架,不知道服务流量和用户情况怎么填写应该怎么办?这里其实并不需要填写完全精准的用户数量,可以填写一个预估值,并清晰说明预估依据即可。
评估算法风险描述
这个板块是算法安全评估报告的重点板块,主要包含两大部分:算法风险研判、风险防控情况
算法风险研判:
算法风险研判需要包含:算法滥用、算法漏洞、算法恶意利用、其他风险
■ 算法滥用:通俗的来说就是是否存在滥用算法的不当行为或该算法是否有被不当利用的风险
■ 算法漏洞:考察算法本身是否健全,及可能存在的潜在风险
■ 算法恶意利用:考察算法是否有被第三方yon恶意利用的潜在风险
风险防控:
风险防控需包含:风险防范机制建设、用户权益保护、内容生态治理、模型安全保障、数据安全防护
■ 风险防控机制建设
■ 用户权益保护
需保护用户知情权(告知用户收集了哪些个人信息以及算法用在了哪些途径)、用户个人信息(隐私数据保护)、其他权益(未成年人保护、老年人保护、消费者权益、劳动法保护·····)
■ 数据安全防护
描述确认训练数据采集、使用、存储合法正规
04
算法备案流程
算法备案详细流程可参考:详细!算法备案流程攻略
前期准备:
明确算法类型、建立算法安全责任部门、判断算法安全风险、建立算法安全防控机制
主体信息填写:
填写主体信息,完成企业主体资质核验
算法信息填报:
详细填报算法信息,完成安全自评估
产品信息填报:
填写算法所应用的产品信息
等待审核公示:
等待网信办审核,如果驳回进行补正,审核通过后网信办每两个月进行一次公示
算法备案/大模型备案难,材料不会写?测试账号搞不定?审核流程太长?
END
严正声明:
文章版权归©通晓集团所有,如需转载请联系客服人员
未经允许禁止搬运、引用、抄袭等
否则将视为侵权,我司依法保留追究权

