6月21日，由中国信通院云计算与大数据研究所、内容科技产业推进方阵、中国通信标准化协会TC602联合主办的“2022内容科技成果发布会”在线上顺利召开。
知道创宇ScanA内容安全审核产品（V3.0.0）符合参考标准DCA-2017-002《网络治理能力评估规范：第2部分——内容识别服务系统》，由中国信通院正式授予内容审核服务系统测试证书，并获得五星能力认证。
围绕“内容向善，科技赋能”为主题，知道创宇内容风控产品经理王晨迪就“AI+人工共同赋能”的未来发展方向进行了演讲分享。
内容安全：
国家战略中重要的“网络民生工程”
内容安全需要监管督导、政府管理、企业履职、社会监督、网民自律，已然是国家战略中重要的‘网络民生工程’。
内容风控早已成为互联网企业发展战略的重要一环，守护内容生死红线，也成为公司CEO等高层牵头主导的战略标配。
从企业组织架构看，CEO需要牵头成立公司内容风控部门和建设管理体系。
CTO的角色是从0到1搭建数据库、引擎，过程中会面临缺少数据支撑，训练过程难点多、类型多样化、场景繁杂、技术升级迭代有要求等痛点。
COO, 既要考虑审核尺度对用户体验的影响，也要考虑发布、观看流程是否稳定，还要对黑灰产入侵、平台调性建设负责。
到了具体落实执行的内容风控负责人，则需要组建和管理以审核人员、质检人员等组成的内容风控团队，并对具体内容风控事项负责。
从外部风险看，互联网平台每日都会面临各类风险的入侵。从最为广泛的色情、博彩、诈骗等黑灰产信息的无声蔓延，到带来恶劣影响的网络水军、谣言横行，再到境外势力潜移默化的文化渗透、负面舆论，及侵害未成年人乃至社会大众的行为频频出现，都在挑战着平台上的内容风控体系。
内容安全解决方案的未来趋势
在AI技术相对薄弱的前几年，平台普遍采用的是机审和人审都自建的传统模式。
而自建一个懂政策且要7*24小时值守的审核团队，对企业来说挑战巨大。审核团队建立后，还需要自建质检团队，对机审、人审结果进行质检抽样；自建舆情团队，去解读政策和分析热点舆情；自建算法研发团队，前期需要先去采购海量数据进行算法训练，提升算力。
这种方案需要的组织架构包括审核、质检、舆情、算法、运维等团队。由于是初建团队，组织稳定期大概要在1年以后，整个年度成本的投入惊人。
近些年，更多的企业倾向于选择机审采购+人审自建的模式。
在这个模式下，企业只需要建立审核、质检、舆情、运维团队，再外部采购一个内容安全引擎，实现机审初筛就能达成基本运作了。但这个模式的难点还是在于人审团队的组建上，组织稳定期也需要半年以上时间，人力的成本投入还是很高。
在未来几年，知道创宇相信内容风控将沿着第三种趋势发展。
企业也渐渐发现，内容科技厂商们的引擎都各有所长。降本增效最有效的办法，还是提高机审初筛的准确率，这可以通过采购和部署多家服务商的机审引擎来达成。
同时服务商还应该具备人工研判和热点舆情推送的能力，这样企业就可以将业务和责任全权移交服务商。企业只需要组建5人左右的服务商管理团队，对服务商的SLA进行日常监控。
这样的方案建设，最快1个月就可以到达稳定期，年度投入也会明显下降。
知道创宇ScanA智能一体化解决方案
满足各阶段企业应用
对非用户生产内容且发布内容量较少的平台，ScanA可以满足关于一次性存量内容清洗的最小合规级要求。
对用户生产内容但发布内容量较少的平台，可以采用一次性存量内容清洗+增量内容审查，保障稳妥合规级。
不管是用户和非用户生产内容的平台，都有必要定期利用最新审核策略进行存量内容清洗，辅以日常增量审查，才能达到监管防护级别。
对于内容风控要求更高的平台，知道创宇推荐采用“多重引擎+人工复审”的定期存量内容清洗、增量内容审查的方式。
在中国信通院《内容审核体系成熟度要求和评估规范》中也有建议，腰部及以上平台建议采用2个以上厂家或“自研引擎+人工复审”的模式才能达到保障平台内容合规性的目的。
甚至，除了在内容安全层面的防御以外，平台还需要覆盖到用户端、内容端、业务端的风险识别能力建设，才能达到堡垒级的防御级别。
AI机审：
审核维度全面+审核模型精准+规则配置灵活
知道创宇ScanA内容安全审核产品在现阶段的AI机审能力上已经做到了：
▶ 审核维度覆盖图像、长/短文本、音频、视频、直播、到PPT、word这样类型的文档；
▶ 审核模型覆盖了图文音视频的识别能力，并对特定场景建立了相应的分析模型，并建立风险内容标签，实现更加全面和精细化的内容管理；
▶ 规则配置灵活易用，自研智能审核平台可以自定义配置审核维度、配置内容分流等；并且具备API的一次性接入能力。
内容安全智库：
建立底层能力的数据协同机制
知道创宇已经建立了内容安全智库为底层能力的数据协同机制：
▶ 已有130万+的垃圾特征词库，这也来源于知道创宇多年服务大型企业获得天然的大用户规模的内容技术集合；
▶ 监管标准库，对于内容安全相关的政策法规进行及时解读，并建立统一的库对齐监管标准；
▶ 建立了国家领导团队、政府领导团队、涉港、涉台、涉藏等涉政关键信息资料库，目前领导人词库精细到了985、211院校的院长、党委书记；
▶ 同时，知道创宇也有数十人专业舆情团队，每日国内外舆情主动采集和风险解读，每周万级特征增加中。
内容安全智库里也应用了知道创宇的几大核心数据库：
▶ 对知道创宇核心404团队挖掘建立的暗网开源情报数据库，实施洞察和监控。暗网里有比想象中还要恐怖100倍的互联网世界，在暗网上买枪支和毒品就像买巧克力糖果一样简单；甚至还有买卖人口、贩卖器官、未成年人犯罪等非法服务，所以有相当多的有害特征可以利用。
▶ 同时，知道创宇的全球网络空间绘测+关基目标库，可以掌握全球用户IP、地理位置等信息，可以绘测用户行为，实现堡垒级防御中的用户端防御机制。
用户行为溯源让内容源头无所遁形
知道创宇通过用户行为探取，可以一手掌握内容风险制造者的取证信息。平台可以根据取证结果，判断是否关停用户账户。
目前，知道创宇可以做到：
精准识别资产IP的所在行业；
支持中国内IP精确地理信息展示，可精确到楼宇级别，误差在50m以内；
标记IP信息，通过IP信息分析对风险目标进一步进行甄别，识别是否机房IP，输出ID名、邮箱、QQ等，也可以识别IP标签：代理、Tor、公司名、组织名等Tag信息；
可以通过Dark检索，对识别的设备类型进行专项收录，识别手机类型、摄像头、IDC机房等。如果你的消息是从摄像头、IDC机房发出来的，那就可以定义为是一个虚拟用户。
这些数据都来源于知道创宇从2008年至今近13年的海量网络空间资产数据。我们可以通过这些数据分析，判断出发动水军、网络谣言、境外信息倒灌等行为的机构和国家来自于哪里。
人工专家：
铸建行标级别的内容审核团队
知道创宇以铸建行标级别的内容审核团队为目标，目前已经建立1400人的员工团队，招聘员工要求思想素质过硬，必须政治立场坚定，具备综合知识的储备。
从员工入职到业务过程，知道创宇覆盖理论课、实操课，定期进行标准更新同步培训；做到精细化职能分类，根据培训考试结果，建立个人能力模型，匹配岗位和业务，包括审核、质检、复审、交付人员等。
同时，作为一家专业的网络安全公司，知道创宇建立的也是国标级数据泄密防护体系，对敏感数据泄密渠道进行严密的控制，加强敏感数据在传输、使用、销毁全生命周期的安全管理。
知道创宇制定了约十五套管理制度和流程规范，尤其宣贯高压线行为准则，确保员工思想积极正面；职场所在的基地均提供一站式生活配套需求，为员工7x24小时不间断服务提供良好的后勤保障。
未来，知道创宇将继续深耕内容风控领域，力求最大化实现AI+人工共同赋能，推动内容科技产业健康发展。同时，知道创宇将持续响应国家政策方针，助力网络综合治理能力的提升，打造清朗网络空间。
点击阅读原文了解更多产品信息
