如果小程序中用户可以填写文字内容，或者用户可以上传图片，就必须接入内容安全检测，否则提交审核就不会通过。
内容安全检测大致涉及四种内容类型：
1、文字
2、图片
3、音频
4、视频
如果小程序已经接入云开发，那么内容安全检测可以放在小程序前端做。
文字检测调用接口：openapi.security.msgSecCheck 即可。
图片检测调用接口：openapi.security.imgSecCheck 即可。
音频和图片异步校验调用接口：openapi.security.mediaCheckAsync 即可。
当然，也可以在服务端做内容安全检测。服务端内容安全检测接口：
文字检测调用接口：
https://api.weixin.qq.com/wxa/msg_sec_check?access_token=ACCESS_TOKEN
图片检测调用接口：
https://api.weixin.qq.com/wxa/img_sec_check?access_token=ACCESS_TOKEN
音频和视频异步校验调用接口：
https://api.weixin.qq.com/wxa/media_check_async?access_token=ACCESS_TOKEN
上面的云开发方式和服务端调用方式，都是使用小程序自带的接口。很明显自带的接口不满足以下需求：
1、视频内容安全检测
2、文字内容安全检测时，需要可以自定义词汇，需要可以自己增加一些不通过检测的词汇。
所以，就需要引入第三方的接口了。
可以使用百度的内容审核平台的接口。在项目中引入百度AIP SDK，之后调用相关接口即可。
登录百度智能云，进入内容审核平台，在策略管理中可以编辑审核的策略，如下图所示
在数据集-自定义文本中，可以增加自己需要过滤的词汇，如下图所示
以上基本就能满足日常内容安全检测的需求了。
分享Java项目
软件开发，小程序开发
探索好玩的产品
点击关注：