大数跨境

Get!抖音背后的视觉特效分享

Get!抖音背后的视觉特效分享 数智PARK
2021-10-15
0

令人头疼,老板让我开发抖音同款特效?


莫急,火山引擎致力于新一代人工智能驱动的信息平台,以技术创新为核心,依托海量数据,提供学术研究和工程产品的能力,并将研究成果应用于多行业多领域的产品和业务中,提供核心技术支持和服务,向企业开放上万款抖音特效。



核心优势



产品功能



检测系列


01


人脸关键点检测与跟踪

检测人脸并定位轮廓和五官位置获取面部细微结构信息,实时输出三维面部角度,同时加入实时轨迹跟踪与图像动态解析技术,为相机、短视频和直播中特效贴纸、美妆等提供功能调用。


功能描述

1.106/240/280人脸关键点检测与跟踪(图片&视频)

2.实时三维脸部转角数据输出(Yaw&Pitch&Roll)

3.基于106关键点可设计特效贴纸、美颜等基础特效

4.基于240关键点可设计美妆等复杂脸部特效

5.基于280关键点可在设计美妆基础上增设计美瞳等瞳孔特效。

6.支持移动双端、PC双端、电视端产品


产品优势

1.速度快:毫秒级检测

2.鲁棒性强:完美支持大角度,夸张表情,极端光线,遮挡等变化

3.稳定性强:跟踪平稳抖动小

4.准确率高:跟踪平均误差低

5.性能优越:CPU占用率低



02


面部动作识别

基于人脸关键点技术,实现对面部动作细微动作的识别,可基于面部动作实现触发特效等多种互动玩法,增加趣味性和娱乐性。


功能描述

可识别闭眼、张嘴、摇头、点头、眉毛跳动、嘟嘴6种面部动作。


产品优势

1.识别速度快

2.识别准确率高

3.性能优越


03


手势关键点检测与跟踪

实现对单手22个关键点检测与跟踪,单根手指4个,手掌1个,手腕1个,可基于手部关键点技术自定义手势动作,应用于互娱场景手部特效、智能家电手势操控等。



功能描述

1.手部22个关键点检测与跟踪

2.识别手势位置

3.返回关键点坐标信息

4.自定义手势动作


产品优势

1.手部关键点点数覆盖全面

2.识别速度快

3.鲁棒性强,手部折叠动作也可支持

4.稳定性强,跟踪平稳

5.识别准确率高


04


人体关键点检测与跟踪

实现对人体18个关键点检测与跟踪,头部5个、上肢7个、腰部2个、腿部4个,可基于人体关键点技术自定义人体动作,如举手、侧踢等,可应用于在线教育、健身指导、舞蹈指导等场景。



功能描述

1.人体18个关键点检测与跟踪

2.识别人体位置

3.返回关键点坐标信息

4.自定义人体动作



产品优势

1.人体关键点点数覆盖全面

2.识别速度快

3.鲁棒性强,支持侧身动作等复杂动作

4.支持电视端


05


情绪识别

基于海量数据模型和深度学习算法,实现了对人类8种情绪的识别,包括愤怒、厌恶、害怕、快乐、无表情、悲伤、惊讶、疑惑,为在线教育中教师和学生状态、学情分析提供数据支撑,同时也可在互娱场景提供互动效果。



功能描述

1.8种常见情绪识别

2.实时返回情绪状态



产品优势

1.识别速度快

2.可定制多种情绪

3.可支持识别小孩、老人、成年人


06


人脸属性检测

同样基于海量数据和强大的深度学习算法,实现了对人脸属性检测,包括年龄、性别、肤色,同时还可对颜值和开心值进行评分,提高了互动娱宗场景的趣味性。



功能描述

1.5种人脸属性检测

2.可对开心值进行评分

3.可对颜值进行评分

4.实时返回属性结果


产品优势

1.识别速度快

2.娱乐性高


07


手势识别

基于海量数据模型和深度学习算法,实现了对45种常见的手势识别、32种静态手势、2种动态手势以及火影忍者种11种结印手势,广泛应用于互动场景下的手势触发特效,同时也在电视端用实时代替传统按键控制电视各项功能,实现人机交互。



功能描述

1.32种静态手势识别与跟踪

2.2种动态手势识别与跟踪

3.11种结印手势

4.可实现手势触发特效

5.可代替传统控件实现人机交互



产品优势

1.识别速度快

2.识别准确率高

3.支持动态手势

4.可定制多种手势

5.行业手势数量覆盖最多


08


动物关键点检测与跟踪


09


视线检测&距离检测

视线检测:

基于瞳孔40个关键点技术、三维角度信息以及三维空间算法等技术,实现对瞳孔角度的检测,输出视线坐标,助力在线教育场景可实现对学生和老师专注度的检测,可达到提高教育管理手段,优化课堂环境的效果。


功能描述

1.实时检测视线

2.实时输出视线坐标

3.支持移动端、PC端


产品优势

1.识别速度快

2.召回率低



距离检测:

基于对摄像头深度定制,加以人脸检测算法及数据模型算法,实时输出人与摄像头距离信息,在电视端和手机端守护儿童视力,在线教育场景也可对学生进行视频保护的提示。


功能描述

1.实时检测人与摄像头距离

2.实时输出距离数据


产品优势

1.识别速度快

2.误差低于10%

3.可根据摄像头深度定制


美化系列


01


美颜&微整形


02


滤镜

提供48款个性化风格的爆款滤镜,可对实时视频和图片进行图像处理,支持强度调节,配合美颜、手势识别等功能玩法组合提高更多趣味性。



功能描述

1.支持实时视频和图片处理

2.支持参数自定义

3.提供48种差异化风格

4.支持移动端、PC端、大屏端


滤镜-手势触发

产品优势

1.速度快:毫秒级检测

2.性能优越:CPU占用率低

3.差异化风格


03


美体

基于人体检测、深度学习算法等技术实现对人体8个部位的精细美化效果,包括长腿、瘦腰、小头、瘦腿、丰胸、美胯、瘦手臂、天鹅颈,应用于秀场直播、在线舞蹈教学、瑜伽、健美操等场景。(暂时支持瘦腰、长腿,下个版本将全功能覆盖)



功能描述

1.可对实时视频处理

2.提供8个部位的精细美化

3.支持程度调节(下个版本支持)


产品优势

1.检测速度快

2.高稳定性

3.个性化美体调整



04


美妆

基于面部280关键点、图像渲染等技术实现对面部7个部位的精细化美妆效果,同时加入分割算法,避免出现遮挡特效时出现漂浮,极大的提高了用户体验。包括、口红、腮红、美瞳、染发、眼影、眉毛、修容,素材种类丰富(激萌+轻颜同款素材),且支持素材定制,可应用于视频直播、短视频、在线试妆等业务场景



功能描述

1.可对实时视频和照片处理

2.提供7个部位的美妆效果

3.支持程度调节


产品优势

1.覆盖常见美妆部位

2.高稳定性、高准确性

3.素材库丰富(激萌+清颜同款素材)

4.支持素材定制

5.加入分割算法,解决遮挡漂浮问题



特效系列


01


背景分割&头发分割&天空分割


02


人脸融合(API)

基于面部分割、3D建模等技术实现人脸的融合,可上传一张含人脸照片,在云端完成对复杂算法处理后,返回本地。目前支持对照片进行处理,以API的方式接入。可微信搜索:ByteDance视觉特效馆。



功能描述

1.支持图片方式

2.API接入

3.提供模板定制功能


产品优势

1.处理速度快

2.人脸融合度高

3.模板可自定义


03


图像风格化&超分辨率(API)

除了对人体、面部等为基础的特效美化处理,我们提供了针对各种图像种类上的渲染能力。图像风格化不仅提供了特效渲染,还提供了两张图片的风格化的融合。超分功能可以对图片和离线的视频进行超分处理。目前两种功能都是以API方式接入,在云端完成处理,降低了本地终端性能消耗。



功能描述

1.支持图片方式

2.API接入

3.支持风格融合图像风格化产品优势:

4.处理速度快

5.云端完成处理,降低终端性能消耗

6.易集成


超分功能描述:

1.支持图片和离线视频

2.支持2-4倍的超分处理

3.API接入超分产品优势:

4.云端完成处理,降低终端性能消耗

5.易集成


04


3D虚拟形象驱动

基于人脸检测、3D建模、3D模型驱动等多项算法技术,同时配合52套BlendShape表情系数,实现了3D虚拟形象驱动特效。可实时驱动3D形象与用户进行相同的面部表情动作,完成人机互动。在设计虚拟形象上,需要设计52套3D形象表情与52套BlendShape3D模型进行绑定,并进行精细化调整匹配。应用于在线教育、虚拟社交、短视频等场景。



功能描述

1.3D全套算法sdk

2.52套BlendShape表情系数

3.支持实时视频处理

4.免费提供男女形象各1个

5.支持形象定制


产品优势

1.抖音同款算法

2.抖音同款形象

3.形象加载速度快

4.面部表情跟随稳定

5.形象加入动态效果


05


3D AR扫一扫

基于3D渲染算法、特征识别等技术实现对指定物体扫描识别,并触发对应3D动态效果。可定制物体、文字、图像、Logo等多种特征源和对应3D特效,可广泛应用于市场推广(线上线下)、广告机、展会活动



功能描述

1.模型识别算法

2.3D动态渲染算法

3.支持定制特征源

4.支持定制3D素材(动态、静态)


产品优势

1.识别速度快

2.识别准确率高

3.AR效果自然逼真


识别系列


01


身份认证&活体检测


线上身份认证、设备登录或人流统计。

线上身份认证服务实现证件OCR和脸部核验功能,用于直播/互金/电商/游戏/招聘等智能终端登录、人流统计,如目前合作的场景鹿广告机、海尔冰箱、海信电视。


02


人像聚类&场景分类

人像聚类:

基于人脸识别等技术实现识别相册中照片的人脸,然后照片可根据人脸进行自动聚类。常用于智能手机相册,相册APP等。

目前在调研阶段,对外时间待定。



场景分类:

基于深度学习算法等技术实现识别相册中照片的场景,然后照片可根据场景属性进行自动聚类。

图片支持22个小类,1300多个大类。视频支持88个场景的自动聚类。


客户案例




01

字节跳动是怎么做用户增长的



02新办公安全

新办公安全——从碎片化到All in One



03

流量时代:字节跳动A/B测试的思考与实践







END





【声明】内容源于网络
0
0
数智PARK
专注企业数字化转型,多年实战经验,赋能组织进化。
内容 100
粉丝 0
数智PARK 专注企业数字化转型,多年实战经验,赋能组织进化。
总阅读50
粉丝0
内容100