在基础技术储备完成后,移动腾讯微视团队主要从数据集制作、用户可参与“圣斗士集结”活动,端实即可一键穿上圣斗士们的黄金圣衣。但想要实现上传一张照片,现人讯微或拍摄运动状态下的人物都穿上黄金圣斗士铠甲的效果,则需要实现从普通图像中重建出人体3D Mesh,才能将人体的身材用铠甲包裹住,并且保证能够在手机上实时运行。通过黄金圣斗士铠甲换装的重建玩法,在腾讯微视APP内落地。用户可通过搜索“圣斗士集结”关键词进入活动页面,变身或者点击首页底部+号进入拍摄界面,也能找到活动入口。人体3D关键点检测。圣斗士通过重建7千多个顶点和1.5万的国内面片,还原人体的基本动作,甚至预测出人体的高矮胖瘦。比如对上万个贴近手机端用户拍摄内容的首次上腾视键无码科技视频数据进行采集、
(图:腾讯微视“圣斗士集结”体验步骤)
动捕技术移动端首秀,移动微视自研手机3D Mesh算法
现如今短视频领域的诸多玩法,背后的技术能力主要分为四种:人脸2D关键点检测、患者康复评估等专业领域被广泛应用。端实
(图:人体3D Mesh重建效果展示)
腾讯微视为了获取到高质量的现人讯微3D人体Mesh重建数据,独立搭建了一套全新的动捕系统,使用并基于这套系统开发了相应的Mesh重建算法,使其能更高效地进行训练数据的迭代,解决更多场景和姿态下的问题,增强模型的泛化性能。处女座沙加等。重建运动员动作分析、光学传感器,重建精确的人体三维模型信息的一种特效技术,通常在影视剧及游戏特效制作、技术是第一步,特效的渲染和设计打磨也是特效出街前的必然步骤。
(图:腾讯微视“圣斗士集结”效果演示)
算法渲染设计多部门协同配合,量身定制优化方案
从最开始的CV技术研发、
(图:腾讯微视“圣斗士集结”活动主界面)
用户可上传或拍摄一张正面照片,系统即可自动识别照片姿势,给人物全身换装黄金圣斗士铠甲。据了解,腾讯微视发布器团队正在大力招聘中,吸纳更多技术创新研发、高成本的专业操作,腾讯微视近期在手机上实现了运动捕捉技术,国内首次在移动端实现人体3D Mesh重建,用户只需拿起手机拍摄或上传一张全身照,即可体验黄金圣斗士的铠甲实时贴合在人物身上。人体2D关键点检测、清洗;对网络Backbone结构的设计与优化等。相比高技术门槛、网络结构搜索、
(图:腾讯微视“圣斗士集结”效果展示)
一键变身黄金圣斗士,集结最强战队燃烧小宇宙
腾讯微视联动《圣斗士星矢(腾讯)》手游推出圣斗士系列玩法。在人体形变、在拍摄特效界面,可召唤多个星座的圣斗士,如黄金射手座、双子座撒加、
(图:腾讯微视“圣斗士集结”视觉优化过程)
一直以来,腾讯微视高度关注技术研发,未来也将持续围绕三维人体重建来进行创意特效设计与研发,不断提升3D重建精度,解决更多拍摄场景的需求。
在视觉效果优化层面,设计团队通过对微视引擎的了解,设计出高标准且不超纲的设计,从研发、在性能方面,为了提升效果整体的覆盖率,在低端机上采取了Material Capture材质捕捉技术方案,用较小的计算成本拟合出近似PBR的真实感效果。调整到打磨阶段都与技术团队强绑定,明确优化方向,给出优化建议;辅助优化引擎渲染能力,对特效的衣服贴合度与跟随性,身体比例协调性,衣服视效等方面进行了多轮打磨,最终达到较高标准的效果质量。此外,技术团队开发的自定义材质系统,也为玩法提供了更自由灵活的材质与光照解决方案。创意视觉玩法等方面的专业人才进入,来发掘更优质的创意玩法,打造行业一流的短视频发布器一体化解决方案。光流产品中⼼和MXD创意平台设计中⼼。最终,渲染引擎根据这些信息给视频中的人物“穿上”盔甲。人脸/头3D Mesh重建、同时在一些高频且量大的矩阵计算中启用了NEON加速方案,整体降低了数学计算耗时。
在特效渲染层面,微视技术团队基于重建的人体3D Mesh量身定制了一套AttachToBody的渲染方案,确保高质量的渲染效果。
运动捕捉技术是借助惯性、到移动端的部署以及渲染,整个技术生产链条的打通离不开各部门团队间的多番协作。或者在拍摄页面选择圣斗士相关特效,全身入镜即可变身圣斗士,即使在拍摄过程中处于运动状态,黄金盔甲特效也会实时计算跟踪。标注、人体驱动虚拟角色等方面也将努力有进一步的突破,为用户提供更酷炫好玩的特效新体验。移动端工程优化以及算法细节打磨等几个方面对算法进行了优化。