「面部动作捕捉」是一项什么技术?主要应用于哪些场景?

Xsens动作捕捉 2022-10-16 15685

一、概述

面部动作捕捉技术,这个名词从字面意义上来说,很容易理解。我们先通俗地讲一下这项技术的意义:不管是电影、动画还是游戏,制作者总是希望这些形象能够保持自己应有的虚拟特色,但是呢,又希望尽可能地使其中的人物形象逼近真人(比如说角色不经意间的一个表情,随手表现出的一个微小动作)。

要达到上述目标,就得依靠面部捕捉技术来跟踪捕捉真人表演者的一举一动,再通过计算机技术合成出想要的虚拟人物。

「面部动作捕捉」是一项什么技术?主要应用于哪些场景?  第1张


二、会在哪些场景用到它?

1.首先想到的,肯定是电影动画。

最近出来的《阿丽塔战斗天使》,就是动作捕捉技术的最新展示。


在该电影中,阿丽塔完全是通过对演员的动作捕捉后进行CG制作的一名角色,通过对饰演阿丽塔的演员罗莎·萨拉查在片场与所有演员一起进行表演、互动的动作捕捉,尽最大可能将阿丽塔在日常生活中的每一个细微的动作与表情都如实记录下来。

「面部动作捕捉」是一项什么技术?主要应用于哪些场景?  第2张

在片场扮演阿丽塔的罗莎·萨拉查(Rosa Salazar),连牙齿都进行了扫描。

「面部动作捕捉」是一项什么技术?主要应用于哪些场景?  第3张



利用“面部行为编码系统”(Facial Action Coding System,简称FACS)来采集演员的各种不同表情;比如喜怒哀乐、每个又分不同程度等等,总之越多越精细越好。最终,等于构建了一个该演员的全表情库


「面部动作捕捉」是一项什么技术?主要应用于哪些场景?  第4张


眼睛的动态效果,不是采用关键帧重新描绘的方式,而肯定有事先构建好的眼睛生理结构模组;只要对照高清镜头下演员的眼睛动作和表情变化,适当调整一些参数,就能让数字眼球匹配真人反应

「面部动作捕捉」是一项什么技术?主要应用于哪些场景?  第5张

2.游戏制作领域


「面部动作捕捉」是一项什么技术?主要应用于哪些场景?  第6张



现在流行的大型3d游戏,几乎都会用到面部动作捕捉技术,因为越来越多的游戏开发商意识到,逼真的游戏人物会吸引大量的游戏玩家。

比如《使命召唤》系列,游戏人物的面部表情细腻,几乎与真人无异。


「面部动作捕捉」是一项什么技术?主要应用于哪些场景?  第7张

(在游戏中扮演海军陆战队中士奥马尔的演员大卫·海伍德正在与主角制定作战计划。强大的面部捕捉技术将演员的每个表情都完美复刻在游戏当中,细腻程度几乎与真人无异)



「面部动作捕捉」是一项什么技术?主要应用于哪些场景?  第8张



「面部动作捕捉」是一项什么技术?主要应用于哪些场景?  第9张





3.安防领域

“9.11”恐怖事件后,全球安保和防恐意识迅速得到提升,而现在的人脸检测系统,实际上就用到了面部识别技术。

面部捕捉单元从视频图像流中查找类似人头外形的图片,一旦确认定位的图形是人头,面部捕捉单元试图确认人的面部,若面部存在,生成标准的面部图片。图像处理单元对相同的标准图片进行筛选,选出质量好的图片进行加工处理,生成面部特征信息,也就是图片的数字解释。

系统比对单元利用生成的面部特征数据和数据库中的面部特征数据进行比对,比对成功与否,系统依据不同的应用领域,都会作出相应的提示。


「面部动作捕捉」是一项什么技术?主要应用于哪些场景?  第10张



4.换脸………………

像Pornhub这样的网站正半心半意地努力阻止色情视频的出现,但那些把一名女演员的脸换成另一名女演员的色情作品(Deepfakes)却正在成为新兴行业。


「面部动作捕捉」是一项什么技术?主要应用于哪些场景?  第11张



三、原理

动作捕捉将演员的运动传递给数字角色。使用跟踪摄像机(有无跟踪点均可)的系统可称为“光学动作捕捉”,而基于测量惯性和机械运动的系统则是“非光学动作捕捉”。后者的一个例子是XSens MVN惯性动作捕捉服,Seth Rogan借此表演《保罗》中的外星人。


「面部动作捕捉」是一项什么技术?主要应用于哪些场景?  第12张



光学系统通过在三维坐标系中跟踪标记点或特征区的位置,并整合这些数据来近似获得演员的运动。主动式系统使用的标记点会亮光或闪烁,而被动式系统则使用静态的物体,例如白球或颜料点(后者常用于面部捕捉)。无标记点系统使用类似于运动匹配(match-moving)软件的算法来跟踪特定的特征,例如演员的衣服或鼻子,而无需标记点。一旦捕捉到运动,数据可以通过Autodesk MotionBuilder之类的软件映射到动画角色的虚拟“骨骼”上。然后呢?动画角色自然就像真人演员一样动起来了。



四、采用该技术生产影视剧的流程


以 VICON 的1600万像素运动捕捉系统为例,其运动捕捉技术用于动画生产的应用

流程应主要包括如下几点:

  1. 根据表演的人数设定运动捕捉摄像单元的数量和排列分布。一般来讲,捕捉一位演员需要6个运动捕捉单元。
  2. 捕捉前的准备和校准工作一定要做好,有效去除现场的杂散光干扰可以减少后期数据处理的工作量,也能得到更高的数据精度。
  3. 捕捉时要尽可能做到面部捕捉和身体捕捉同步进行,并且尽可能同期录音 (同期录音是口型匹配的最佳手段)。电影制作是需要精益求精的,关于面部捕捉、身体捕捉和声音同步采集的技术,还有待进一步提升,现有的技术解决方案还不够完美,大多还要依赖于工作人员的手动匹配和经验。
  4. 数据修补和处理。以 VICON 面部捕捉和身体捕捉为例,需要不同的软件对面捕数据和全身捕捉数据进行处理 (主要是处理位置点遮挡等原因造成的目标点数据丢失),经验丰富的工作人员处理起来较好,可以预先根据动画的需要进行少量位置点的关键帧设置,简化 下一 动 画环节的工作量,经验不丰富的新手则会耗费大量的时间,最终处理的数据很难直接引用。
  5. 动捕数据全部处理完成后,根据相应的时间码信息将数据输出并导入至三维动画软件,比如 MAYA。动画师再写出程序,将数据直接赋予到预先做好的 CG 人物身上,检查后再修补动画继而交付下一环节。


五、动作捕捉技术的前世今生


  1. 动作捕捉技术最早可以追溯到 1915 年,动画大师 Max Fleischer 研发一种叫做“Rotoscope”的技术设备,属于现代动作捕捉技术的雏形。


oscope 本身是由放映机和人工处理结合的动作捕捉系统,放映机将胶片内的画面投影到墙上,画家就照着投影一帧一帧画出来。那时的投影即表演的主体,而画师则是捕捉系统。由这样画出的动画更加逼真。之后的第一部动画长片《白雪公主》就是这样制作出来的。



「面部动作捕捉」是一项什么技术?主要应用于哪些场景?  第13张


2.

动作捕捉系统的第一次使用是在 1990 年的影片《宇宙威龙》中。片中施瓦辛格饰演的主角通过 X 光扫描射线的时候,携带的武器被发现,其骨骼运动的动画如此逼真,原因只有一个,就是动作捕捉技术在这里的运用。这个细节片段在今天看其实相对简单,因为这里需要的只是平面效果,所以实际需要处理的数据只涉及二维层面。

动作捕捉系统的第一次使用是在 1990 年的影片《宇宙威龙》中。片中施瓦辛格饰演的主角通过 X 光扫描射线的时候,携带的武器被发现,其骨骼运动的动画如此逼真,原因只有一个,就是动作捕捉技术在这里的运用。这个细节片段在今天看其实相对简单,因为这里需要的只是平面效果,所以实际需要处理的数据只涉及二维层面。动作捕捉系统的第一次使用是在 1990 年的影片《宇宙威龙》中。片中施瓦辛格饰演的主角通过 X 光扫描射线的时候,携带的武器被发现,其骨骼运动的动画如此逼真,原因只有一个,就是动作捕捉技术在这里的运用。这个细节片段在今天看其实相对简单,因为这里需要的只是平面效果,所以实际需要处理的数据只涉及二维层面。



「面部动作捕捉」是一项什么技术?主要应用于哪些场景?  第14张



3.

真正出现全片大规模使用动作捕捉技术的影片是 2001 年的动画片《最终幻想 :灵魂深处》。该片是首次实现全程运用动作捕捉的电影,而片中所有角色都采用了动作捕捉技术。之后类似的电影有《极地特快》《贝奥武夫》《圣诞颂歌》《丁丁历险记》等。真正出现全片大规模使用动作捕捉技术的影片是 2001 年的动画片《最终幻想 :灵魂深处》。该片是首次实现全程运用动作捕捉的电影,而片中所有角色都采用了动作捕捉技术。之后类似的电影有《极地特快》《贝奥武夫》《圣诞颂歌》《丁丁历险记》等。



「面部动作捕捉」是一项什么技术?主要应用于哪些场景?  第15张




4.

在 2001 这一年还有一部大片采用了动作捕捉技术,尤其是之后还因此获得了奥斯卡最佳男配角奖,这部电影便是赫赫有名的《指环王》。其实当年以传统模型和道具为主的维塔工作室实力并不能和工业光魔相比,但演员安迪·瑟金斯的精湛表演促使导演决定使用该技术,以求能将咕噜这个神奇的角色真实的搬上银幕。


「面部动作捕捉」是一项什么技术?主要应用于哪些场景?  第16张



「面部动作捕捉」是一项什么技术?主要应用于哪些场景?  第17张



5.

5.真正突破性的,是《黑客帝国 2》和《黑客帝国 3》。真正突破性的,是《黑客帝国 2》和《黑客帝国 3》。突破性的,是《黑客帝国 2》和《黑客帝国 3》。真正突破性的,是《黑客帝国 2》和《黑客帝国 3》。

电影中,特工史密斯将人瞬间改造成自己,这需要众多演员的面部替换。就此该片在表情捕捉技术方面创造了一个奇迹——无需面部跟踪点。


该技术大致分为五步。

第一步先用 5 台高清摄像机同步拍摄演员雨果·维文的面部表情并存储。


第二步采用光流照片测量技术,该技术可以追踪每个像素点在不同机器的位置,后将其结果与一个中度精细的模型相结合,处理为每个像素点与模型的点相匹配,从而获得其运动轨


鉴于光流照片测量技术可能出现匹配错误,这需要第三步的关键帧修改并且删除头部整体运动只保留表情。


第四步的任务是制作一个精致的头部雕塑,因为面部没有跟踪点,所以可以根据照片描绘出精致的皮肤表面。


最后一步,是贴层并且将动画渲染。虽然该技术打破了面部跟踪点的传统形式,但本身成本过高,其效率也不高,所以并没有深入发展。




「面部动作捕捉」是一项什么技术?主要应用于哪些场景?  第18张





6.
2009 年获奖作品是《阿凡达》,该片凭借将3D、虚拟与动作捕捉技术结合,近乎完美的创造了潘朵拉星球,从而创造了电影史上最为绚烂的画面。可以说,到《阿凡达》这里,无论是动作捕捉技术还是电脑 CG 都达到了一个新的巅峰,以至于在其后的几年里很难再找到哪一部影片在这两个领域里有所突破。



「面部动作捕捉」是一项什么技术?主要应用于哪些场景?  第19张



「面部动作捕捉」是一项什么技术?主要应用于哪些场景?  第20张



7.一直到今天的《阿丽塔战斗天使》


「面部动作捕捉」是一项什么技术?主要应用于哪些场景?  第21张

The End