用假AI换脸技术真的没有破绽吗？

制作:遥远的科普

监制:计算机网络信息中心

从围棋里战无不胜的“阿尔法狗”到铺天盖地的“人脸识别”，机器学习给人们的生活带来了翻天覆地的变化。然而，随着AI技术的不断发展，主要展现“智能变脸”成果的Deepfake技术给大家的生活带来了更多的烦恼。

2018加蓬总统阿里·邦戈因中风从公众视野中消失数月。为了安抚人心，政府公开了总统在新年录制的新年致辞。这个新年致辞是由Deepfake技术生成的，但这个视频不仅没有安抚民心，还让军方高层发现了异常，最终导致兵变。在此次事件中，“AI变脸”技术成为干扰政治选举、降低政府公信力的一大推手。

在很多人的印象中，Deepfake技术似乎走在社会的阴影里，除了有需要的人可以看到AI变脸的色情视频。

对于普通人来说，Deepfake技术可以说是货真价实，无懈可击。我们真的分不清网上流传的视频真假吗？

放心吧，俗话说“魔高一尺，道高十丈。”在专业人士手中，通过细致的计算机分析，可以分辨照片和视频的真伪，让Deepfake技术处理过的内容“原形毕露”。

要了解Deepfake技术是如何被识破的，首先要了解Deepfake技术是什么。Deepfake是深度机器学习和假照片结合的一个词，可以理解为假照片、假视频等为深度机器学习制作的虚假产品。最常见的应用之一就是“AI换脸”，即将一个人的脸移植到另一个人的脸上。

在换脸的时候，机器首先需要识别人脸的位置。人脸识别和标定也广泛应用于自动驾驶等领域，目前发展非常成熟，识别率在98%以上。

换脸用的材料往往和视频中要换的脸不一样，他们的面部朝向和面部表情也往往不一样。所以机器在识别人脸位置后，还要进一步校准人脸。通过寻找面部特征鲜明的区域，机器可以确定每一帧中面部的朝向和表情，然后将换脸视频中要插入的面部与素材进行匹配。

匹配完成后，变脸技术并不是简单的把变脸材料贴在被改变人的脸上。单纯的映射很容易被肉眼识别，很难达到“以假乱真”的效果。Deepfake技术可以进一步学习原理，可以和人类行为进行对比。

如果你盯着A面100小时，那就看B面的图；接下来，让你凭记忆画出B的脸。无论你的技术水平有多高，最终都会画得像A的脸。所以，当我们训练机器学习用A面的元素画B面的时候，就可以逼真地把A面“画”到B面上。

机器学习的变脸视频和照片都那么逼真，那么Deepfake技术有哪些缺陷呢？

中国有句古话叫“想让别人知道，就要为自己做点什么”。变脸技术的破绽在于面部材质的细节。Deepfake技术利用A面的元素绘制B面，是A面元素的精致拼接。而这种拼接的过程必然无法完美符合真实情况。

纽约布法罗大学的计算机科学家从人脸上最精致的元素“眼睛”入手，实现了Deepfake技术的筛选。

这项技术的核心原理是基于眼球反射。当外界环境的光线照射到眼睛上时，会在角膜上反射并产生图像。在真实照片中，两只眼睛看同一个物体会有非常相似的反射图案。但是在Deepfake合成的照片中，两只眼睛的反射内容往往并不协调。很可能左眼“看到”一只小狗，右眼“看到”一辆卡车。检测机首先提取两只眼睛反射的内容，然后检测左右眼的反射内容和反射光强度等参数是否协调，从而识别照片和视频是否经过合成。该方法已被证明具有94%的实验有效性。

此外，常见的检测方法包括:

(1)从视频的2D图像估计三维姿态。在Deepfake技术合成的视频中，三维姿态可能会突然发生很大变化。举个例子，如果视频中的人上一帧还在胸部呼吸，那么下一帧就会很快变成一种沉胸吐气的状态，也就是说这个视频一定是合成的。

(2)在处理视频时，通过Deepfake技术捕捉图像失真在环境中产生的“伪影”。

(3)捕捉左右虹膜颜色不同、光照与阴影不协调、几何建模误差等缺陷。

(4)根据名人的行为习惯，检测是否有相应的独特行为特征(如摸鼻子、歪嘴等。)视频中。

在不断发展的过程中，Deepfake的检测技术仍将面临诸多挑战。

第一点，有些技术本身需要一定的信息量。比如前面提到的眼球反射检测技术，如果视频中没有两只眼睛同时出现，就无法应用。对于虹膜颜色检测，在视频质量较低的情况下也很难使用。

第二点，检测技术和换脸技术是一个“不断发展，相互竞争”的过程。比如上面提到的捕捉到的光照和阴影不协调的问题，换脸者可以在换脸的时候使用更多的资源来模拟和渲染光照，从而保证阴影生成的质量。从这个角度来看，探测和变脸技术就像一场“有本事你来抓我”，它们不断迭代，你追我赶。今天的检测技术提出用眼球的反射光来检测，明天的变脸技术也可以把眼球反射光的模拟放到学习内容里。检测技术必须不断更新，才能跟上Deepfake技术的发展。

第三点是检测技术离自动化还很远。现有的检测技术耗时较长，在用户上传视频的同时，很难在短时间内自动完成检测和审核。距离实用的自动Deepfake检测软件还有一段路要走。

第四点，目前对于Deepfake技术还没有完善的监管。对于什么样的Deepfake视频是恶意违法的，每个视频平台都有自己的定义规则。同时，目前还没有关于Deepfake技术的相关法律。这给Deepfake视频的检测和控制带来了很多困难。

虽然Deepfake的检测技术还存在很多挑战，但是我们相信随着AI技术的不断发展，相关的法律法规会逐步完善，针对Deepfake的检测技术会越来越准确高效。总有一天，虚假视频会在检测技术的“慧眼”下，全部露出原形。钻技术漏洞，滥用Deepfake技术，迟早要受到惩罚。

参考