全新识别技术亮相“换脸”也逃不过数字侦探法眼

人工智能技术合成的假视频已经达到可以被伪造的程度。美国国防部建立的研究项目现在已经开发出第一批识别这些假视频的工具。

制作假视频最常见的技术是使用机器学习技术将一个人的脸变成另一个人的脸。由此产生的视频，也被称为深度锻造视频，不仅制作简单，而且栩栩如生。经过熟练的视频编辑人员的进一步调整，它也可以使它看起来更真实。

深度伪造视频使用一种称为“生成建模”的机器学习技术，这种技术允许计算机在生成具有统计相似性的虚假实例之前从真实数据中学习。最新的深度伪造技术有两个神经网络——生成对策网络(GAN)，这两个网络一起工作产生更有说服力的伪造视频。

美国国防高级研究计划署(DARPA)已经建立了一个“媒体验证”项目，以开发能够识别深度伪造视频的工具。该项目最初旨在实现现有认证工具的自动化，但最近它已将重点转向人工智能生成的假视频。项目负责人马修·卡克说，研究人员在甘操纵的图像和视频中发现了微妙的线索，使他们能够检测到变化。

奥尔巴尼纽约州立大学的陆思伟教授领导的团队开发了一种非常简单的识别技术。研究人员观察了深度伪造的视频，发现GAN技术生成的人脸很少眨眼，一旦眨眼，眼球运动就不自然了。这是因为深度伪造视频是基于静止图像的训练生成的，并且静止图像的眼睛通常是睁开的。

参与DARPA媒体认证项目的其他团队也在探索类似的技术来自动捕捉深度伪造的视频，比如奇怪的头部运动和特殊的眼睛颜色。

达特茅斯大学的数字法医专家汉尼拔·费特(Hannibal Ferret)认为，视频伪造者和数字侦探之间的人工智能游戏才刚刚开始，机器学习系统经过培训后通常会超越新的法医工具。卢思伟说，熟练的伪造者可以通过收集显示一个人眨眼的图像来绕过这个人的眨眼工具，但是他的团队现在已经开发出一种新的更有效的技术，这种技术比伪造者略胜一筹。(冯卫东)