跟着人工智能的飞速开展，不少人使用所谓的Deepfake黑科技制造出虚伪视频，这种视频换脸技能引起了业界的激烈忧虑。

　　正如他们所称的那样，Deepfake是数字虚伪信息不断演化的最新的——也许是最令人不安的——体现。修正图画早已有之，而篡改音频的办法也在不断改进。直至最近，修正视频一向很费力，需求很多的专业技能和耐性。可是，机器学习技能的开展却导致该进程不断加快。

　　上一年年末，Reddit平台上呈现了一种新的色，是由一个名叫deepfake的用户上传的。经过机器学习技能，deepfake现已找到了怎么将色情明星面孔换成名人面孔的办法，相关视频引起了颤动。 DeepFake算法随后在GitHub上发布，给任何具有满足专业知识和满足装备核算机的人供给了制造虚伪视频的办法。

　　从那时起，相似的假造视频和相关软件在互联网上如漫山遍野般呈现。尽管有些是相对无害的，但这种变脸东西明显存在负面影响。很简单幻想，一部制造精巧的视频或许会加重紧张局势，引发骚乱或加重违法。人与人之间的相互信任或许会被腐蚀，人们遍及忧虑技能的开展速度现已超出了方针的开展。

　　值得幸亏的是，科学界正在应对这个问题。由纽约奥尔巴尼大学的Siwei Lyu领导的一个团队发现了这些假造视频的缝隙。 DeepFake算法依据馈送的图画创立视频。尽管比较精确，但人工智能一直无法完美再现人类天然发生的一切生理信号。 Lyu和他的团队特别重视一点：眨眼。人类一般每两到三秒就会眨一次眼。但由于人像相片一般不会闭眼，因而经过相片对这些算法进行练习意味着生成的视频中人像很少会眨眼。

　　因而，Lyu和他的团队规划了一种人工智能算法来检测假造视频中哪里不存在眨眼现象。他们的算法——两个神经网络的组合——首要检测出视频中的人像面部，然后对视频中的一切接连人像进行对齐，剖析每一个人像中的眼睛区域。神经网络的一部分决议人像是否闭眼。另一个用作记忆系统，记住帧到帧的改变，以确认是否跟着时刻的推移发生了眨眼。

　　首要，他们在具有睁眼和闭眼人像的符号数据集上练习人工智能。随后，为了对练习成果进行测验，他们自行生成了DeepFake视频集，乃至还做了一些后期处理，让假造视频显得更天然。

　　Lyu解说说，在假造视频的后期处理中手动增加眨眼并不是一个巨大的应战，并且一些假造的视频——包含BuzzFeed上的假造视频——的确包含眨眼。可是他们开发的这种算法，至少有助于阻挠和推迟创立假造视频的进程。 “咱们正在构成第一道防地，” Lyu说， “从长远来看，这实际上是制造假视频和检测假视频之间的继续战役。”

　　这项研讨契合更广泛的尽力。作为其媒体取证方案的一部分，该研讨由国防高档研讨规划局（DARPA）资助，从2016年开端运行至2020年。他们的方针是开发一套东西来查看音频和视频等数字化信息的真实性和精确性。

　　纽约大学(University of New York)核算机科学教授马诺维奇(Lev Manovitch)以为，这也是人工智能之间竞赛日趋激烈的一个比如。 “咱们很清楚，核算数据剖析一般可以检测到人类发现不了的形式，”他解说说，“可是怎么检测另一个人工智能生成的形式呢？咱们将来会看到人工智能之间的 “战役”，就发生在咱们永久不会注意到的细节层面吗？

　　现在，Lyu的团队正在研讨怎么进一步开发技能，以处理比如眨眼频率和继续时刻等复杂问题。未来的方针是可以检测到包含呼吸在内的各种天然生理信号。 “咱们正在十分尽力地处理这个问题，” Lyu说。

　　当然，公共科学研讨的双刃剑是，骗子一旦读过并理解了他们的圈套是怎么被发现的，就可以对算法进行相应的调整。 “从这个意义上讲，他们现已占了优势，” Lyu说， “很难说哪一方最终会取胜。”（晗冰）