至少那是恐惧。在人眼中，事实是深造货仍然相对容易发现。根据网络安全公司DeepTrace Labs在2019年10月的报告(迄今为止仍是最全面的)，它们尚未用于任何虚假信息宣传活动中。然而，同一份报告还发现，在线发布的Deepfake数量迅速增长，在过去的七个月中出现了大约15,000个。这个数字现在将会更大。社交媒体公司担心，假冒产品可能很快会淹没他们的网站。但是很难自动检测到它们。为了解决这个问题，Facebook希望使用AI来对抗AI产生的假货。为了训练AI来发现操纵的视频，它发布了有史以来最大的Deepfake数据集-使用3,426名演员和一系列现有的面部交换技术制作了超过100,000个剪辑。
Facebook的首席技术官Mike Schroepfer说：“ Deepfakes目前不是什么大问题。”“但是，过去几年我学到的艰难教训是，不要一flat而就。我想为很多从未发生过的坏事情做好准备，而不是反过来。”
Facebook还宣布了其Deepfake检测挑战赛的获胜者，其中2,114名参与者提交了根据其数据集训练的大约35,000个模型。最好的模型是由地图公司Mapbox的机器学习工程师Selim Seferbekov开发的，当在10,000个以前看不见的剪辑集(包括混合的新视频)中进行测试时，能够检测到视频是否具有65%的准确度。由Facebook和现有的互联网生成。
使事情变得更困难的是，训练集和测试集包括检测系统可能会混淆的视频(例如，提供化妆教程的人)以及通过在讲话者的脸上粘贴文本和形状，更改分辨率或方向，并放慢速度。
与其学习法医技术(如在Deepfake生成过程中留下的视频像素中寻找数字指纹)，不如人类发现的那样，排名靠前的五个条目似乎已经学会了在事物看起来“偏离”时发现。
为此，获奖者都使用了Google研究人员去年开发的新型卷积神经网络(CNN)，称为EfficientNets。CNN通常用于分析图像，并且擅长检测人脸或识别物体。但是，要提高其精度到一定程度以上，可能需要进行特殊的微调。EfficientNets提供了一种更结构化的调整方法，使开发更准确的模型变得更加容易。Seferbekov说，但是究竟是什么使它们在此任务上胜过其他神经网络，尚不清楚。