Facebook 竞赛结果显示：准确检测深度造假视频的能力尚无人具备

Facebook公布了第一届Deepfake Detection Challenge（深度伪造检测挑战赛）的结果，这是一场算法的公开竞赛，目的是能够发现人工智能操纵的视频。结果虽然很有希望，但显示在自动化系统能够可靠地发现深层造假内容之前，还有很多工作要做，研究人员将这个问题描述为 “未解决的问题”。

Facebook表示，在比赛中获胜的算法能够发现挑战现实世界的深度伪造视频，平均准确率为65.18%，尽管还不错，但这不是你想要的任何自动化系统的准确率。

事实证明，深度伪造视频对于社交媒体来说是一种夸张的威胁。虽然这项技术引发了人们对视频证据的怀疑，但到目前为止，深度伪造视频的政治影响微乎其微。相反，更直接的伤害是非自愿的色情内容产生，这一类内容对社交媒体平台来说更容易识别和删除。

Facebook的首席技术官Mike Schroepfer在新闻发布会上告诉记者，他对挑战赛的结果很满意，他表示，这将为研究人员建立一个基准，并指导他们未来的工作。约有2 114名参赛者向比赛提交了35000多个检测算法，测试他们从约10万个短片的数据集中识别深层假视频的能力。Facebook雇佣了3000多名演员来制作这些片段，他们在自然环境中进行对话的记录，有些片段是用人工智能改变的，让其他演员的脸贴到他们的视频上。

研究人员被允许访问这些数据来训练他们的算法，当对这些材料进行测试时，他们产生的准确率高达82.56%。然而，当同样的算法对由未见过的镜头组成的 “黑盒 “数据集进行测试时，它们的表现要差得多，得分最好的模型准确率为65.18%。这表明在野外检测深度造假视频是一个非常具有挑战性的问题。

Facebook目前正在开发自己的深度造假视频检测技术。该公司在今年早些时候宣布禁止Facebook用户发布深度造假视频，但批评者指出，虚假信息更大威胁来自所谓的 “浅层假货”，使用传统手段编辑的视频。本次挑战赛的获胜算法将作为开源代码发布，以帮助其他研究人员，但Facebook表示，将对自己的检测技术保密，以防止其被反向工程。

（稿源：cnBeta，封面源自网络。）