AI换脸的兴起意味着图像技术日趋成熟，同时也面临 “AI 黑产”带来的系列问题。
在一些使用人脸注册识别场景下，不法分子通过上传AI合成人脸图像企图蒙混过关。一系列“换脸”技术合成的人脸图像很难通过肉眼辨别真伪，加上人脸数据涉及到用户的肖像和个人隐私，篡改人脸数据也将对用户个人信息安全造成威胁。
为了避免 “AI 黑产”所带来的问题，德国慕尼黑工业大学（TUM）联合Google等多家机构共同发布的大规模人脸伪造数据集，用于促进对人脸伪造检测的学术研究，并提升工业界对于人脸防伪业务落地的重视程度。
FaceForensics Benchmark数据集拥有四种业界先进的人脸伪造技术，分别是Face2Face、FaceSwap、DeepFakes和NeuralTextures。这些伪造出来的人脸图像自然逼真，人眼几乎无法辨别真伪，极大地提高了任务难度。
基于此，Facebook举办了首届Deepfake检测挑战赛。在本次比赛中，约2114名参赛者提交了超过3．5万个Deepfake检测算法参加比赛，它们需要从大约 10 万个短片的数据集中识别假视频。
为此，Facebook雇佣了3000多名演员来制作这些视频，并利用AI进行了修改，将其他演员的脸粘贴到视频中。
在经过一系列的评比中，最终以65．18％的平均准确率完成本次挑战赛。
Facebook首席技术官迈克 · 施罗普夫（MikeSchroepfer）表示，他对挑战赛的结果感到高兴，这将为研究人员创造一个基准，并指导他们未来的工作。他说：“老实说，这场比赛的成功程度超出了我的预期。”
而在国内，百度在权威DeepFake防伪数据集FaceForensics Benchmark上刷新纪录，以整体检测准确率0．821的成绩超越SOTA，取得第一名的成绩。
