阿里安全新一代安全架构核心AI技术获国际顶会认可

【TechWeb】8月19日消息，近日，阿里安全图灵实验室宣布，其已成功打造出多人换脸视频的DeepFake检测技术，阐述该技术的论文被国际学术顶会ACMMM2020收录。

DeepFake检测技术具有许多现实应用场景的价值，比如攻击者将不雅视频主角人脸换成目标人脸进行传播等场景时，DeepFake检测技术可“鉴伪求真”，追溯真相。

目前业界针对DeepFake换脸视频的检测方案主要分两类：帧级检测和视频级检测。帧级检测方法标注成本高，还要将帧级预测转化为视频级预测，对融合技术要求高，极易导致漏检或误检，视频级检测研究过多专注于按照时序构建的检测模型，导致检测效果受到一定限制。

阿里安全图灵实验室算法工程师向溪介绍，为更好地检测部分篡改的DeepFake视频，阿里安全图灵实验室提出了一种全新的检测方法，这种方法标注简单，并能帮助神经网络更好地学习人脸特征，实现更好的检测效果。

阿里安全图灵实验室还发现了攻击者篡改视频时露出的马脚，由于攻击者对视频实行单帧篡改，导致同一人脸在相邻帧上会有一些抖动，因此研究人员设计了新检测模块来发现这些抖动，辅助识别。

此外，此前业界提出的检测方法多适用于针对单人视频脸部篡改或多人视频所有人脸篡改，阿里安全构建了一个部分攻击数据集，弥补了DeepFake检测数据集在多人脸视频中只对一个人脸或者几个人脸篡改场景里的空白。

图片包含三张人脸，攻击者如果只对一个人的人脸进行DeepFake换脸攻击，阿里安全新技术也可成功检测 图片来源：YouTube

通过技术革新，阿里安全图灵实验室DeepFake检测技术在视频级检测和帧级检测领域均名列前茅。该技术的共同研究者、中科院计算所副研究员王树徽认为，该研究成果对于一般性视频多实例学习与标注技术研究也具有重要启发意义。

今年3月，阿里发布新一代安全架构，致力于从源头防范安全威胁，构建安全体系，并打造数字基建安全样板间，阿里安全研发的DeepFake检测技术作为新一代安全架构的核心AI技术，为数字基建的安全建设起到重要作用，并成功实现落地应用。

阿里安全图灵实验室资深算法专家华棠介绍称，截止目前，阿里已经将该检测技术使用在内容安全场景中，后续也会在直播场景中进行布局。