近日，一则AI换脸的视频在网络上广为流传，引发广泛热议。视频中，《射雕英雄传》里朱茵饰演的角色，通过AI技术被换成了杨幂的脸，而且整个视频清晰、流畅，完全看不出来是换了脸。
网络上流传的AI换脸视频，《射雕英雄传》中朱茵饰演的角色被换成了杨幂的脸
如此高阶的换脸技术也引来了网友的恐慌，“怎么实现的换脸?如果这一技术被用在其他地方，会怎么样?我会不会被别人假冒了都不知道?”对此，阿里安全图灵实验室高级算法专家觉奥在接受记者采访时表示，换脸技术并不新鲜，很久之前在影视制作中就有，是通过大量人工和计算机图形图像工具来实现，而现在由于技术的发展，纯用技术就能实现完美的换脸。
具体来说，觉奥指出，当前主流的换脸技术是基于深度学习模型的，其核心是一个“自动编码器”，具体而言，通过人脸检测技术，把视频中两个人，比如朱茵和杨幂的脸抓取下来，数量需要几千到几万张，之后训练这一个自动编码器和两个解码器，一个解码器生成朱茵，另一个生成杨幂，训练好以后，输入朱茵的脸就能生成杨幂的脸了。
这一技术的应用会引发何种问题?觉奥表示，除了换脸引发的道德和伦理问题，黑灰产利用AI换脸，是目前常见的一种攻击手段，“在人脸识别系统中，识别换脸的技术叫活体检测技术，这是一个攻防对抗技术，即用AI的手段来解决AI的攻击。”
用户在体验阿里安全实验室带来的“实人认证-酒店入住核身”技术
举个例子，2017年11月下旬，阿里安全图灵实验室就发现，有犯罪团伙通过3D软件控制人脸照片进行攻击操作，共发起过几百次攻击，导致近百名受害人驾照分被盗刷。通过3D合成“假脸”认证账号注册或登陆后，黑灰产人员可在受害人毫不知情的情况下，用于黑卡虚假注册、刷单、薅羊毛、诈骗等不法行为。
阿里安全图灵实验室基于安全AI的方法来很好地解决这一攻击问题。“通过深度学习技术，训练模型，来通过两者的纹理、肤色、反光等特性的不同而识别出来。”觉奥表示，可实现在毫秒级时间内揪出假人脸，目前识别准确率达到99.9%。
“这几年，由于深度学习的迅猛发展，攻、防的技术都在不断进步，这是一个持续、动态对抗的过程，我们有信心和能力做好。”觉奥表示。
当前，无人驾驶、人脸识别、智慧城市、智能家居等各类场景中都在运用AI，包括人脸识别系统，但一旦后端控制系统被攻击，出现规模化、连锁式的崩盘，AI失控的后果不堪设想。阿里安全图灵实验室于今年年初提出了安全AI的概念，包含AI本身的安全性、用AI手段去解决安全问题和强对抗场景下诞生的新一代AI，希望提升行业对这一领域的关注，并推动AI更好的发展。
