中美团队成功“变脸”骗过AI人脸识别

随着人工智能（AI）技术持续进步，图像辨识系统已经广泛的在生活中存在．一些设备也开始运用了脸部辨识技术来进行身份认证，但这项技术的安全性真的是无懈可击吗？

正如同先前迷幻贴纸、棉花田演唱会图片的研究，研究人员正试图透过测试任何潜在的黑客手段，让图像辨识技术能够更加安全，而来自中美两国研究团队近日则在 arXiv 平台上公布了一篇论文，详细介绍了他们发现如何欺骗“脸部辨识”应用的细节。

▲ 帽子中放置的红外线 LED。（Source：Zhe Zhou）

其实团队的概念非常简单，要欺骗脸部辨识应用，最直接的就是为受辨识者“替换”一张脸。为了达成这一点，团队先是运用深度神经网络解读一些人物脸部图像，再透过棒球帽中连接的微型红外线 LED，将解读过的人脸图像运用无数个红外线光点投射到受辨识者脸上，进而达成掩盖身份的效果。

而当然，由于投射的是其他人的脸孔，只要概念成功，在以脸部辨识系统做为身份认证的前提下，让受辨识者冒充他人身份也是可以做到的。

为了检验这项理论，研究团队选择了 4 张随机照片尝试欺骗脸部辨识软件，其中也包含了美国音乐人魔比（Moby）的照片。研究人员在实验中发现，只要受辨识者与投射脸孔来源长相有些微的相似，这个欺骗脸部辨识系统的成功率约可达到 70％。

▲ 下方第一列数字指的是受辨识者与投射脸孔来源对象的距离，第二列则是理论上应用后的差距，第三列则是实际差距。（Source：Zhe Zhou）

由于红外线（Infrared）是一种非可见光，人们单凭肉眼并无法察觉，同时贴在帽沿内侧的 LED 体积也非常小，甚至也可以藏在其他穿戴物中使用，即使有着人类保全也很难察觉系统被欺骗的情况，这让被利用的可能性又更加提升。

当然必须提及的是，这只是一个小型研究还未经过同行评审，因此可能存在一些争议，但基于这些研究结果和测试，团队认为以身份认证或监控关键场景的需求来说，现今的脸部辨识技术距离安全可靠还有很长一段距离。