人脸识别技术利用基于人脸特征点的算法进行识别，因此人脸特征点是其中一种主要的数据形式。每次你上传一张照片到Facebook、Instagram，或者其他地方，你都会将照片中人的面部特征点和照片中其他物体的特征点提供给这些学习系统。为了解决这个问题，多伦多大学的 Parham Aarabi教授和研究生Avishek Bose领导的研究小组开发了一种算法来动态干扰这项技术。

　　这种技术原理基于“对抗性训练”，本质上是建立起两种相互对抗的算法。Aarabi和Bose创建了两个神经网络，一个是识别人脸的网络，另一个是破坏其既定目标的神经网络。这两个网络互相学习，相互提升效果。Bose在接受EurekaAlert的采访时说：“具有破坏性的人工智能可以‘攻击’人脸识别时神经网络所寻找的东西。例如，如果检测AI正在寻找眼角，它会调整眼角，这样眼睛就不那么明显了。它会在照片中产生非常细微的干扰，但对探测器来说，这些干扰足以愚弄整个系统。”

　　在实践中，这意味着用户可以使用一个过滤器（比如Instagram或Snapchat上的普通视觉过滤器），改变图像中人眼无法察觉的特定像素，使人脸识别技术失效。在一个包含600多张不同种族、光照和环境的人脸图像的测试集上，该系统能够将可检测的脸从100%降低到0.5%。

　　（来源：麻省理工科技评论）

本文刊载于《中国教育网络》杂志2018年7月刊