反人脸识别花样多 实际应用路还远
从网上支付、打卡到抓捕逃犯,不可否认,人脸识别技术已经渗透到我们日常生活的方方面面,但与此同时,它也备受争议。隐私一直是许多人工智能技术的难题。最近,亚马逊通过向执法机构提供面部扫描技术而成为头条新闻。
对人工智能监控系统的担忧促使研究人员为其开发一种工具。最近,多伦多大学教授帕勒姆·阿比拉和研究生阿维什·博斯发明了一种算法,可以将人脸识别率降低到0.5%。
有了这种“反人脸识别”技术,我们能决定我们的脸是否会被识别吗?
反人脸识别并不陌生
事实上,这种反人脸识别技术早在几年前就出现了。2016年11月,卡内基梅隆大学的研究人员开发了一副防人脸识别眼镜。价值0.22美元的特殊眼镜可以印在光滑的相纸上。该小组称,眼镜可以让镜头前的人看起来像另一个人。在商用人脸识别软件的测试中,误识别率达到100%。
2017年,来自麻省理工学院和日本九州大学的研究人员发明了一种叫做EOT(期望转换)的算法,它成功地愚弄了谷歌人工智能系统,将3D打印的海龟照片标记为步枪,将3D棒球识别为浓缩咖啡,可爱的猫有时被用作鳄梨色拉酱。
一些研究人员担心,人工智能对三维物体的错误识别,以及旨在欺骗机器视觉系统的对抗性图像技术的突破,正在使人脸识别系统面临新一轮的挑战。在上面的实验中,将乌龟误认为步枪是对抗性图像的一个例子。多伦多大学的帕勒姆·阿比拉教授使用了同样的方法。
对抗训练技术受到追捧
在最近出版的基于约束优化神经网络的反人脸识别系统中,利亚姆·阿比拉介绍说,他们已经在一个超过600张人脸的行业标准库中进行了系统的培训。用于测试的600张脸包括不同的种族、不同的光照条件和不同的环境。
在接受媒体采访时,文章的第一作者阿维什·博斯也表示,测试的关键是训练两个相互对立的神经网络,一个用来创建一个日益强大的人脸检测系统,另一个用来创建一个更强大的工具来破坏人脸检测。
现代人脸识别软件主要依靠深层神经网络,这是一种从大量信息中学习模式的人工智能技术。在展示了数百万张面孔之后,这种软件可以获得面孔的概念并知道如何区分不同的面孔。“这种反人脸识别系统实际上是通过生成对抗网络形成最小最优变化,从而攻击人脸识别的深度网络。”中国科技(北京)科技有限公司首席执行官刘欣表示,此类探索仍处于学术研究阶段。
它还没有准备好实际应用。
刘欣表示,对于上述一些反人脸识别系统,训练过程要求人脸识别网络是开放的,攻击次数是无限的,这在实践中显然难以实现。在实际环境中,人脸识别系统是一个隐蔽系统,不允许被反复攻击。
"反人脸识别技术的诞生本质上是对隐私的关注."刘欣说,目前,人工智能产业还处于初级阶段,技术的发展有两个方面。如何防止人们利用人工智能技术进行破坏性行为是整个行业需要考虑的问题。
刘欣认为,这不仅需要立法支持,还需要伦理讨论。同时,有必要对人工智能人才进行道德伦理教育。在立法的同时,有必要通过行业自律来避免隐私泄露的风险。
推荐阅读