流行的人脸识别程序的安全性也是令人堪忧的！

图片来源：芝加哥大学

芝加哥大学(University of Chicago)的研究人员对面部识别应用程序对隐私的侵蚀感到不满。所以他们做了一些事情。

他们开发了一种程序，帮助个人抵御那些在未经允许的情况下盗用他们的图像并在海量数据库中识别他们的程序。

福克斯的名字来源于漫画和电影《V字仇杀队》中一个戴面具的虚构无政府主义者，他对图像进行了细微的像素级修改，虽然肉眼看不见，但却足以扭曲图像，使其无法被在线图像抓取器利用。

《福克斯》的联合创作者、芝加哥大学(University of Chicago)计算机科学教授本·赵(Ben Zhao)说:“我们所做的，就是利用这张被隐藏的照片，就像特洛伊木马一样，来破坏未经授权的模型，让它们错误地认识到，什么让你看起来像你自己，而不是别人。”“一旦腐败发生，无论你走到哪里，被看到，你都会得到持续的保护。”

人脸识别技术的出现为社会带来了巨大的好处。它帮助我们保护我们的数据和解锁我们的手机，通过匹配姓名和面孔来收集大量的照片，减少了在机票和行李登记时的等待，使航空旅行变得更简易，还帮助视障人士在社交场合识别与他人的面部反应。

对于执法人员来说，使用面部识别来发现和抓住坏人、追踪ATM机上的交易，寻找失踪的儿童，这些都有明显的优势。

它还帮助企业打击盗窃，追踪学生在校出勤率，在中国，顾客可以不用信用卡，只需微笑一下就可以支付餐费。美国国家人类基因组研究所(National Human Genome Research Institute)甚至在使用面部识别技术，以接近100%的成功率来识别一种罕见疾病的症状，这种疾病的症状可以通过面部变化表现出来。

但也有很多担忧。由于很少有法律法规来规范这种技术的使用，滥用是不可避免的。美国联邦调查局已经建立了一个超过4.12亿人的数据库。当然，有些人是罪犯。但并不是所有。对许多人来说，我们的隐私正在受到缓慢的侵蚀，同时，我们的自由和权利也可能受到侵蚀。

人们关切错误识别的后果，特别是在涉及严重犯罪的情况下，以及当腐败政府或流氓警察手中有这种工具时，滥用这种工具的能力。此外，人脸识别程序有时也会出错。最近一些令人不安的研究发现，识别程序在正确识别有色人种女性方面存在特殊的问题。

今年早些时候，《纽约时报》报道了Clearview AI备受争议的活动，该应用声称已经从Facebook、YouTube和Venmo等来源收集了超过30亿张图片。所有这些都是在未经受试者许可的情况下进行的。与一副增强现实的眼镜相连接，配备Clearview ai的执法和安全机构成员可以在街上行走，识别他们看到的任何人，以及他们的姓名、地址和其他重要信息。

这个工具当然可以用在好的方面。据《纽约时报》报道，联邦和州的执法官员表示，这款应用帮助解决了谋杀、入店行窃、身份盗窃、信用卡欺诈和儿童性剥削等案件。但也有滥用的可能。

圣克拉拉大学高科技法律研究所的联合主任埃里克·戈德曼告诉《纽约时报》，“这种武器化工具研制的可能性是无限的。想象一下，一个流氓执法人员想要跟踪潜在的恋人，或者一个外国政府利用这种手段挖掘人们的秘密，勒索他们或把他们关进监狱。”

研究人员表示，福克斯已经难倒了Facebook、微软和亚马逊使用的一般良性的面部识别系统。尽管福克斯也能成功地阻止Clearview的AI识别，但它的开发者说，他们在开始研究时甚至都不知道这个程序。

该团队最近在一份常见问题解答表中表示:“我们最初的目的是为互联网用户提供一种预防措施，让他们自己防范一些第三方、未经授权的模型的可能性。”“当我们在项目进行三个月后得知这样的公司已经存在，并且已经从大量的在线照片中建立了一个强大的模型时，可以想象我们有多惊讶。”我们相信Clearview AI可能只是冰山一角。”

开发者清楚地定义了他们如何衡量成功:“如果我们可以降低这些模型的准确性，让它们变得不可信，或者迫使模型所有者为保持准确性付出高昂的人均成本，那么我们将在很大程度上取得成功。”