无处不在的人脸识别是对隐私的严重威胁。我们分享的照片被公司用来训练商业上销售的算法,这种想法令人担忧。任何人都可以购买这些工具,拍一张陌生人的照片,并在几秒钟内找出他们是谁。但是研究人员已经想出了一个聪明的方法来帮助解决这个问题。
这个解决方案是一个名为福克斯的工具,由芝加哥大学沙实验室的科学家发明。福克斯以革命家在《V代表仇杀》漫画书和电影中戴的福克斯面具命名,福克斯利用人工智能巧妙地、几乎不易察觉地改变你的照片,以欺骗面部识别系统。
软件的工作方式有点复杂。通过福克斯浏览你的照片并不能让你完全看不见面部识别。相反,该软件会对你的照片进行细微的更改,这样以后任何扫描这些图像的算法都会将你视为完全不同的人。基本上,在你的照片上运行福克斯就像在你的**中添加一个隐形面具。
科学家称这一过程为“掩蔽”,目的是破坏面部识别系统运行所需的资源:从社交媒体上搜集的面部数据库。例如,面部识别公司Clearview AI声称,他们从Facebook、YouTube和Venmo等网站收集了大约30亿张面部图像,并用这些图像来识别陌生人。但是,研究人员说,如果你在网上分享的照片是通过福克斯浏览的,那么算法所知道的那张脸实际上就不是你自己的了。
芝加哥大学的研究小组称,福克斯在与微软(Azure Face)、亚马逊(Amazon)和中国科技巨头Megvii的Face++等最先进的人脸识别服务的较量中取得了100%的成功。
帮助创建福克斯软件的芝加哥大学计算机科学教授Ben Zhao告诉《边缘报》:“我们正在做的是,本质上像特洛伊木马一样,利用隐形照片,对未经授权的模特进行**,以了解让你看起来像自己而不是别人的错误信息。”。“一旦**发生,无论你走到哪里或被人看到,你都会得到持续的保护。”
这项工作的幕后推手肖恩山、艾米莉·温格、张嘉云、李慧颖、郑海涛和赵本义今年早些时候发表了一篇关于该算法的论文。但上个月底,他们还发布了福克斯作为Windows和mac的免费软件,任何人都可以下载和使用。到目前为止,他们说它已经被下载了超过10万次。
在我们自己的测试中,我们发现福克斯的设计很稀疏,但很容易应用。处理每幅图像需要几分钟的时间,而它所做的改变大多是难以察觉的。本周早些时候,《****》发表了一篇关于福克斯的报道,其中指出隐形效果相当明显,经常会对图片进行性别改变,比如给**留胡子。但是福克斯团队说,更新后的算法要微妙得多,Verge自己的测试也同意这一点。
但是福克斯是隐私的灵丹妙药吗?这是可疑的。首先,是领养的问题。如果你读了这篇文章,决定用福克斯来掩盖你将来上传到社交媒体上的任何照片,你肯定是少数。面部识别令人担忧,因为这是一个全社会的趋势,所以解决方案也需要全社会。如果只有精通技术的人才会保护自己,那只会造成不平等和歧视。
第二,许多**人脸识别算法的公司很久以前就建立了他们的人脸数据库,你不能追溯这些信息。Clearview的首席执行官HoanTonThat也对《****》说了同样的话。他说:“互联网上有数十亿张未经修改的照片,都在不同的域名上。”。“实际上,要完善福克斯这样的技术并大规模部署,几乎肯定为时已晚。”
不过,福克斯背后的团队自然不同意这种评价。他们指出,尽管像Clearview这样的公司声称拥有数十亿张照片,但如果你认为他们应该识别数以亿计的用户,这并不意味着什么。“对很多人来说,Clearview只有极少数公开的照片,”赵说。他说,如果人们在未来发布更多的隐藏照片,隐藏图像的数量迟早会超过未隐藏图像的数量。
不过,在采用方面,福克斯团队承认,要让他们的软件发挥真正的作用,就必须更广泛地发布。出于安全考虑,他们没有计划开发网络或移动应用程序,但希望像Facebook这样的公司将来可以将类似的技术集成到自己的平台中。
赵说,整合这项技术符合这些公司的利益。毕竟,像Facebook这样的公司不希望人们停止分享照片,而且这些公司在将照片隐藏在公共网站之前,仍然能够从图片中收集他们需要的数据(用于照片标记等功能)。虽然现在集成这项技术对当前用户的影响可能很小,但它有助于说服未来关注隐私的几代人加入这些平台。
“被更大的平台采用,例如Facebook或其他平台,最终可能会对Clearview产生严重影响,基本上会使(他们的技术)变得非常无效,不再有用,或者作为一项服务在财务上不可行,”赵说。“Clearview.ai公司因为不再相关或不准确而停业,作为我们工作的结果,我们会感到满意。”
... 基于这个功能,iphonex有多安全?是隐私问题吗?苹果能访问一个庞大的人人脸数据库吗? ...
...中,TinEye发现了三个结果,其中一个谷歌没有收录,因为这个网站在几年前就死了。此外,它还错过了它的老大哥得到的一个新结果。对我来说,这表明TinEye的搜索索引已经过时了。 ...
...踪他们的动作,以及这种软件对公民自由造成的威胁。当这个问题被讨论的时候,你可以采取一些措施来避免一些面部识别软件,无论是在线的还是面对面的。 ...
加拿大隐私专员周三表示,Clearview人工智能的面部识别相当于大规模监控,该公司应该从其数据库中删除加拿大人的面部。 专员丹尼尔·瑟里恩说,Clearview所做的事情——从社交媒体和其他公共网站上刮下照片供执法...
...也被禁止歪曲其收集和使用个人信息的方式以及保护用户隐私的方式。如果该公司将软件销售给消费者供个人使用,那么在使用从用户那里收集的任何生物特征信息来创建人脸嵌入或开发人脸识别技术之前,必须获得明确的同意...
...对Clearview提起诉讼,指控其违反伊利诺伊州生物特征信息隐私法(BIPA)。美国公民自由联盟(ACLU)指称,该公司未经伊利诺伊州公民同意,非法收集有关信息,后来将获取这些信息的渠道卖给了执法部门和私人公司。 更新于美...
...网站搜集数据来建立数据库的。在夏季**警察暴力之前,这个数据库的规模和建立方法已经引起了争议。“很荣幸现在能站在辩论的中心,谈论隐私问题,”Ton在采访中说,他继续称《****》的调查“实际上非常公平”。“从那时...