IBM首席执行官ArvindKrishna在今天给国会的一封信中说，IBM将不再提供通用的面部识别或分析软件。IBM告诉Verge，公司也将不再开发或研究这项技术。克里希纳把这封信寄给了科里·布克（D-NJ）和卡马拉·哈里斯（D-CA）以及众议员。凯伦·巴斯（D-CA）、哈基姆·杰弗里斯（D-NY）和杰罗尔德·纳德勒（D-NY）。

“IBM坚决反对并不会纵容将任何[面部识别]技术（包括其他供应商提供的面部识别技术）用于大规模监视、种族貌相、侵犯基本人权和自由，或任何不符合我们信任和透明的价值观和原则的目的，” 克里希纳在信中说。“我们认为，现在是时候开始全国对话，讨论国内执法机构是否应该以及如何使用面部识别技术。”

由于人工智能的进步，人脸识别软件在过去十年里有了很大的进步。与此同时，这项技术——因为它通常是由私营公司提供的，几乎没有监管或联邦监督——已被证明在年龄、种族和种族方面存在偏见，这可能使这些工具在执法和安全方面不可靠，并为潜在的侵犯公民权利行为埋下伏笔。

2018年，Joy Buolamwini和Timnit Gebru的研究首次揭示了许多商业面部识别系统（包括IBM的）存在偏见的程度。这项工作和两人随后的研究导致了对这些算法的主流批评和正在进行的纠正偏见的尝试。

例如，2019年12月，美国国家标准与技术研究所（National Institute of Standards and Technology）的一项研究发现，“经验证据表明，在目前评估的大多数人脸识别算法中，存在广泛的人口统计学差异准确性。”。这项技术在侵犯隐私方面的作用也受到了抨击。

值得注意的是，NIST的研究没有包括亚马逊的技术，亚马逊是为数不多的向执法部门销售面部识别软件的主要科技公司之一。然而，该项目的名称Rekognition也因其准确性而受到批评。2018年，美国公民自由联盟（American Civil Liberties Union）发现，Rekognition错误地将28名国会议员与25000张公众照片中挑选的面孔进行了匹配。

另一家名为Clearview AI的公司从今年早些时候开始受到严格审查，当时发现其面部识别工具由30多亿张图片组成，这些图片部分来自社交媒体网站，目前正被私营企业和执法机构广泛使用。Clearview已经发布了大量的停止和停止命令，并且是许多隐私诉讼的中心。今年1月，Facebook还被要求支付5.5亿美元，以解决其非法使用面部识别技术的集体诉讼。

IBM试图帮助解决面部识别中的偏见问题，在2018年发布了一个公共数据集，旨在帮助减少偏见，作为面部识别模型训练数据的一部分。但IBM也被发现在未经受试者同意的情况下共享了一组单独的培训数据，其中包括2019年1月从Flickr拍摄的近100万张照片——尽管这些照片是在知识共享许可下共享的。IBM当时在一份声明中告诉Verge，数据集只能由经过验证的研究人员访问，并且只包括公开的图像。该公司还表示，个人可以选择退出数据集。

克里希纳在信中还主张警察改革，认为应将更多警察不当行为案件纳**邦**的管辖范围，国会应修改合格豁免原则等措施。此外，克里希纳说，“我们需要为所有美国人创造更加开放和公平的途径，让他们获得适销对路的技能和培训”，他建议国会考虑在全国范围内推广P-TECH学校模式，并扩大佩尔助学金的资格。

更新，美国东部时间6月9日凌晨2:45：这个故事已经更新，以参考人工智能研究人员Joy Buolamwini和Timnit Gebru的工作，他们的2018性别阴影项目提供了第一个全面的面部识别系统偏见的实证数据。