科技公司为什么要放弃面部识别？

IBM刚刚退出了面部识别软件业务。微软和亚马逊已经限制了他们与执法机构进行面部识别的能力。Facebook支付了与他们的面部识别技术有关的5.5亿美元和解金。到底是怎么回事？

这些公司对潜在的偏见和在执法中滥用该技术的行为做出了明智的反应。让我们研究与在执法中使用面部识别技术有关的三个主要问题：偏见，缺乏联邦法规以及地方一级的法规过多。

偏压

这个软件有偏见吗？几乎可以肯定，但不是以我们认为在政治上负责的环境中偏见的方式。面部识别中的偏差与所有类型的少数群体的“识别”准确性有关。

这种AI在大型数据集上受过训练。在许多情况下，用于训练AI软件的数据包括绝大多数的白脸。这与当今美国现有的照片库有关。不幸的结果是（各种）少数民族的面孔更难辨认。人工智能需要非常庞大的高质量数据集。如果没有足够的西班牙裔或非裔美国人或亚洲人的照片，则该软件将很难正确识别人脸。

这个问题的挑战在于，被困在相机上的人如果属于较小的少数族裔数据集，则更有可能被错误识别。如果执法机构过分依赖面部识别来识别要追踪的人，那么某人的公民自由被滥用的可能性就会增加。

好消息是，这些偏见在大多数情况下都可以解决。这需要时间，而且需要人工参与决策流程。

缺乏联邦法规

在撰写本文时，联邦政府尚未通过任何与面部识别有关的法规。这是微软和亚马逊推迟与执法部门和其用于识别人员的软件进行交互的最可能原因。

该软件的提供者需要联邦法规，因此他们可以遵守法规，因此对软件的结果不承担任何责任。当不可避免地出现问题时，诉讼将针对最严重的人，通常是技术公司。

如果该软件的提供者可以围绕其技术的使用来开发软件，培训和流程，那么他们可以证明自己正在按照国会要求他们做的事情。这似乎是一个非常合理的要求，并且对于社会，软件公司和执法部门来说都是一个胜利。

法规太多

这些软件提供商面临的部分挑战是，地方和州两级都存在着各种各样的法规。由于没有全面的联邦法规，各州和市政当局需要制定自己的法规。软件公司以及各州和地方政府正在联邦一级寻求领导。

在Facebook案中，他们的和解与违反《伊利诺伊州生物识别信息隐私法》有关。此行为阻止公司未经用户同意存储生物特征数据。伊利诺伊州可能拥有最全面的生物识别隐私法，除非面部识别软件提供商要避免在该州实施，否则他们将需要遵守该法律。

此外，许多州都有不同的法律，包括加利福尼亚州，新罕布什尔州和俄勒冈州。马萨诸塞州萨默维尔等城市；华盛顿州西雅图市; 与密歇根州底特律市有关使用这项技术的法规略有不同。提供此软件的技术公司正在寻求监管机构的帮助，以使执法部门能够以有益于社会并平等保护少数民族的方式使用其软件。

希望国会能够接受这一要求。面部识别技术甚至可以通过执法来很好地使用。一旦规定明确，社会受益的潜力就很大。