周一,ibm的ceo阿尔文德·克里什纳呼吁美国国会实施改革,以推进种族平等,抗击系统性种族主义。
同时,他宣布ibm将正式退出人脸识别业务。
据了解,ibm人脸识别技术由于被多家公司部署应用,但对于不同种族和性别的算法并不准确,导致部分人认为ibm涉及种族和性别歧视。
随后,克里什纳给国会写了一封信,里面说道:“ibm坚决反对,也不会容忍使用任何技术来监视大众、种族定性、侵犯基本人权和自由、以及从事任何与我们的信任和透明度价值观和原则不一致的目的,包括其他公司提供的人脸识别技术。我们相信现在是时候展开全国性对话,讨论国内执法部门是否应该、如何部署人脸识别技术。”
早在2018年2月,纽约时报英文网站发表一篇文章,指出如今非常热门的 ai 应用人脸识别,针对不同种族的准确率差异巨大。其中,针对黑人女性的错误率高达 21%-35%,而针对白人男性的错误率则低于 1%。
同时,法国idemia公司的人脸识别在多国提供服务,但是他们做了一个测试,用两张相同的照片去测试算法是否标准,结果得到的答案是,错误匹配白人女性的概率为万分之一,错误匹配黑人女性的概率是千分之一,整整差了10倍。
idemia公司自己打报告总结,说造成这种差距的原因可能是由于化妆引起的,所以女性的识别较男性识别差一点,黑人女性的识别准确率较白人女性又差一点。