El debate en torno al uso excesivo de la fuerza por parte de algunas agencias estadounidenses continúa desarrollándose. El reconocimiento facial de Amazon, según anuncia ahora la Big Tech, será restringido a la policía durante un año.
Mientras tanto, su sistema, conocido como Rekognition, estará disponible para su uso por algunas de las organizaciones civiles y no gubernamentales. Entre las entidades mencionadas, únicamente se mantienen los usos que combaten la trata de menores y el abuso infantil.
Afirma Amazon que esperan que "esta moratoria de un año pueda dar al Congreso el tiempo suficiente para aplicar las normas adecuadas". Asimismo, apuntan que están "listos para ayudar" en caso de que sea requerido.
Regulación inexistente
Se trata de una reacción mucho más tímida a la que tuvo unos días atrás el gigante de la computación IBM. A diferencia de estos, y aunque no hay referencia específica alguna al respecto, se sobreentiende que el desarrollo de los sistemas de reconocimiento facial de Amazon no sufrirá mayores contratiempos.
Si bien no hay referencia alguna a la represión de las protestas tras el asesinato de George Floyd el pasado 25 de mayo, Amazon sí indica en su escueto comunicado que es hora de regular el uso de estos sistemas:
"Hemos defendido que los gobiernos deben establecer regulaciones más fuertes para gobernar el uso ético de la tecnología de reconocimiento facial, y en los últimos días, el Congreso parece estar listo para asumir este desafío."
En declaraciones al medio económico CNBC, Jimmy Gomez, uno de los representantes del partido demócrata en la cámara baja de EE.UU., apuntaba en esta dirección. El político afirma que espera que el Congreso apruebe un proyecto de ley en esta dirección este mismo año.
No obstante, Gomez considera que la reacción de Amazon "es un buen primer paso, pero aún así no es suficiente". Critica además la postura del gigante, que a pesar de mostrar disponibilidad públicamente, "cada vez que tratamos de obtener más y más datos se detuvieron", sentencia. Añade que han tenido que "organizar audiencias para seguir moviendo el tema".
Rekognition, el reconocimiento facial de Amazon
Como con muchos de estos sistemas, la controversia en torno a sus resultados es grande. No solo por la alta tasa de falsos positivos que otorga, sino por el sesgo racial y de género en torno a esta. Tanto las mujeres como la población negra se ve discriminada, ante una falibilidad mucho mayor.
Varios estudios sobre Rekognition han apuntado en diversas ocasiones en esta dirección. En 2018, unos investigadores comprobaron cómo el sistema de reconocimiento facial vinculaba hasta a 28 miembros del Congreso con caras de una base de datos de criminales. Similarmente y un año más tarde, se apuntó hasta 27 atletas profesionales de Reino Unido en el mismo sentido. En ambos casos, la Unión Estadounidense de Libertades Civiles –ACLU, en inglés– encontró que las personas negras eran significativamente más proclives al error.
Esto no ha bastado para que se paralicen los esfuerzos de Amazon por intentar servir con estos sistemas a las múltiples administraciones. En la página en la que listan algunos de sus clientes aparece la policía del Condado de Washington, pero no son los únicos. Según CNBC, este sistema fue presentado ante el servicio de Inmigración y Aduanas de Estados Unidos, si bien Amazon no ha hecho público cuántos clientes de este tipo utilizan el sistema.
Los países occidentales continúan desarrollando el marco regulatorio en torno a los potenciales usos nocivos de estos sistemas. Lo hacen, eso sí, a un ritmo mucho menor al que estos mejoran. Mientras tanto, China toma la delantera y es su propio gobierno quien lo utiliza para muchas cosas en apariencia buenas. Y otras no tanto, como el control social o la represión racial contra la minoría étnica uygur.