La relación entre la Policía y la comunidad negra en Estados Unidos es, como poco, conflictiva. Han sido varios de los capítulos en la historia del país en la que la injusticia y un exceso de la violencia por parte de las autoridades han ensombrecido los derechos de los negros. Nuevas tecnologías como el reconocimiento facial empeoran todavía más esta situación. En las protestas del movimiento Black Lives Matter en 2020, los manifestantes en Nueva York estuvieron más expuestos que los de otras ciudades del país. Ahora, un nuevo estudio de Amnistía Internacional confirma los peores temores.

En la Gran Manzana, las personas que viven en Brooklyn, Queens y el Bronx son los que están más expuestos a las cámaras de videovigilancia. También son los que, cámaras aparte, tienen mayor riesgo de sufrir represión policial. La investigación de Amnistía Internacional indaga precisamente en este aspecto y confirma que aquellos que vivan en una zona de mayor riesgo de ser parado por la Policía están también más expuestas a la tecnología de reconocimiento facial.

"Un nuevo análisis en el contexto de la campaña mundial Ban The Scan (Veto al escaneo) ha demostrado que la operación de vigilancia masiva del Departamento de Policía de Nueva York (NYPD) afecta especialmente a quienes ya sufren actuaciones selectivas de dar el alto y registrar en los cinco barrios de la ciudad de Nueva York".

Amnistía Internacional

La Policía de Nueva York y la sombra de la discriminación

Queens, el Bronx o Brooklyn son algunos de los barrios que han sido investigados por la organización. En los que cuento más alta es la proporción de personas no blancas, mayor es la concentración de cámaras con reconocimiento facial.

"Nuestro análisis demuestra que el uso de la tecnología de reconocimiento facial por la policía de Nueva York contribuye a reforzar una actuación policial discriminatoria contra las comunidades minoritarias de la ciudad", ha manifestado Matt Mahmoudi, investigador de Amnistía Internacional sobre Inteligencia Artificial y Derechos Humanos.

En total, se ha recopilado la información de más de 25.500 cámaras de vigilancia de Nueva York para llegar a estas conclusiones. Como consecuencia, Amnistía Internacional pide explicaciones al Departamento de Policía para saber más acerca de al utilización del reconocimiento facial en las calles de la ciudad.

La organización también ha presentado una herramienta que permite descubrir qué parte de un posible recorrido a pie entre dos puntos de la ciudad estaría expuesta a vigilancia basada en tecnología de reconocimiento facial. "Es una táctica deliberada para infundir miedo utilizada la policía de Nueva York; que no tiene cabida en una sociedad libre y debe suspenderse inmediatamente", concluye Mahmoudi.

El alcalde apuesta por el reconocimiento facial

El reconocimiento facial es una tecnología que permite comparar las imágenes que aparecen en las cámaras con millones de rostros en las bases de datos. Algunas de estas bases son registros públicos, pero también redes sociales, sin el consentimiento del usuario. China ha sido el país que implementó primero esta tecnología en sus ciudades, y ha sido también la primera en estar en el punto de mira de organizaciones de derechos humanos por la vulneración de derechos.

En un artículo anterior de Amnistía Internacional, los expertos afirmaron que los estados están usando el reconocimiento facial para dirigirse intencionadamente contra determinadas personas o grupos basándose en etnia, raza o género. "Sin que exista una sospecha razonable individualizada de actos delictivos".

Sin embargo, nada indica que el gobierno de Nueva York quiera poner un freno a la utilización de esta tecnología. El alcalde, Eric Adams, apuesta porque el reconocimiento facial puede ayudar a identificar a delincuentes. "Si estás en Facebook, Instagram, Twitter, pase lo que pase, pueden ver e identificar quién eres sin violar los derechos de las personas", dijo Adams en enero. "Va a ser utilizado con fines de investigación", afirmó, según recoge Politico.

Estudiar las tecnologías emergentes

La Policía de Nueva York lleva tiempo utilizando esta tecnología, concretamente en al menos 22.000 casos entre 2016 a 2019. En este tiempo, su uso ha provocado la presentación de varias demandas contra las autoridades, en muchos casos por arrestos injustificados. Como no, todos personas latinas o de la comunidad negra.

Más allá de cómo se ha utilizado la inteligencia artificial hasta ahora, Eric Adams quiere que la tecnología se utilice también para detectar a personas que llevan armas. Por otro lado, ha planteado reemplazar los detectores de metales en las escuelas por un escáner para saber si los estudiantes llevan armas.

Desde el punto de vista del gabinete del alcalde, el objetivo es estudiar las tecnologías emergentes para usarlas de manera legal y conseguir que las calles sean más seguras. Afirma que no se utilizarán herramientas que tenga prejuicios contra comunidades o géneros. No obstante, la investigación de Amnistía Internacional y otros informes anteriores arrojan todo lo contrario. Varios estudios afirman que el reconocimiento facial es menos preciso a analizar los rostros de personas asiáticas o negras.

Otras ciudades de Estados Unidos como San Francisco y Seattle han prohibido esta tecnología por este motivo; y argumentan el trasfondo racista del reconocimiento facial, así como una violación de la privacidad. Pero, en Nueva York, la tendencia es por ahora completamente opuesta.

China y el dilema de los derechos humanos

Los peligros para la libertad que pueden venir de la mano del reconocimiento facial llevan tiempo siendo objeto de discusión. Sobre todo desde que China apostó por esta tecnología para fortalecer su estado de control. En 2020, un informe llamado ChinaFile sacó a la luz que de 2010 a 2019, las adquisiciones por parte del gobierno asiático aumentaron casi un 1.900 %. Casi la mitad de todas las cámaras de vigilancia en el mundo son propiedad de China.

Al igual que en el caso de Nueva York, varias instituciones y organizaciones de derechos humanos han denunciado el comportamiento de las autoridades chinas en lo que respecta a un abuso de esta tecnología. Pero China no está dispuesta a frenar.

Recientemente, la empresa china Tencent anunció su intención de utilizar el reconocimiento facial para controlar el tiempo que los menores de edad juegan a videojuegos. Para ello, la compañía utiliza esta tecnología para identificar los rostros de los menores que tengan cuentas administradas y controlar cuántas horas pasan jugando. Solamente permitirán que se juegue 14 horas en 14 días, o sea, una hora al día. Los menores que estén en edad de cursar la escuela primaria se exceden, se cerrará su sesión.

Este es solo el último capítulo de una historia que ha traído consigo la polémica desde que empezó. Las dudas (y algunas evidencias) sobre las violaciones de derechos humanos son demasiadas. Pero eso no disuade a las autoridades que buscan otras formas de tener un mayor control sobre la sociedad.