La seguridad es un nuevo negocio para Amazon pero también motivo de polémica. Rekognition es el servicio de reconocimiento facial de la compañía capaz de identificar hasta 100 caras en una sola imagen. Con ayuda de la inteligencia artificial, también puede rastrear personas en tiempo real y en lugares públicos. El objetivo de este programa es utilizarlo para "uso común", según Amazon, y también está siendo una herramienta para escanear imágenes de las cámaras de la policía.
En este punto es donde empieza la polémica. Amazon ha estado ofreciendo Rekognition a cuerpos policiales de varias ciudades de Estados Unidos, lo que podría poner en peligro la privacidad de los ciudadanos. Una investigación de la Unión Estadounidense por las Libertades Civiles (ACLU) ha puesto de relieve cómo Amazon ha ayudado a las agencias gubernamentales a utilizar su servicio de reconocimiento facial. ACLU, junto con otras organizaciones, han enviado este martes 22 de mayo una carta al CEO de la compañía, Jeff Bezos, para exigir que deje de ofrecer su programa al gobierno. El argumento principal se basa en los abusos que pueden cometer las autoridades con Rekognition para atacar a algunas comunidades.
El reconocimiento facial de Facebook llega a Europa, solo si los usuarios quieren
Los gobiernos podrían construir, con este servicio, una manera de automatizar la identificación de cualquier persona. Así, los dispositivos que supuestamente pretenden velar por la seguridad de los ciudadanos podrían convertirse en máquinas de vigilancia. La policía podría saber perfectamente qué personas han acudido a una manifestación o protesta y utilizar esta información en su contra cuando sea necesario. Asimismo, se podrían rastrear a personas que pueden ser sospechosas de algún delito aunque no existan las pruebas suficientes para demostrarlo.
El reconocimiento facial en manos de la policía puede transformar por completo el modus operandi para la investigación y búsqueda de personas sospechosas con la herramienta que identifica, rastrea y analiza a personas. Amazon informó que Rekognition se puede utilizar para buscar personas de interés y que se puedan monitorear "todas las caras en fotos grupales, eventos concurridos y lugares públicos como aeropuertos". Estas características pueden suponer un peligro, no solo para la privacidad, sino para las operaciones de los gobiernos por el posible mal uso de este servicio.
"Una vez que un sistema de vigilancia peligroso como este se vuelve contra el público, el daño no se puede deshacer. Particularmente en el clima político actual, necesitamos detener la vigilancia sobrealimentada antes de que se use para rastrear a los manifestantes, atacar a los inmigrantes y espiar vecindarios enteros. Estamos sonando el silbato antes de que sea demasiado tarde", alertó Nicole Ozer, directora de Tecnología y Libertades Civiles de la ACLU de California.
La investigación de Unión de Libertades Civiles incluyó varios documentos que muestran la relación entre Amazon y el condado de Washington en Estados Unidos, donde el programa de reconocimiento facial fue utilizado por las autoridades. Para complementar el uso de Rekognition, Washington ha creado una base de datos de al menos 300.000 fotografías para que estas sean reconocidas por el programa creado con inteligencia artificial. Asimismo, el condado ha habilitado una aplicación móvil para que se pueda escanear rápidamente una coincidencia en la base de datos.
La policía china arresta a un hombre gracias al reconocimiento facial
Además de ofrecer el programa, Amazon dio recursos a las agencias gubernamentales para implementar Rekognition y ofreció apoyos adicionales como solución de problemas o consejos para mejorar el rendimiento del servicio. Estas ideas o comentarios para potenciar el servicio no pudieron ser identificadas por ACLU en su investigación porque Washington firmó un acuerdo de confidencialidad con Amazon para que estas pistas se mantuvieran en secreto.
El programa creado por Amazon puede cambiar la manera en la que las personas son vigiladas por los gobiernos. A pesar de los avances de la tecnología y sus buenas implementaciones, el hecho de que la policía tenga en su poder dicha herramienta puede poner en peligro la libertad de los ciudadanos, sobre todo la de aquellos que forman parte de comunidades que ya están en el punto de mira de las autoridades.
"Ya sabemos que los algoritmos de reconocimiento facial discriminan a los rostros negros y están siendo utilizados para violar los derechos humanos de los inmigrantes", destacó Malkia Cyril, directora ejecutiva del Center for Media Justice, una de las organizaciones que ha firmado la carta dirigida a Jedi Bezos.
Sabemos que poner esta tecnología en manos de agencias de aplicación de la ley ya brutales e irresponsables coloca la democracia y la disidencia en gran riesgo.
La premisa principal de ACLU y de las otras asociaciones es que Amazon deje de ofrecer el programa a las autoridades gubernamentales. Rekognition podría costar muy caro a la democracia y a las libertades en un momento en el que otros países como China han apostado por el reconocimiento facial.
El pasado mes de abril, la policía china arrestó a un sospechoso de "delitos económicos" en un concierto en el que se encontraban alrededor de 50.000 personas. Las autoridades lo lograron gracias al sistema de inteligencia artificial capaz de reconocer rostros entre las multitudes. En un país copado de cámaras de vigilancia, cada persona grabada pasa por un filtro que alerta a la policía en el caso de que esté buscada por algún delito. Estados Unidos, de la mano de Amazon, podría ser el próximo país en implementar estas prácticas de vigilancia.
Amazon Web Services se ha puesto en contacto con Hipertextual para trasladar su opinión al respecto:
"Amazon requiere que los clientes cumplan con la ley y sean responsables cuando usan los servicios de AWS. Cuando descubrimos que un cliente está haciendo mal uso de los servicios de AWS suspendemos su derecho a utilizar nuestros servicios. Amazon Rekognition es una tecnología que ayuda a automatizar el reconocimiento de personas, objetos y actividades en video y fotos sobre contenidos proporcionadas por el cliente. Por ejemplo, si el cliente proporcionó imágenes de una silla, Rekognition podría ayudar a encontrar otras imágenes de sillas en una biblioteca de fotos cargadas por el cliente. Como tecnología, Amazon Rekognition tiene muchas aplicaciones útiles en el mundo real (por ejemplo, varias agencias han utilizado Rekognition para encontrar personas secuestradas, los parques de atracciones usan Rekognition para encontrar niños perdidos, la Boda Real que tuvo lugar el pasado fin de semana usó Rekognition para identificar a los asistentes, etc.). Y la utilidad de los servicios de IA de este tipo seguirá aumentando a medida que más empresas recurran a tecnologías avanzadas como Amazon Rekognition. Nuestra calidad de vida sería mucho peor si prohibiéramos la nueva tecnología porque algunas personas podrían optar por hacer mal uso de ello. Imagina si un cliente no pudiera comprar un ordenador porque es posible usarlo para fines ilegales. Al igual que cualquiera de los servicios de AWS, exigimos a nuestros clientes que cumplan con la ley y sean responsables cuando utilicen Amazon Rekognition."