Recientemente, Clearview AI, una compañía de reconocimiento facial, comentó a sus inversores que dentro de sus nuevos planes se encontraba el recolectar 100 mil millones de fotos de seres humanos. Según declaraban, esto haría que su tecnología de reconocimiento facial, junto al poder de la inteligencia artificial, fuese capaz de reconocer a casi cualquier ser humano sobre la tierra.

Con 7 mil millones de personas en el mundo, la cantidad apuntada por Clearview genera un promedio de 14 fotos de cada individuo en el planeta. Además, aseguran que dicho poder de reconocimiento podría usarse para ayudar a los sistemas de vigilancia e investigaciones criminales alrededor del mundo.

Estas imágenes fueron recolectadas por Clearview a través de Internet. Según comenta el CEO de la compañía, Hoan Ton-That, "La base de datos de Clearview AI de imágenes disponibles públicamente se recopila legalmente; al igual que cualquier otro motor de búsqueda, incluido Google". No obstante, parece que algunos organismos no están contentos con el panorama que proyecta este nuevo plan de la empresa; y por buenos motivos.

Hace años se hablaba sobre cómo el gobierno de China buscaba controlar a su población a través del reconocimiento facial que han implantado exitosamente en su país. Ahora, nos enfrentamos a lo mismo, solo que a una escala mundial. ¿Qué peligros podrían surgir de una inteligencia artificial capaz de reconocer a cualquier persona en el planeta? Más allá de las buenas intenciones que asegura tener Clearview, ¿realmente es ético almacenar el rostro de cada persona en el mundo? ¿Cuáles podrían ser las consecuencias?

Peligros a la libertad civil y el derecho al anonimato

Derecho al anonimato

Durante las protestas de Hong Kong a finales de 2019, los manifestantes tomaron medidas cautelares para proteger sus identidades. En China, la tecnología de reconocimiento facial lleva un tiempo en uso para vigilar y detener personas que podrían estar vinculadas a los crímenes en la región de Xinjiang, según reporta The Washington Post. Por esto, las consecuencias para los manifestantes al tener sus caras captadas por cámaras serían devastadoras.

Según Clearview, su base de datos de rostros ha alcanzado la cifra de 10 mil millones de imágenes; sumando 1.5 mil millones de imágenes cada mes. De esta forma, buscan recaudar unos 50 millones de dólares de sus inversores, cifra que les permitiría continuar hacia la meta de las 100 mil millones de imágenes.

Andrés Ruiz, abogado especializado en privacidad en Metricson, comentó a El País que este tipo de tecnologías puede ser bastante grave para la seguridad y privacidad de las personas. Y es que, aunque como sociedad tenemos la sensación de que nuestra cara no importa o no esconde información; los datos biométricos son un bien preciado y que nos permite ser reconocidos en todo momento si la base de datos contiene nuestra información.

Estos sistemas de reconocimiento facial utilizados a gran escala pueden producir efectos graves en la privacidad de las personas, ya que pueden capturar datos biométricos fácilmente sin conocimiento del interesado; un uso amplio e indiscriminado podría terminar con el anonimato en espacios públicos y privados y permitir un seguimiento continuo de personas

Andrés Ruiz, abogado especializado en privacidad en Metricson

“El derecho a la intimidad implica decidir cuándo liberamos información personal”. Con esta frase, la web Collateral Bits nos recordaba la capacidad de la autoregulación que nos ofrece el derecho a la intimidad. Como seres humanos con derecho a la privacidad, tenemos la capacidad de decidir cuándo queremos liberar información personal y cuándo queremos abstenernos. No es que el reconocimiento facial o la inteligencia artificial sean herramientas negativas en sí. Tampoco significa que van a ser utilizadas en toda clase de maquinaciones distópicas. No obstante, sí que nos hace generar varias preguntas:

¿Tendremos derecho a decidir si queremos estar en la base de datos? ¿Cuándo usarán nuestra información? ¿Con qué fines? ¿Qué sucede si la información se ve comprometida por compañías o agentes malintencionados?

Qué sucedería si las compañías venden nuestros datos biométricos

Huawei compra tecnología de reconocimiento facial

En un mundo donde todo tipo de datos se usan para personalizar la experiencia del usuario y vender productos y servicios afines a sus necesidades, el reconocimiento facial solo es uno más de ellos. Actualmente, tecnologías como Face API de Microsoft Cognitive Services permiten analizar imágenes de las personas. De esta forma, puede obtener datos como género, pose, edad y vello facial.

No obstante, al igual que tuvimos que regular el uso de cookies por medidas predatorias llevadas a cabo por empresas como Facebook; la tecnología de reconocimiento facial y la inteligencia artificial abrirán la puerta a otro tipo de marketing; y podría ir dirigido a un grupo más vulnerable de usuarios.

¿Qué sucede si una IA comienza a "recomendar servicios estéticos" a personas basándose en su aspecto físico? ¿Serán usadas las expresiones de las personas para segmentarlas entre emociones extremas y recomendar servicios y productos afines? Además, ¿qué pasa si estos datos comienzan a ser vendidos sin consentimiento a terceras compañías? En esta ocasión no estamos hablando simplemente de nuestras costumbres al navegar, como en el caso de las cookies, estamos hablando de la venta de nuestra identidad. Y eso abre la puerta a algo más oscuro.

El riesgo a sufrir fraude de identidad es incluso mayor. Si compañías o agentes malintencionados logran hacerse con los datos biométricos de las personas; podríamos estar ante el mayor peligro de fraude de identidad. Actualmente ya vivimos en un mundo donde podemos desbloquear el móvil usando nuestro rostro; donde lo único que se interpone entre el acceso a nuestra cuenta de banco y datos privados es un grupo de sensores para la detección facial. Por esto, ¿qué pasa si esta información cae en las manos incorrectas?

La inteligencia artificial aumenta la probabilidad de ser juzgados por apariencia

Hombre arrestado debido a un falso positivo en la tecnología de reconocimiento facial

Según recoge The Washington Post en su reporte, la tecnología de reconocimiento facial ha sido diseñada y probada repetidas veces sobre personas blancas. Esto, por supuesto, asegura un éxito de detección bastante grande en este grupo. No obstante, cuando hablamos de otros grupos, como latinos o personas negras, la detección no es tan precisa. Por supuesto, esto podría llevar a crear un juicio basado en apariencia por una inteligencia artificial que todavía tiene fallos.

Asimismo, en casos más alarmistas, podríamos estar ante el borde de formar parte del episodio "Caída en Picada" de Black Mirror. ¿Podría la inteligencia artificial determinar nuestra capacidad de obtener créditos? ¿Qué hay de nuestras expectativas de trabajo?

Por otro lado, aunque una verdadera inteligencia artificial debería ser capaz de determinar patrones por sí misma; ¿qué sucede si es manipulado para sabotear a personas basándose en su apariencia o modo de vida? Tal vez en la actualidad los peligros de que esta información sea manipulada por gobiernos autoritarios podría no ser algo inminente (o al menos en gran parte de Occidente). No obstante, ¿cuáles serían las posibilidades de que un gobierno pudiera determinar el destino de sus habitantes basándose en juicios como la orientación sexual; alineación política/religiosa y rasgos personales como el color de piel?

Facebook, Google y Twitter en contra de la IA de Clearview

Sede de Google

Hasta ahora, no existe leyes federales para regular cómo funciona una inteligencia artificial y hasta qué capacidades puede extenderse. Por esto, las grandes empresas de la industria tecnológica decidieron mantener la tecnología en espera hasta que existan más normas y leyes sobre cómo se debe usar. Entre estas compañías tenemos a Microsoft, IBM, Google y Amazon.

Para Clearview, sin embargo, el recolectar 14 veces el rostro de cada persona en el planeta es solo otra oportunidad de negocios; nada más. Asimismo, la compañía asegura que su producto es más comprensivo que el de China; y esto es porque se hace recolectando imágenes de fuentes públicas y de información social relacionada.

No obstante, Facebook, Google, YouTube y Twitter ya demandan una desvinculación de la narrativa de Clearview. Las compañías exigen a la empresa que deje de tomar fotos de sus plataformas, y que elimine todas aquellas recolectadas previamente. No obstante, Clearview ha decidido sacar la carta de la Primera Enmienda estadounidense para proteger sus intereses.

Facebook, que prohíbe la copia automatizada, o "scraping", de datos de su plataforma y tiene un equipo de Uso Indebido de Datos Externos, ha vetado de su web al fundador de Clearview, Hoan Ton-That, y ha enviado a la empresa una orden de cese y desistimiento pero Clearview se ha negado a proporcionar cualquier información sobre la medida en que las fotos de los usuarios de Facebook e Instagram permanecen en la base de datos de Clearview; dijo un funcionario de la empresa matriz de Facebook, Meta, a The Post.

The Washington Post