Llevamos años viendo cómo los Deepfakes son capaces de hacer creer a muchas personas que el sujeto que están viendo en pantalla es, en realidad, un humano real. La exactitud de los rostros generados por inteligencia artificial es cada vez mayor, y ya no solo hace que cueste distinguirlos. Según un estudio publicado en la revista PNAS, en muchos casos es imposible. Incluso, algunas personas encuentran a las caras virtuales más realistas que la de los propios humanos.
El estudio menciona que el llamado efecto "uncanny valley" o "valle misterioso" ha sido de utilidad para los usuarios a la hora de comprobar si la persona de un vídeo o una imagen es, en realidad, un Deepfake. Este efecto consiste en la percepción de rasgos mal procesados o inexactos, así como en movimientos poco realistas que tienen estos avatares creados mediante inteligencia artificial. El problema, es que la tecnología ha avanzado tanto, que los Deepfakes consiguen burlar ese "valle misterioso".
Para comprobarlo, un equipo de investigadores creó una serie de rostros digitales a través de un sistema de aprendizaje automático. En concreto, utilizaron un sistema de dos redes neuronales que trabajan conjuntamente. Por un lado, un generador se encarga de crear los avatares partiendo de una "matriz aleatoria de píxeles" y componiendo un rostro final que luego debe ser examinado por el segundo sistema, el discriminador. Este comprueba la cara creada mediante inteligencia artificial con un rostro real. Si encuentra diferencias, penaliza al generador. Así, hasta que el sistema consigue crear rostros tan exactos que el discriminador no puede diferencial de los reales. Lograron replicar de forma virtual hasta 400 rostros de diferentes razas, edades y géneros.
Los Deepfakes no solo son indistinguibles, para algunos también son más confiables que los rostros reales
Posteriormente, formaron tres grupos con diferentes participantes. Todos ellos tenían que distinguir los rostros virtuales de los reales, pero con diferentes métodos. El primer grupo, compuesto por 315 personas, comparó únicamente 182 de los 800 rostros y, de media, solo lograron un 48,2 por ciento de precisión. El segundo grupo, de 219 participantes, realizó la misma tarea: comprobar y distinguir 182 rostros. Esta vez, en cambio, obtuvieron la ayuda de los investigadores para detectar anomalías que pudiesen revelar si una cara era un Deepfake o no. Los resultados fueron mejores que los de las primeras 315 personas, pero no supuso un cambio notorio. De media, acertaron un 59 por ciento.
No solo las caras sintéticas son altamente realistas, sino que se consideran más confiables que las reales.
Hany Farid, coautora del estudio.
El último grupo, compuesto por 223 perdonas, valoró la confianza de esas 128 imágenes en una escala del uno al siete. Siendo 1 una imagen poco fiable y, por lo tanto, creada mediante inteligencia, y 7 una imagen confiable y, de este modo, real. Los resultados mostraron que la calificación promedio para caras reales fue 4,48, una puntuación inferior a la calificación de las caras sintéticas (falsas), que obtuvieron una media de 4.82 puntos.
Estos resultados, si bien son un claro los avances que se han podido lograr gracias a las últimas tecnologías relacionadas con el aprendizaje automático y la inteligencia artificial, demuestran el peligro que pueden suponer el hecho de que un Deepfake sea prácticamente imposible de distinguir por uno real. No es necesario contar con conocimientos avanzados para utilizar herramientas que pueden duplicar la cara de una persona y, por ejemplo, suplantar la identidad de una persona.
