Los deepfakes abundan en la web y algunos son muy difíciles de identificar. La tecnología detrás de estas falsificaciones permite resultados finales cada vez más realistas, y eso es una verdadera preocupación. Facebook es una de las tantas compañías que trabaja en la creación de herramientas para detectarlos, y en las últimas horas dio a conocer avances notorios.
La red social se alió con la Universidad Estatal de Michigan (MSU) para desarrollar un método que no solamente pretende identificar deepfakes, sino también rastrear su origen. Para ello se apoya en la ingeniería inversa. ¿Qué significa esto? Que a partir del análisis de una imagen, la tecnología puede determinar si fue generada artificialmente y detectar qué modelo generativo que se usó para producirla.
El método de Facebook todavía se encuentra bajo desarrollo y está lejos de una implementación real o masiva. De todas maneras, representa un paso al frente importante ante una problemática creciente.
Facebook quiere ser capaz de averiguar el origen de un deepfake
La tecnología detrás de la creación de deepfakes se encuentra en evolución permanente, y eso lleva a que sea muy difícil encontrar pistas sobre su fuente. Sin embargo, Facebook sostiene que su método puede detectar patrones sutiles que son "impresos" en las imágenes falsas por el dispositivo que las crea. Como cada modelo generativo tiene sus peculiaridades, la nueva tecnología identificaría características comunes entre distintos deepfakes y establecería si tienen un origen común.
Si bien ya existen técnicas que detectan qué modelo conocido se utilizó para crear un deepfake, Facebook va más allá. El proyecto pretende identificar los "rasgos arquitectónicos" (conocidos como hiperparámetros) de modelos desconocidos, para posteriormente distinguirlos entre los patrones que quedan en la imagen final.
"Supongamos que un mal actor está generando muchos deepfakes y los carga en diferentes plataformas para distintos usuarios. Si fuese un nuevo modelo de IA que nadie vio antes, poco podríamos decir al respecto en el pasado. Pero ahora podemos manifestar: 'Mira, la imagen que se cargó aquí, y la imagen que se cargó allí, provienen del mismo modelo'. Y si logramos apoderarnos del portátil u ordenador utilizado para generar el contenido, seremos capaces de decir: 'Este es el culpable'", dijo Tal Hassner, líder de investigación de Facebook a The Verge.
Es interesante cómo avanza la investigación para detectar "huellas" en los deepfakes y rastrear su origen, aunque la tecnología usada para crearlos sea desconocida. Sin embargo, Facebook navega por terreno inexplorado, y sus especialistas reconocen que es una suerte de juego "del gato y el ratón".
