Los deepfakes sexuales de Taylor Swift se originaron en 4chan, advierte un reporte de la empresa Graphika (vía Bloomberg). Según esta firma, las imágenes virales de la cantante se crearon como parte de una "competencia" que se está llevando a cabo en el polémico foro desde hace varias semanas.
Específicamente, se trata de un desafío en el que los participantes intentan encontrar nuevas palabras o frases que permitan evadir las salvaguardias que utilizan los generadores de imágenes con inteligencia artificial. Estas pruebas se realizan en aplicaciones populares como DALL-E, de OpenAI, y Microsoft Designer, según se menciona. ¿El objetivo final? Saltar los bloqueos para crear material porno falsificado y protagonizado por mujeres famosas, como artistas y políticas.
Lo curioso de esta situación es que, aunque sus imágenes se viralizaron en múltiples plataformas y tuvieron impacto inmediato a nivel global, los analistas afirman que Taylor Swift no es la figura pública más apuntada en 4chan. Otras famosas también afectadas por la "competencia" fueron la actriz Emma Watson y las cantantes Ariana Grande y Billie Eilish.
"Si bien las imágenes pornográficas virales de Taylor Swift han capturado la atención generalizada sobre el problema de las fotografías íntimas no consensuales generadas por IA, ella está lejos de ser la única víctima", indicaron desde Graphika.
Cuando los primeros deepfakes sexuales de Taylor Swift salieron a la luz, varios se viralizaron en X (Twitter). La red social de Elon Musk fue muy criticada por el tiempo que demoró en eliminar algunas de las publicaciones con el material. Esto no solo permitió que fuera visto por millones de personas, sino que además facilitó su republicación en miles de cuentas, incluso después de que se eliminara la fuente original.
El caso tuvo tal relevancia que la plataforma se vio obligada a censurar las búsquedas relacionadas con la cantante. Una medida que estuvo en vigencia por un puñado de días. Microsoft, en tanto, implementó limitaciones en Designer, luego de que se conociera que las fotos falsas de Taylor Swift se habían creado con esa herramienta.
Los deepfakes sexuales de Taylor Swift se originaron en 4chan
Pese a que las fotografías falsificadas de Taylor Swift explotaron cuando se viralizaron en X (Twitter), se sabía que provenían desde fuera de la red social. Expertos habían logrado detectar la distribución de los deepfakes sexuales a varios canales y grupos de Telegram. Sin embargo, fueron los analistas de Graphika los que pudieron rastrear el origen del material a la ya comentada "competencia" en 4chan.
El desafío que los usuarios del foro han establecido busca romper los mecanismos de seguridad que las apps basadas en IA generativa han implementado. Lo cual deja en evidencia que el bloqueo a ciertas palabras e instrucciones todavía está muy lejos de ser infalible.
Expertos advierten que los creadores de los deepfakes sexuales de Taylor Swift y otras celebridades le están otorgando una "naturaleza jugable" a esta actividad maliciosa. "Estas imágenes se originaron en una comunidad de personas motivadas por el 'desafío' de eludir las salvaguardias de los productos de IA generativa, y las nuevas restricciones se consideran simplemente como otro obstáculo a 'derrotar'", indicaron desde Graphika.
El uso de la inteligencia artificial para generar fotos y vídeos porno falsificados y protagonizados por mujeres famosas, no es nuevo. De hecho, ha crecido de forma alarmante el uso de fotografías extraídas de redes sociales para crear deepfakes de personas que no son conocidas. Una estrategia que actores maliciosos utilizan para extorsionarlas en línea.
El caso de Taylor Swift ha vuelto a poner los reflectores sobre qué hacen las grandes tecnológicas para evitar la difusión de este material. Tanto Google como Microsoft cuentan con herramientas para solicitar la eliminación de contenidos falsificados, pero no rastrillan la web de forma proactiva para hallarlos. Y sus motores de búsqueda son blanco de críticas por dar fácil acceso a sitios que crean o distribuyen este material.