En el último tiempo, la viralización de imágenes falsas —en su mayoría creadas con IA— se ha vuelto algo común en redes sociales. El arresto de Donald Trump, la aparición de una voluptuosa (e inexistente) ministra de Sanidad de Japón, o el peculiar abrigo a lo Balenciaga del Papa Francisco, han sido algunos de los casos que más han llamado la atención. Por ello, Twitter ha anunciado medidas para que sea más fácil identificar fotos apócrifas y evitar engaños.
La plataforma presentó una nueva función de sus Community Notes que, en adelante, permitirá marcar imágenes virales que se hayan creado con IA. Esta nueva herramienta se encuentra en fase de pruebas, pero se espera que pronto comience a estar disponible para un mayor número de usuarios.
Al igual que en las Community Notes, donde los usuarios pueden añadir enlaces y contexto a un tuit cuyo contenido se considere falso, engañoso o sesgado, Twitter ofrecerá una experiencia similar en su nueva herramienta para imágenes. Aunque su alcance será todavía más amplio. Es que se podrá chequear la veracidad de un tuit con una foto falsa creada con IA, o de la imagen en sí misma.
¿Lo último qué significa? Que si se elige marcar una imagen como creada con IA, la advertencia aparecerá en todos los tuits que la utilicen y no solo en el original. Sin importar cuántas veces se republique. Esto es verdaderamente importante, puesto que es bastante frecuente que el contenido viral se comparta desde cero en múltiples cuentas más allá de la que lo publicó en un principio.
Twitter quiere que sea más fácil identificar fotos falsas creadas con IA
La decisión de Twitter de salir a combatir la viralización de fotos falsas creadas con IA llega apenas días después de que circulara la imagen de una supuesta explosión en el Pentágono. Una noticia que no solo provocó pánico entre el público —fue retuiteada por múltiples cuentas verificadas, incluso una que se hacía pasar por afiliada a Bloomberg—, sino también brevemente en el mercado bursátil estadounidense.
Por ahora, la función para identificar fotos falsas estará disponible para los contribuyentes de Community Notes con un puntaje de 10 o superior. Además, en principio la característica tendrá un alcance limitado, puesto que solo funcionará con tuits que compartan una sola imagen.
Desde Twitter ya están trabajando para expandirla a publicaciones con múltiples fotos y vídeos. También han aclarado que, en principio, es probable que las alertas no aparezcan en todas las imágenes coincidentes con aquellas notificadas como falsas. No obstante, se buscará ajustar los algoritmos para que sean lo más precisos posible.
La dura lucha contra la desinformación
La circulación de noticias falsas en Twitter es historia vieja, pero el problema parece haberse agravado desde que Elon Musk compró la red social. De hecho, Thierry Breton, el comisario europeo de Mercado Interior y Servicios, apuntó en los últimos días contra la compañía estadounidense.
"Twitter abandona el Código de Prácticas voluntario contra la desinformación de la Unión Europea, pero las obligaciones permanecen. Puedes correr, pero no puedes esconderte. Más allá de los compromisos voluntarios, combatir la desinformación será una obligación legal bajo la Ley de Servicios Digitales a partir del 25 de agosto. Nuestros equipos estarán listos para su aplicación", tuiteó el funcionario.
De todos modos, también es importante marcar que el problema de la viralización de imágenes falsas va más allá de Twitter. No olvidemos que Midjourney, una de las plataformas de IA generativa más populares, se vio obligada a cancelar sus pruebas gratuitas por las polémicas con Trump y el Papa Francisco.