Microsoft está tomando medidas para evitar que los usuarios puedan generar imágenes sexualmente explícitas mediante IA de Taylor Swift y otras celebridades, después de que 404 Media descubierta que las fotos virales de la cantante se han creado mediante Designer, una herramienta que permite generar imágenes mediante una breve descripción de texto.
El citado medio, en concreto, descubrió que las imágenes de Taylor Swift producidas con IA provenían de un foro de 4chan y un canal de Telegram en el que los usuarios se dedicaban a generar fotos explícitas mediante Designer, desarrollada por Microsoft. 404 Media afirma que envío un informe a la compañía, y que Microsoft respondió alegando que están “tomando las medidas adecuadas” para poner fin a esta tendencia.
Más tarde, Microsoft confirmó a 404 Media que no pudieron verificar si las imágenes de Taylor Swift generadas por IA que se hicieron virales en Twitter provenían de Designer. La compañía, no obstante, limitó su herramienta para impedir la creación de este tipo de fotografías, impidiendo el uso de palabras clave explícitas.
Los usuarios de los foros, sin embargo, encontraron una forma de seguir produciendo imágenes subidas de tono de la cantante y otras celebridades: simplemente escribiendo mal el nombre o creando una descripción que simplemente no detallara un término sexual, pero sí sugerente. Algo que, según el citado medio, la compañía también ha limitado. La fuente afirma que en el canal de Telegram, donde se compartían imágenes de Taylor Swift, ahora solo hay mensajes que destacan que la IA únicamente crea imágenes genéricas.
Twitter también ha tomado medidas contra las imágenes de Taylor Swift generadas por IA
Microsoft no es la única que ha tomado medidas para evitar que vuelvan a compartirse imágenes explícitas como las de Taylor Swift. Twitter (X) también ha limitado ciertas búsquedas en la plataforma para evitar que los usuarios encuentren los deepfakes y los compartan de forma masiva. Es, eso sí, una medida temporal, aunque no está claro cuándo se volverá a reactivar el buscador para Taylor Swift.
Por supuesto, la plataforma también ha eliminado todas las imágenes virales de la cantante y otras celebridades.
Ahora bien, 404 Media afirma pese a que las fotos creadas por IA de Taylor Swift han desaparecido, y las compañías están tomando serias medidas, los usuarios continúan produciendo fotografías explícitas de famosos mediante otras herramientas de inteligencia artificial y compartiéndolas por el canal de Telegram. Si bien el citado medio no ha desvelado el nombre, destaca que el canal cuenta con miles de miembros y que continúa activo.