Es innegable que la IA generativa está suponiendo revolución para el mundo de Internet y muchas industrias. Acumula una gran cantidad de hitos increíbles a cada cuál más espectacular, pero de vez en cuando también toca hablar de lo malo. De todos esos usos que, dada la naturaleza de la inteligencia artificial, se utilizan para hacer el mal. Ya se han dado varios casos, aunque el último que destapa la Europol (Oficina Europea de Policía) es especialmente espeluznante.
De hecho, confirma que el mal uso de herramientas IA, aunque creen contenido artificial, pueden llevarte a la cárcel. Es justo lo que ha ocurrido con un grupo de 25 personas en Europa, acusados de generar y distribuir pornografía infantil generada de forma exclusiva con servicios de inteligencia artificial.
La investigación dio comienzo el pasado noviembre, cuando se detuvo a un individuo que generaba estas imágenes, las subía a una web en Internet y permitía su acceso a cualquier persona con un par de euros en la tarjeta de crédito. Ahora, los otros 25 detenidos están acusados de pertenecer a esta red de pornografía infantil creada con IA generativa.
Es la primera vez que la Oficina Europea de Policía se enfrenta a un caso de este calibre, donde las imágenes del delito no corresponden a nadie. Han sido creadas por una herramienta sin basarse en ninguna persona concreta y utilizando IA generativa. Es decir, que esas fotografías o vídeos, por muy realistas que parezcan, son totalmente artificiales.
Imágenes artificiales creadas con IA generativa, delito real
En el informe que ha publicado la Europol, y como bien se han hecho eco desde El País, queda bastante claro: a pesar de no estar basadas en personas reales, promueve "la cosificación y sexualización de los niños".
De hecho, a raíz de esta investigación, Europa ya está avanzando en una legislación para que se considere abuso sexual infantil cualquier contenido de este tipo creado con IA generativa, y que, por lo tanto, se pueda juzgar en consecuencia a los involucrados. Es más, esta normativa prohibiría no solo la fabricación y distribución de las imágenes, sino también su posesión.
La información que vierte este cuerpo policial europeo va todavía más allá, asegurando que un "porcentaje considerable" de la pornografía infantil detectada por las autoridades en los últimos meses está siendo creada con herramientas de IA generativa.
Y es que, al igual que es sencillo hacer una imagen graciosa o crear un vídeo con una simple descripción, todo este potencial también está disponible para aquellos que pretenden hacer el mal, incluso para los que tienen conocimientos muy limitados sobre tecnología. De hecho, parece que bastan un par de suscripciones a ciertas herramientas y saber qué prompt elegir para fabricar aberraciones como las que han motivado la detención de estas 25 personas.
Por no hablar, por supuesto, de que el hecho de estar ante imágenes artificiales dificulta hasta el extremo conocer de dónde provienen y quién ha sido el autor del delito.
