Midjourney, la generadora de imágenes por inteligencia artificial, ha decidido suspender sus pruebas gratuitas luego del escándalo causado por algunas de sus creaciones. Entre ellas, el falso arresto de Donald Trump y las imágenes virales del Papa Francisco con un abrigo estilo Balenciaga. El CEO y fundador de esta plataforma, David Holz, explicó que tomaron la medida debido a "una demanda extraordinaria" y "abuso" por parte de los usuarios.
Midjourney permitía, previo al corte, que cualquier persona que se registrara a través de Discord pudiera generar 25 imágenes gratuitas. Solo después de agotado este cupo, cobraba suscripciones que oscilan entre los $10 y $60 dólares al mes.
Holz dijo que estaban revisando las pautas de moderación del sitio, sobre todo las que tienen que ver con la generación de contenido que incluya a personas reales. "Las imágenes se vuelven más y más realistas y las herramientas, más y más poderosas", dijo en una audiencia en vivo con unas dos mil personas que se celebró hoy en Discord, informó el Washington Post.
Midjourney lanzó la versión 5 de su servicio a mediados de marzo, que mejoró significativamente la calidad de las imágenes que representan a las personas. A los pocos días, se hicieron virales las escenas de Donald Trump y el Papa Francisco generadas con la herramienta. El problema es que muchos asumieron que eran reales, dejando en evidencia la capacidad de la plataforma para fabricar noticias falsas bastante convincentes.
Midjourney, una pequeña generadora de imágenes con un gran poder
Midjourney fue lanzada en 2022. En un año ganó más de 13 millones de miembros y se convirtió en una de las herramientas impulsadas por IA más populares. Hasta septiembre del año pasado, la compañía estaba integrada por 10 personas y no tenía inversores. En una entrevista publicada en septiembre pasado, Holz informó que contaban con alrededor de 40 moderadores en diferentes países.
Las normas de contenido de Midjourney son más permisivas que las de DALL-E, la generadora de imágenes de OpenAI, pero más restrictivas que las de Stable Diffusion, de la compañía Stability AI.
Los usuarios deben tener al menos 13 años de edad para usar Midjourney. Las normas de uso prohíben el contenido para adultos y el gore, así como las indicaciones de texto que son "inherentemente irrespetuosas, agresivas o abusivas". Pero no mucho más. El periodista Eliot Higgins, responsable de las imágenes de Trump, fue expulsado de la plataforma luego de que el material se hiciera viral, pero la compañía no explicitó el motivo.
Dall-E, por el contrario, prohíbe la creación de imágenes que incluya a políticos, protestas u otro contenido que pueda emplearse para hacer campaña. También aquellas que pretendan hacer referencia a "grandes conspiraciones o eventos relacionados con importantes eventos geopolíticos en curso".
Midjourney fue demandada en enero pasado por un colectivo de artistas, que asegura que los desarrolladores entrenaron el modelo de IA con imágenes y obras publicadas en Internet sin el consentimiento de los creadores originales. La compañía todavía no ha respondido al reclamo ante los tribunales.