Un estudio publicado en la revista Frontiers ha causado descontento entre la comunidad científica. Investigadores de la Universidad Jiaotong de China utilizaron inteligencia artificial para generar imágenes de una rata con pene gigante y texto sin sentido para ilustrar un estudio sobre funciones celulares. Los autores confesaron que se apoyaron en Midjourney para crear estas ilustraciones.
El estudio, publicado por Xinyu Guo y Liang Dong, responsables del departamento de cirugía de columna del Hospital Hong Hui en China, revisa la interrelación entre las células madre espermatogoniales (SSC) y la vía de señalización JAK/STAT. Aunque el manuscrito no aborda los efectos en el crecimiento desmedido de los órganos sexuales de una rata, las imágenes dicen lo contrario.
Los investigadores utilizaron la ilustración de una rata con pene gigantesco para mostrar células madre espermatogoniales. La descripción indica que fueron "aisladas, purificadas y cultivadas a partir de testículos de rata", los cuales también están fuera de toda proporción. El artículo menciona a Midjourney, la herramienta de IA que genera imágenes a través de texto.
Aunque la rata con pene gigante es lo más polémico del estudio, todas las imágenes incluyen errores típicos de la IA, como texto con basura. Frases como "testtomcels" o "dick" acompañan uno de los esquemas, mientras que otros muestran partes de las células que no existen. Los científicos chinos creyeron que diagramas coloridos podrían ayudar a entender el manuscrito, pero en realidad les jugaron en contra.
Tal vez lo más preocupante es que la publicación haya pasado desapercibida. De acuerdo con Motherboard, uno de los investigadores responsables de la revisión por pares se lavó las manos.
Una rata con pene gigante muestra los estragos que puede causar la IA en el mundo científico
Ante los señalamientos, la revista Frontiers retiró el artículo y anunció que iniciará una investigación. "Tras la publicación, surgieron preocupaciones sobre la naturaleza de las imágenes generadas por IA. El artículo no cumple con los estándares de rigor editorial y científico de "Frontiers in Cell and Development Biology"; por lo tanto, el artículo ha sido retractado", mencionó el editor.
Según las pautas establecidas por Frontier, los autores tienen permitido usar IA en sus publicaciones. Esto incluye texto generado por ChatGPT o Jasper, e imágenes creadas en DALL-E, Midjourney y Stable Diffusion. Estos contenidos deben seguir las políticas generales de la revista científica, las cuales determinan que el autor es responsable de verificar la exactitud de cualquier contenido creado con IA.
"Las imágenes producidas o editadas con tecnología de inteligencia artificial generativa deben verificarse para garantizar que reflejen con precisión los datos presentados en el manuscrito. Los autores también deben revisar que cualquier contenido escrito o visual producido o editado utilizando una tecnología de inteligencia artificial generativa esté libre de plagio."
Frontier
La rata con pene gigante evidencia que la inteligencia artificial está en todos lados y puede representar un problema para la comunidad científica. Las políticas de Frontier y otras revistas dejan en manos de los autores la verificación de datos. Posteriormente, el editor se encarga de realizar un primer análisis antes de enviarlo a una revisión por pares, efectuada por expertos en la temática.
Jingbo Dai, investigador de la Universidad Northwestern que revisó el manuscrito de la rata, dijo que la responsabilidad final es de Frontiers. "Para las imágenes generadas por IA, dado que el autor citó Midjourney, es responsabilidad del editor tomar la decisión", declaró.
De acuerdo con Microsoft, las imágenes falsas creadas con inteligencia artificial son uno de los peligros más grandes que enfrentamos. Brad Smith, presidente de la tecnológica, expresó que actores malintencionados podrían sacar provecho de herramientas como Midjourney o Stable Diffusion para alterar contenido legítimo con intención de engañar a las personas.