Un algoritmo capaz de escribir artículos podría convertirse en la próxima arma de desinformación. De acuerdo con MIT Review, una herramienta de texto desarrollada por OpenAI, ha conseguido generar noticias falsas con precisión.
Investigadores de OpenAI tuvieron en mente desarrollar un algoritmo de lenguaje capaz de traducir texto, responder preguntas y realizar otro tipo de tareas. Utilizando aprendizaje automático y texto de internet, el algoritmo evolucionó al punto de ser capaz de redactar contenido que parece creíble a simple vista.
Por medio de la frase "Rusia declara la guerra a los Estados Unidos luego que Donald Trump por error..." esta herramienta fue capaz de generar una noticia completa que habla del modo en que Trump lanzó un misil aéreo. La nota incluye declaraciones ficticias del gobierno ruso y una referencia a las fricciones que han ocurrido entre ambos países luego de la anexión de Crimea en 2014.
El texto que alimenta a este algoritmo proviene de 45 millones de páginas seleccionadas por medio de enlaces de Reddit. Los investigadores lo han entrenado para que reconozca patrones de datos.
Una herramienta de manipulación a futuro
Jack Clark, director de políticas de OpenAI, dijo a la publicación del MIT que la herramienta abriría las puertas a la generación de noticias falsas y contenido capaz de transmitirse por redes sociales. Clark teme que pueda ser aplicado a ciertos grupos demográficos cuando se intente manipular la decisión de voto en un proceso electoral.
La herramienta no ha sido perfeccionada del todo, ya que ciertas frases producen texto que no tiene sentido o simplemente es copiado de otras noticias. Clark dice que en cuestión de un año o dos podría evolucionar para convertirse en un arma de desinformación, algo que sería más difícil de combatir al ser un proceso completamente automatizado.
Ante el temor de un mal uso, el equipo de investigadores *planea lanzar una versión simplificada de este algoritmo para que sea usado por el público. Si bien estos algoritmos podrían ser buenos para mejorar los chatbots, el potencial de caer en malas manos y generar campañas de propaganda es algo que no puede permitirse.
La proliferación de noticias falsas es algo con lo que varias empresas han tenido que lidiar en los últimos años. Luego de escándalos como el Russiagate y Cambridge Analytica, las grandes tecnológicas han estado en el ojo del huracán por no hacer suficientes esfuerzos que impidan la transmisión de este tipo de contenido.
OpenAI se muestra optimista y dice que trabajarán para anticiparse a un escenario en donde la inteligencia artificial sea capaz de crear noticias falsas.