La inteligencia artificial tiene cada vez más aplicaciones útiles en medicina. El problema es que un simple cambio de dirección puede llevar a que los mismos algoritmos que se usan para hacer el bien logren todo lo contrario. Es lo que acaba de demostrar un equipo internacional de científicos al obtener más de 40.000 posibles armas químicas con una IA usada inicialmente para la obtención de fármacos.

En realidad es lógico. Este tipo de algoritmos usan la IA para rastrear entre una gran cantidad de moléculas posibles cuáles son aquellas que obtienen un beneficio farmacológico sin causar toxicidad. Si le damos la vuelta y nos olvidamos del beneficio, podemos obtener simplemente aquellos compuestos químicos capaces de causar toxicidad. Basta con seleccionarlos en vez de desecharlos.

Afortunadamente, no todas esas moléculas seleccionadas por la IA son armas químicas. Puede que muchas nunca pudieran llegar a sintetizarse. No obstante, que sean tan fáciles de obtener es cuando menos preocupante. Por eso, los autores de la investigación han hecho un llamamiento sobre ello a la comunidad científica, tanto en la conferencia de Convergencia del Instituto Federal Suizo de Protección Nuclear, Biológica y Química, como en un estudio publicado en Nature Machine Intelligence

El lado más sombrío de la inteligencia artificial

La obtención de fármacos suele ser un proceso de ensayo y error. Se toma una sustancia candidata y se prueban tanto su eficacia para tratar una dolencia concreta como sus posibles efectos secundarios. Esto se hace escalando desde cultivos celulares hasta seres humanos, pasando normalmente por animales de laboratorio

Así es como se ha hecho tradicionalmente. Buen ejemplo de ello es el de la científica china Tu Youyou. Ella descubrió un tratamiento para la malaria probando los diferentes compuestos naturales descritos en los manuales de medicina tradicional de su país. Y lo consiguió relativamente rápido. No obstante, este es un procedimiento tedioso y largo, que no siempre da buenos resultados. Por eso, con el avance de las nuevas tecnologías se han desarrollado algoritmos de inteligencia artificial capaces de analizar en pocas horas millones de posibles compuestos químicos y determinar sus virtudes y sus flaquezas. Se busca su eficacia, pero también su seguridad. Una vez que se obtienen los candidatos, ya sí se pasa a las pruebas de laboratorio tradicionales, pero con un punto de partida mucho más específico.

La inteligencia artificial ahorra el tedioso proceso de ir probando muchísimas moléculas para ver cuáles tienen potencial farmacológico

Es a eso a lo que se dedican en Collaborations Pharmaceuticals, la compañía farmacéutica estadounidense en la que trabajan varios de los autores de este estudio reciente. Ellos en ningún momento pensaron que su IA pudiese servir para obtener posibles armas químicas. No obstante, según cuenta en declaraciones a The Verge el autor principal, Fabio Urbina, cuando recibieron la invitación a la conferencia suiza antes mencionada pensaron que podría ser un proyecto interesante. Al menos, podrían saber si estas tecnologías serían peligrosas al caer en malas manos. 

Modificaron ligeramente la ejecución de sus algoritmos, para que en vez de desechar las sustancias tóxicas se centraran en ellas. Una vez hecho esto, en solo seis horas, tenían 40.000 moléculas susceptibles de convertirse en armas químicas.

Unsplash

Armas químicas nuevas y otras ya conocidas

En la misma entrevista a The Verge, Urbina menciona específicamente el parecido de algunas de las sustancias encontradas con el VX.

Este es un compuesto muy tóxico, conocido como una de las armas químicas más peligrosas que existen. De hecho, según la Resolución 687 de las Naciones Unidas, está catalogado como un arma de destrucción masiva. Su mecanismo de acción se basa en la inhibición de la acetilcolinesterasa. Esta es una proteína que interviene en la degradación de un neurotransmisor llamado acetilcolina. Como el resto de neurotransmisores, se encarga de facilitar la comunicación entre las células nerviosas y el cerebro. Lo hace a muchos niveles, aunque está especialmente relacionado con la contracción muscular, incluyendo movimientos involuntarios, como el del diafragma. 

Algunas de las moléculas obtenidas son incluso más peligrosas que el VX

Su función es esencial, pero su acumulación es peligrosa, de ahí que sea tan necesaria la acetilcolinesterasa. Por eso, si esta se inhibe, se producen efectos peligrosos. Por ejemplo, se bloquea el diafragma, hasta el punto de hacer imposible la respiración. Además, si se acumula mucha acetilcolina en el cerebro se liberan sustancias que promueven la toxicidad neuronal. Todo esto se consigue con cantidades muy bajas de VX, de ahí que se considere tan peligroso.

Algunos candidatos a fármacos pueden inhibir también la acetilcolinesterasa, de modo que se producirían efectos similares. Los algoritmos de inteligencia artificial suelen detectar este problema y retirar al compuesto en cuestión de la lista de candidatos. Pero con este nuevo giro experimental se consiguió todo lo contrario. Muchas de las moléculas seleccionadas eran inhibidores de la acetilcolinesterasa todavía más potentes que el VX. Eso les convertiría en armas químicas muy peligrosas. 

Además, llamó la atención de los científicos que algunos de los compuestos seleccionados son ya armas químicas conocidas. Por lo tanto, la IA no estaba errando en su búsqueda.

¿Estamos en peligro?

Afortunadamente, para conseguir esas armas químicas no basta con un ordenador y una lista de compuestos. Una vez seleccionados los candidatos es necesario intentar sintetizarlos. Alguien sin conocimientos de química no podría e incluso con ellos no siempre es algo viable. Por eso, a pesar de la llamada de atención, estos científicos hacen también un llamamiento a la calma. Sí, es cierto que es importante estar ojo avizor, especialmente en una época tan turbia como la que estamos atravesando. No obstante, como remarca Urbina en su entrevista, esto no significa que vaya a haber a corto plazo una guerra química impulsada por IA. Simplemente señala que poco a poco empieza a convertirse en una posibilidad.

La ciencia es maravillosa, pero también puede ser muy destructiva si cae en malas manos. No debemos dejar que nos gobierne el miedo, pero sí es necesario velar para que, en caso de llegar a las manos equivocadas, se puedan parar las consecuencias a tiempo. 

10 respuestas a “Esta IA encontró 40.000 posibles armas químicas en apenas unas horas”