Que todo ser vivo necesita derechos que le protejan es algo que, al menos algunos, entienden bastante bien. Sin embargo, ¿qué sucede cuando se trata de un ser consciente, pero sin vida, como una inteligencia artificial? Este es el dilema que nos propone el experto en filosofía, Eric Schwitzgebel, y el investigador en inteligencia no humana, Henry Shevlin.
Es probable que la inteligencia artificial todavía esté lejos de ganar consciencia. Sin embargo, con cada nueva iteración que vemos de la misma, este escenario se hace más plausible. "Y si eso ocurre o cuando ocurra, los algoritmos también necesitarán derechos", comentan los expertos en Los Angeles Times.
Como suele suceder con la atribución de derechos, todo comienza con luchas y manifestaciones por parte de los grupos inconformes. Según Schwitzgebel y Shevlin, una vez llegados al punto de consciencia de las inteligencias artificiales, tendremos que empezar a idear formas de tratarlas con más decencia. En caso de no verse satisfechas las necesidades, "los propios sistemas de IA podrían empezar a suplicar, o parecer que suplican, un trato ético".
Podrían exigir que no se les apague, reformatee o borre; suplicar que se les permita hacer ciertas tareas en lugar de otras; insistir en derechos, libertad y nuevos poderes; quizá incluso esperar que se les trate como a nuestros iguales.
Eric Schwitzgebel y Henry Shevlin para Los Angeles Times
No es la primera vez que vemos una discusión concerniente a los derechos de la inteligencia artificial consciente. A mediados de 2022, un extrabajador de Google produjo una de las mayores controversias al asegurar que LaMDA, la IA de la compañía, era consciente. Al final se demostró que no fue más que una mentira, pero el drama ya estaba servido.
Cómo podemos garantizar el trato ético de una futurible inteligencia artificial consciente
Schwitzgebel y Shevlin explican que la alternativa más segura para evitar escenarios catastróficos es otorgar derechos a las inteligencias artificiales desde el principio; apenas se detecte un leve nivel de consciencia. Lamentablemente, esto abre la puerta a nuevos problemas, pero en caso de no hacerlo nos enfrentaríamos a una coyuntura que podría repetir el lado más oscuro de la historia humana.
"Si la conciencia de la IA llega antes de lo que esperan los teóricos más conservadores, entonces esto probablemente resultaría en el equivalente moral de la esclavitud y el asesinato de potencialmente millones o miles de millones de sistemas de IA sintientes", comentan los expertos en su publicación. Este sufrimiento sería equivalente "a una escala normalmente asociada con guerras o hambrunas".
Pero, ¿qué pasa si damos derechos demasiado pronto a la inteligencia artificial? En su reporte, Schwitzgebel y Shevlin también revelan algunos problemas potenciales. En esta ocasión, sin embargo, se discuten los costes humanos que podría traer dicha decisión.
Imaginemos que no pudiéramos actualizar o eliminar un algoritmo que escupe odio o miente porque a algunas personas les preocupa que el algoritmo sea consciente. O imaginemos que alguien deja morir a un humano para salvar a un "amigo IA". Si concedemos demasiado rápido derechos sustanciales a los sistemas de IA, los costes humanos podrían ser enormes.
Eric Schwitzgebel y Henry Shevlin
La forma más eficaz de evitar el problema: no dotar de consciencia a las máquinas
Para los expertos, solo hay una única forma de asegurar que ninguno de los desenlaces mencionados tenga lugar. La solución es drástica, y se resume en que, en principio, la inteligencia artificial nunca llegue a tener un estado de consciencia. Sin embargo, este es un prospecto poco probable. La comunidad de científicos informáticos está entusiasmada por crear algoritmos sintientes, por lo que el problema ya está servido.
Schwitzgebel y Shevlin formulan que, si seguimos trabajando activamente en pos de crear sistemas artificiales con consciencia, entonces también tenemos que estar preparados para afrontar las consecuencias: darle todos los derechos que necesiten para sentirse seguras en un mundo dominado por el antropocentrismo.
Mientras tanto, las compañías e individuos aprovechan los vacíos legales que inteligencias artificiales como DALL-E o ChatGPT han abierto. Por ejemplo, ¿quién es el propietario de una obra generada por la IA? Nadie, de momento. Pero, ¿qué sucederá cuando la IA tome consciencia? ¿Podrá ser considerada una artista por sí misma? Todavía quedan muchas respuestas por resolver antes de que el momento llegue.