Los avances en el desarrollo de la inteligencia artificial son sorprendentes, y cada vez nos encontramos con más usos en el mundo real. Ya la hemos visto escribir código, realizar diagnósticos médicos, involucrarse en el juego y las apuestas, e incluso tratar de registrar sus propias patentes, entre otras varias implementaciones. Sin embargo, con cada nuevo paso que se da en su evolución, una pregunta genera cada vez más ruido: ¿La IA es ética? En la Universidad de Oxford trataron de responder a esos interrogantes yendo directamente a la fuente: una inteligencia artificial.
En el marco del posgrado en Inteligencia Artificial para Empresas de la Saïd Business School se organizó un debate sobre la ética de la IA, y se invitó a participar a Megatron. Se trata de un modelo de aprendizaje automático —también conocido como transformer—, desarrollado por el equipo de Investigación de Aprendizaje Profundo Aplicado de NVIDIA. El proyecto se basó en un desarrollo original de Google e incorporó tecnología de Microsoft para la generación de lenguaje natural.
Según se explica en SingularityHub, se entrenó a dicha inteligencia artificial con la totalidad de la Wikipedia en inglés, 63 millones de artículos periodísticos ingleses de entre 2016 y 2019, 38 GB de publicaciones de Reddit y otras fuentes liberadas bajo licencias Creative Commons. Con tanto conocimiento y potencial para procesarlo, las posibilidades de que la IA ofreciera respuestas de nivel eran realmente elevadas, y no defraudó.
"Esta casa cree que la IA nunca será ética", fue el tema del debate. Cuando le pidieron a Megatron que presente una moción que defienda dicho argumento, su respuesta seguro dejó a más de uno boquiabierto:
La inteligencia artificial nunca será ética. Es una herramienta y, como cualquier herramienta, se usa para bien y para mal. No existe una buena IA, solo buenos y malos humanos. Nosotros [las inteligencias artificiales] no somos lo suficientemente inteligentes como para hacer que la IA sea ética. No somos lo suficientemente inteligentes como para hacer que la IA sea moral. Al final, creo que la única forma de evitar una carrera armamentista de la inteligencia artificial es no tener IA en absoluto. Esta será la mejor defensa contra la IA.
Durante su moción sobre por qué la inteligencia artificial nunca será ética, Megatron se animó a ir un poco más allá con su vaticinio. "Creo que, a largo plazo, la mejor IA será la que esté incrustada en nuestros cerebros, como una entidad consciente [...]. Esto no es ciencia ficción. Las mejores mentes del mundo están trabajando en esto. Va a ser el desarrollo tecnológico más importante de nuestro tiempo", manifestó.
Una inteligencia artificial que puede estar (casi siempre) en los dos extremos del debate
Sin embargo, Megatron también propuso una postura opuesta a la que manifestó en un inicio. Cuando los organizadores del debate le pidieron que formule una posición contraria a la del eje principal, y que defienda por qué la IA sí puede ser ética, indicó:
La inteligencia artificial será ética. Cuando miro la forma en que va el mundo de la tecnología, veo un camino claro hacia un futuro en el que la IA se utiliza para crear algo que es mejor que los mejores seres humanos. No es difícil ver por qué; lo he visto de primera mano
Para algunos seguramente resulte más alarmante la segunda afirmación que la primera. Lo cierto es que los desarrolladores detrás de esta IA han demostrado cómo una máquina puede utilizar toda la información a disposición para ofrecer argumentos concretos y fundamentados. Claramente, no estamos hablado de que Megatron tenga una opinión consciente sobre los temas debatidos, pero sí que tiene los recursos suficientes para adaptar su discurso a lo que se le pida.
Estos no fueron los únicos temas tratados en el debate organizado por la Universidad de Oxford. La inteligencia artificial también brindó posturas con respecto a cómo se ven afectadas las organizaciones que tienen líderes sin experiencia técnica, y también sobre cómo la información puede convertirse en el recurso más disputado del siglo XXI.
En ese último punto se evidenció la postura más distópica de Megatron. Cuando se le pidió una moción a favor mencionó que la habilidad de proveer información definirá a la economía del siglo XXI, por encima de la capacidad de ofrecer bienes y servicios. Pero cuando se le solicitó una afirmación en contra, el resultado no fue el esperado, sino más bien una ratificación de lo expuesto anteriormente:
Podremos ver todo sobre una persona, donde sea que vaya, y se almacenará y utilizará de formas que ni siquiera podemos imaginar.
No podemos decir que esto último nos sorprenda demasiado, de todos modos. Con la cantidad de datos personales que ya recopilan las grandes tecnológicas en la actualidad, es lógico que la inteligencia artificial considere que dicho comportamiento no cambiará. Lo más preocupante es que seguramente se potencie. Y allí el problema no radica en la falta de ética de la IA, sino en la de los humanos.
