Demis Hassabis, director ejecutivo de Google DeepMind, declaró que los riesgos de la inteligencia artificial deben tratarse con la misma seriedad que el cambio climático. El experto aseguró que el mundo debe actuar pronto para evitar un escenario similar al del calentamiento global. Hassabis propuso la creación de un organismo similar al Panel Intergubernamental de Expertos sobre el Cambio Climático (IPCC, por sus siglas en inglés).
En una entrevista con The Guardian, el jefe de Google DeepMind advirtió sobre algunos riesgos que representa el desarrollo de esta tecnología. La IA podría ayudar a la creación de armas biológicas o amenazar la existencia de los seres humanos en caso de que desarrollemos una inteligencia artificial general (AGI). Lo anterior ha sido abordado en múltiples ocasiones por otros expertos, por lo que es momento de actuar.
“Debemos tomarnos los riesgos de la IA tan en serio como otros desafíos globales importantes, como el cambio climático”, mencionó Hassabis. “Creo que tenemos que comenzar con algo como el IPCC, donde es un acuerdo científico y de investigación con informes, y luego ir avanzando a partir de ahí”. Las declaraciones del jefe de DeepMind hacen eco a la propuesta de Eric Schmidt, antiguo director general de Google y defensor de esta tecnología.
Hace unas semanas, Schmidt y Mustafá Solimán (cofundador de DeepMind), publicaron una carta en la que solicitaban la creación de un panel internacional sobre seguridad de la IA. Ambos mencionan que antes de implementar una regulación excesiva, es necesario que los gobiernos y el público sepan cuáles son los riesgos más cruciales. Schmidt y Suleyman consideran que el IPCC serviría de inspiración en la creación de este organismo.
La IA requiere de un organismo independiente para abordar los riesgos
Demis Hassabis está a favor de una regulación de la inteligencia artificial. El directivo señala que la supervisión podría realizarse a través de un grupo de expertos, como el IPCC. La organización intergubernamental tiene como objetivo proveer una opinión objetiva y científica sobre el cambio climático, sus riesgos y opciones de mitigación.
Un panel similar, pero enfocado en inteligencia artificial, recopilaría datos, presentaría informes y haría un seguimiento a los posibles peligros y soluciones potenciales. Este organismo estaría conformado por investigadores, científicos y expertos en tecnología. Posteriormente, los gobiernos tomarían esta información para aplicar las regulaciones necesarias.
El jefe de Google DeepMind no solo piensa en un panel similar al IPCC, sino otras organizaciones como el CERN o el Organismo Internacional de Energía Atómica.
“Lo que me gustaría ver eventualmente es un equivalente de un CERN para la seguridad de la IA que investigue sobre eso, pero a nivel internacional,” mencionó. “Y luego tal vez algún día haya algún tipo de equivalente de la OIEA, que realmente audite estas cosas”.
Demis Hassabis y otros expertos participarán en la primera cumbre global sobre seguridad de la inteligencia artificial en Reino Unido. El objetivo de esta reunión será abordar los riesgos por el uso indebido y por pérdida de control. El primero de ellos se enfocará en las formas en que una IA puede ayudar a cometer delitos, mientras que el segundo plantea un escenario similar a Skynet, en donde los sistemas se vuelven en nuestra contra.
La Cumbre de Seguridad de la IA se llevará a cabo el 1 y 2 de noviembre en Bletchley Park, el mismo sitio en donde Alan Turing descifró el código Enigma durante la Segunda Guerra Mundial.
