El secretario general de la ONU, António Guterres, está a favor de que la inteligencia artificial (IA) sea regulada por un organismo mundial de vigilancia. Algo parecido a la Agencia Internacional de Energía Atómica (OIEA). Guterres anunció que ya está en planes la creación de un ente asesor de alto nivel para tratar las preocupaciones sobre el desarrollo de esta tecnología.
«Las campanas de alarma sobre la última forma de IA, la generativa, son ensordecedoras. Y son más fuertes por parte de los desarrolladores que la diseñaron», dijo Guterres este lunes en una conferencia de prensa. «Debemos tomar esas advertencias en serio».
Guterres dijo que la propuesta de un organismo global de regulación es «muy interesante». Sin embargo, aclaró que «solo los estados miembros pueden crearlo, no la Secretaría de la ONU». El funcionario explicó que, mientras tanto, nombrarán una junta asesora, integrada por expertos en IA y científicos de las agencias de la ONU.
Antes de fin de año, además, esperan avanzar en la creación de un ente asesor que pueda revisar periódicamente los acuerdos de gobernanza de IA y ofrecer recomendaciones. El objetivo será garantizar que estas políticas estén alineadas con los derechos humanos, el estado de derecho y el bien común.
El primer ministro británico, Rishi Sunak, anunció la semana pasada que Gran Bretaña organizará una cumbre a finales de este año para discutir la posibilidad de una regulación global coordinada. Gutierres aplaudió la iniciativa, pero dijo que el encuentro tiene que estar precedido por un «trabajo serio».
Un acuerdo en la ONU para la IA como el de las armas nucleares
El OIEA, con sede en Viena, fue creado en 1957 como respuesta a los temores generados por los avances de la tecnología nuclear. El organismo promueve el uso seguro, protegido y pacífico de la energía nuclear y vigila eventuales violaciones al Tratado de No Proliferación (TNP). Su estatuto está ratificado por 176 estados miembros.
«Yo sería favorable a la idea de que pudiéramos tener una agencia de IA, inspirada en lo que hoy es la OIEA», dijo hoy el secretario de la ONU en la conferencia de prensa. Es una idea que viene rodando desde hace semanas y ha sido respaldada, incluso, por los propios desarrolladores.
El CEO de OpenAI, Sam Altman, propuso la creación de una agencia global durante una comparecencia ante el Senado de Estados Unidos, celebrada en mayo. Altman, la cara visible de la compañía creadora de ChatGPT, dijo entonces que este organismo podría otorgar licencias a los sistemas de IA más poderosos o retirarlas si estos no garantizan el cumplimiento de estándares de seguridad. «Si esta tecnología sale mal, puede salir bastante mal», advirtió.
Los líderes del Grupo de los Siete (G7), que reúne a las democracias con las economías más ricas del mundo, también se mostraron a favor de estándares internacionales para la inteligencia artificial. La alianza anunció el mes pasado la creación del Proceso de Hiroshima, un marco para las conversaciones en el ámbito de gabinete que se están desarrollando sobre el tema. Prometieron presentar propuestas concretas antes de fin de año.
Todo esto ocurre mientras el Parlamento Europeo se prepara para votar este mes la que podría ser la primera ley integral de inteligencia artificial del mundo. El borrador del proyecto contempla medidas estrictas que limitarían la implementación de sistemas de reconocimiento facial y vigilancia biométrica, entre otros aspectos.