El furor por la creación de contenidos utilizando herramientas de inteligencia artificial no emociona demasiado a los censores de Internet de China. Según recoge Ars Technica, la Administración del Ciberespacio del gigante asiático ha emitido una serie de regulaciones que prohíbe el uso de IA para la creación de imágenes, texto, vídeos o audio. Salvo que cumplan con una condición: que incluyan marcas que los identifiquen —una marca de agua, por ejemplo—.
Si bien China reconoce que la inteligencia artificial es clave para el crecimiento económico futuro del país, las autoridades quieren asegurarse de que no se la utilice para labores que consideran inapropiadas. Y todas las plataformas que ofrezcan herramientas para crear contenidos "sintéticos" —similares a lo que vemos en Occidente con Dall-E, ChatGPT, Stable Diffusion, etc.— deberán demostrar ante el gobierno chino que cumplen con las reglas.
"Los servicios que brindan funciones como diálogo inteligente, voz humana sintetizada, generación de rostros humanos y escenas realistas inmersivas que generan o cambian significativamente el contenido de la información, se marcarán de manera destacada para evitar la confusión pública o la identificación errónea", indicaron las autoridades asiáticas. Además, como era de esperarse, las marcas que identifiquen el contenido creado con inteligencia artificial no podrán ser eliminadas o editadas.
A China no le agradan los contenidos generados con inteligencia artificial
Los motivos tras esta nueva regulación de China no sorprenden demasiado. Después de todo, es sabido que las autoridades no permiten a los ciudadanos acceder libremente a la web, y ejercen un duro control sobre la actividad en línea. Aunque la labor de los censores no se limita a eso. Los medios de comunicación, las series de TV y hasta las películas también se modifican bajo la excusa de mantener la paz social. Y en el caso del contenido generado con inteligencia artificial, la justificación es la misma.
"En los últimos años, la tecnología de síntesis profunda se ha desarrollado rápidamente. Mientras satisface las necesidades del usuario y mejora la experiencia del usuario, también ha sido utilizado por algunas personas sin escrúpulos para producir, copiar, publicar y difundir información ilegal y dañina, para calumniar y menospreciar la reputación y el honor de otros, y para falsificar la identidad de otros. La comisión de fraude, etc., afecta el orden de las comunicaciones y el orden social, lesiona los derechos e intereses legítimos de las personas y pone en peligro la seguridad nacional y la estabilidad social".
Administración del Ciberespacio de China.
La nueva regulación de China sobre los contenidos generados con inteligencia artificial entrará en vigencia el próximo 10 de enero de 2023. Vale mencionar que las autoridades no solo mantendrán un estricto control sobre las empresas que ofrezcan herramientas de IA, sino también sobre sus usuarios.
Una vez que la reglamentación se encuentre activa, las personas que deseen utilizar servicios equivalentes a Dall-E o ChatGPT tendrán que registrarse utilizando cuentas con nombres reales. De esta manera, el gobierno chino podrá rastrear la totalidad de sus acciones y tomar medidas en caso de considerar que están cometiendo un delito.
Más control sobre la IA
Claro que no es la primera vez que China le apunta a las herramientas de inteligencia artificial. En 2019, los censores de la Administración del Ciberespacio prohibieron la publicación y distribución de "noticias falsas" creadas utilizando realidad virtual e IA. En aquella oportunidad, los reguladores habían puesto el punto de mira sobre los deepfakes.
La regulación había entrado en vigor tras la explosión en popularidad de apps que permitían modificar imágenes en cuestión de segundos. Uno de los casos más resonantes fue el de ZAO, una aplicación para móviles que permitía a los usuarios colocar su cara en el rostro de celebridades u actores en fragmentos de series y películas de Hollywood.
Por entonces, China había asegurado que los deepfakes ponían en peligro la seguridad nacional y perturbaban la estabilidad y el orden social. Un mismo libreto para distintos casos, claramente.
Más allá de ahora enfocarse en el uso de la inteligencia artificial para la creación de contenidos, la postura china está lejos de sorprender. No olvidemos que, durante el último año, a Xi Jinping no le ha temblado el pulso para torpedear a las principales tecnológicas de su propio país.