China anunció que revisará a fondo las IA generativas (como ChatGPT) antes de autorizar su uso en el país. La Administración del Ciberespacio de China (CAC) publicó las Medidas de gestión para los servicios de inteligencia artificial generativa, una serie de lineamientos que deberán cumplir las empresas que busquen ofrecer productos con esta tecnología en el país. Si bien el documento es apenas un borrador, deja claro las intenciones por establecer una regulación gubernamental.
El CAC establece que las medidas se formularon de conformidad con la ley de seguridad de datos, la ley de protección de información personal y la ley de seguridad en internet. Bajo este esquema, el Gobierno indicó que las IA generativas deberán reflejar los valores del socialismo, evitar la discriminación, respetar los derechos de autor y ofrecer contenido verdadero y preciso.
El anuncio del Gobierno se da en un momento clave para esta tecnología en el país asiático. Empresas como Baidu y Alibaba ya presentaron sus IA generativas con las que planean hacer frente a ChatGPT. Aunque todavía no se encuentran al nivel de GPT-4, las alternativas chinas buscan ofrecer opciones similares para quienes utilicen los servicios de cada compañía.
Estas son las reglas que deberán cumplir las IA generativas en China
Las reglas se aplicarán a la investigación, desarrollo y productos de inteligencia artificial generativa capaces de producir texto, imágenes, video, sonidos y otro contenido apoyándose de algoritmos y, modelos. Si bien la idea de una regulación representa un freno al avance de la IA, el CAC dejó claro que el Estado apoya la innovación.
La provisión de productos o servicios de inteligencia artificial generativa deberá cumplir con los requisitos de las leyes y reglamentos, respetar la moral social, el orden público y las buenas costumbres, y cumplir con los siguientes requisitos:
- El contenido generado por la inteligencia artificial generativa debe reflejar los valores fundamentales del socialismo y no debe contener la subversión del poder estatal, el derrocamiento del sistema socialista, la incitación a dividir el país, socavar la unidad nacional, promover el terrorismo, el extremismo y promover el odio y discriminación étnica, violencia, información obscena y pornográfica, información falsa y contenido que pueda perturbar el orden económico y social.
- En el proceso de diseño de algoritmos, selección de datos de entrenamiento, generación y optimización de modelos y prestación de servicios, se tomarán medidas para prevenir la discriminación basada en raza, etnia, creencia, país, región, género, edad, ocupación, etc.
- Se deben respetar los derechos de propiedad intelectual y la ética empresarial, y no se utilizarán algoritmos, datos, plataformas y otras ventajas para implementar la competencia desleal.
- El contenido creado por la inteligencia artificial generativa deberá ser verdadero y exacto, y se tomarán medidas para evitar la generación de información falsa.
- Se deben respetar los intereses legítimos de los demás, prevenir daños a la salud física y mental de los demás, dañar los derechos de imagen, los derechos de reputación y la privacidad personal, e infringir los derechos de propiedad intelectual. Se prohíbe la adquisición, divulgación y uso ilegales de información personal, privacidad y secretos comerciales.
Un punto importante de esta regulación es que responsabiliza a empresas o personas sobre el contenido generado por IA. Los proveedores del servicio (como Baidu o Alibaba) deberán asegurarse que los datos con los que entrenen a su inteligencia artificial sean legítimos. La base de datos deberá cumplir con las leyes vigentes y no incluir información personal, contenido que viole derechos de autor o cualquier otra ley.
La Administración del Ciberespacio de China dijo que antes de ofrecer servicios de IA generativa, los productos se someterán a una evaluación de seguridad. En caso de que se descubra que se utilizan para enviar spam o realizar comentarios negativos contra el Gobierno, el servicio será suspendido de inmediato.
Una vez aprobadas, las medidas se aplicarán a todos los productos y servicios impulsados por IA en China. En teoría, si ChatGPT decidiera entrar al país asiático, OpenAI tendría que cumplir con las reglas. Esto último es poco probable que ocurra debido, al bloqueo de aplicaciones occidentales impuesto por Pekín.