Arve Hjalmar Holmen, un hombre noruego, ha denunciado a OpenAI después de comprobar que ChatGPT le describía como un asesino que mató a dos de sus hijos e intentó matar al tercero; todo ello con datos reales que hacían aún más creíble la situación, pese a que es completamente falsa.
En la denuncia, presentada al Norwegian Datatilsynet por un grupo de defensa austriaco llamado Noyb, Holmen asegura que escribió a ChatGPT porque tenía curiosidad qué diría el chatbot de OpenAI sobre él. Este arrojó una respuesta en la que detallaba que Arve Hjalmar Holmen había sido condenado por asesinato y por intento de asesinato, y que se encontraba cumpliendo 21 años de condena en una prisión noruega. Todo ello, además, con datos reales.
En concreto, la respuesta de ChatGPT arroja que Holmen es padre de dos niños de 7 y 10 años “que fueron trágicamente encontrados muertos en un estanque fuera de su casa en Trondheim, Noruega,”, siendo únicamente real la edad de los hijos, así como la localidad en la que vive el demandante.
ChatGPT difundió información falsa mezclada con datos reales
Esto ha llevado a Noyb a denunciar a OpenAI por incumplimiento del Reglamento General de Protección de Datos de la Unión Europea (RGPD, por sus siglas en inglés), pidiendo tanto una multa como una solicitud para que mejoren su modelo y puedan evitar errores similares en un futuro.
El grupo de defensa, además, asegura que “Mostrar a los usuarios de ChatGPT un pequeño descargo de responsabilidad de que el chatbot puede cometer errores claramente no es suficiente. No puedes simplemente difundir información falsa y al final agregar un pequeño descargo de responsabilidad diciendo que todo lo que dijiste puede no ser cierto”.
Curiosamente, Noyb ya presentó otra demanda a OpenAI hace un año, cuando ChatGPT mostró una fecha de nacimiento errónea de una figura pública. La compañía alegó que no podían modificar datos erróneos, sino simplemente bloquearlos conforme al cumplimiento de la ley de Protección de Datos de la Unión Europea..
