Un alcalde regional de Australia ha amenazado con denunciar a OpenAI si no corrige las afirmaciones falsas hechas por ChatGPT. El bot aseguraba en sus respuestas que el funcionario estuvo en prisión por corrupción. De avanzar, sería la primera demanda por difamación en el mundo contra un sistema de Inteligencia Artificial (IA) de este tipo.
Brian Hood, el alcalde de Hepburn Shire (al noroeste de Melbourne), trabajó hace varios años para Note Printing Australia, una subsidiaria del Banco de la Reserva de Australia. Hace poco, fue advertido que ChatGPT lo relacionaba con un escándalo de soborno, que involucró a esta oficina a principios de la década de 2000.
Toda la información es falsa. De hecho, Hood fue quien denunció ante las autoridades el pago fraudulento a funcionarios extranjeros dentro de esta subsidiaria para ganar contratos de impresión de moneda.
Los abogados de Hood enviaron una carta de preocupación a OpenAI, dándole 28 días para eliminar el error. De lo contrario, procederían con la acción judicial por dañar la reputación del alcalde. La compañía, con sede en San Francisco (Estados Unidos), todavía no ha respondido al reclamo.
La acusación por difamación, un precedente histórico contra OpenAI
Las penalidades por difamación en Australia pueden llegar a tener un tope de cerca de $269 mil dólares (unos 247 mil euros). El equipo de Hood no tiene en claro la cantidad exacta de personas que habían accedido a la información falsa que denuncia, un elemento clave al momento de determinar el pago.
James Naughton, socio de la firma de abogados que asiste al alcalde, dijo a Reuters que las declaraciones eran de tal gravedad que les permitiría reclamar a OpenAI cerca de $180 mil dólares (165 mil euros), como indemnización por la acción de difamación.
"Sería un momento histórico en el sentido de que se estaría aplicando la ley de difamación a una nueva área de la inteligencia artificial", dijo Naughton. El equipo legal basa su acusación en una consideración sobre "mala conducta corporativa".
Conflictos legales en todo el mundo
La acusación por difamación se suma a varias investigaciones abiertas contra OpenAI en distintas partes del mundo. Italia ha tomado la medida más contundente hasta ahora, al imponer un bloqueo a ChatGPT. El organismo que vela por la privacidad en este país acusó al chatbot de recolectar de manera ilegal los datos personales de los usuarios. También de no contar con herramientas para verificar la edad de las personas que utilizan la herramienta.
Canadá hizo lo propio esta semana. La Oficina del Comisionado de Privacidad anunció ayer que iniciaría una investigación contra OpenAI, también por procesar información personal sin consentimiento.
La generación de contenido falso o inexacto es una de las grandes alarmas que han levantado los expertos, en medio de la lluvia de lanzamientos de chatbots impulsados por IA. Una investigación de Newsguard comprobó, por ejemplo, que ChatGPT y GPT-4 generan fácilmente contenido sobre teorías conspirativas como si se tratara de información verídica.