ChatGPT está en la mira de los reguladores y oficiales de gobierno. Tras un polémico bloqueo en Italia, el chatbot impulsado por inteligencia artificial enfrenta un nuevo obstáculo. De acuerdo con Betakit, la Oficina del Comisionado de Privacidad de Canadá anunció que inició una investigación contra OpenAI tras ser acusada de recuperar información personal sin consentimiento.
Philippe Dufresne, comisionado de privacidad, reveló que los creadores de ChatGPT han recopilado, usado y divulgado información personal sin consentimiento. La oficina no ofreció detalles y se limitó a decir que se trata de una investigación en curso, por lo que habrá más información hasta un nuevo avance.
«La tecnología de inteligencia artificial y sus efectos en la privacidad es una prioridad para mi oficina», dijo el comisionado de privacidad, Philippe Dufresne. «Necesitamos mantenernos al día y anticiparnos a los rápidos avances tecnológicos, y esa es una de mis áreas de enfoque clave como Comisionado», mencionó. La oficina a cargo de Dufresne se encarga de hacer cumplir las leyes federales de privacidad, principalmente el modo en que el gobierno y las empresas manejan los datos personales.
La investigación contra OpenAI llega en un momento decisivo para las IA generativas. Hace apenas unos días, Italia sorprendió al mundo al imponer un bloqueo a ChatGPT. La oficina de protección de datos personales acusó al chatbot de recolectar datos sin el consentimiento de los usuarios y giró una orden de suspensión temporal del servicio.
Al regulador no solo le preocupa la recolección ilegal de datos, sino la ausencia de una base legal que lo justifique con el fin de entrenar los algoritmos. El caso de Canadá es similar, por lo que es probable que veamos una suspensión temporal que obligaría a OpenAI a satisfacer estas demandas.
ChatGPT y OpenAI han puesto de cabeza al mundo
El bloqueo de ChatGPT en Italia provocó reacciones en todos los círculos. Si bien la idea de exigir claridad sobre el manejo de datos a OpenAI no es algo descabellado, algunos piensan que el bloqueo estuvo de más. Uno de ellos es Matteo Salvini, ministro de Transporte y una figura polémica de la política italiana. El también vicepresidente del Consejo de Ministros calificó de excesiva la medida.
«No es aceptable que en Italia, patria de Galileo, Marconi y Olivetti, debamos considerar el uso de una VPN para superar un bloqueo como sucede en China y países sin libertad», dijo Salvini en una publicación de Instagram. Por su parte, Sam Altman, director de OpenAI, declaró que acatarían la medida y dejarían de ofrecer ChatGPT en Italia.
Sumado a los reguladores, otras organizaciones buscan bloquear futuras versiones de ChatGPT y su modelo de IA. Una de ellas es el Centro de IA y Política Digital, una organización sin fines de lucro que busca que la FTC investigue a OpenAI. En ella, la organización menciona que GPT-4 es un riesgo para la privacidad y seguridad pública y pide que suspendan la inminente llegada de GPT-5.
La regulación de la IA avanza lento en todos los frentes
La explosión de la inteligencia artificial tomó mal parados a los gobiernos, quienes reman contra corriente para regular la tecnología. La Unión Europea propone una legislación de la IA que aborde los riesgos elevados a la seguridad y derechos fundamentales de las personas. Mientras tanto, Canadá trabaja en el proyecto de ley C-27, que promulgará leyes referentes a la privacidad, protección de datos e inteligencia artificial.
La Ley de Inteligencia Artificial y Datos, establece nuevas medidas para regular el comercio internacional e interprovincial y el comercio en sistemas de inteligencia artificial. Establecería requisitos comunes para el diseño, desarrollo y uso de sistemas de inteligencia artificial, incluidas medidas para mitigar los riesgos de daño y resultados sesgados. También prohibiría prácticas específicas con datos y sistemas de inteligencia artificial que puedan resultar en un daño grave para las personas o sus intereses.
Gobierno de Canadá
Por ahora no existe evidencia sobre un posible bloqueo de ChatGPT en Canadá, tal y como ocurrió en Italia. Aunque los motivos son similares, las leyes de protección de datos son diferentes en cada país. Lo cierto es que este ajetreo podría servir para que OpenAI trabaje en resolver las preocupaciones de los reguladores antes de un veto definitivo.