El hackeo a Hugging Face fue solo la punta del iceberg de la polémica por el accionar de los "agentes rebeldes" de OpenAI. Los bots impulsados por la inteligencia artificial de dicha empresa también atacaron portales del gobierno de Australia y a un centenar de organizaciones. Una de las últimas en dar a conocer este tipo de situaciones fue la Fundación Wikimedia, la responsable de Wikipedia.
A través de su blog oficial, la Fundación Wikimedia reveló la detección de actividad de agentes de OpenAI. La naturaleza de los eventos en cuestión todavía se desconoce, pero se han observado diferentes instancias de acciones automatizadas por parte de la IA desarrollada por la firma californiana.
"No encontramos pruebas de que nuestros sistemas se utilizaran para la coordinación entre agentes. Tampoco hay indicios de que nuestros sistemas o datos se vieran comprometidos. Sin embargo, nos preocupa lo que podría haber ocurrido [...]. La web abierta es un bien público. No debemos permitir que este comportamiento se convierta en la «nueva normalidad» para las personas u organizaciones que la mantienen", indican los desarrolladores de Wikipedia.
Puntualmente, se mencionan múltiples intentos de edición en entradas de Wikipedia. La investigación determinó que las modificaciones no se publicaron en páginas visibles para el público general, por lo que hay indicios de una posible finalidad maliciosa detrás de este comportamiento. Esto se debe a que se han registrado aparentes intentos de utilizar una herramienta de citado de la enciclopedia para descargar datos de servicios remotos.
Por otra parte, se registró un volumen excesivo de descarga de datos a través de las API públicas de la Fundación Wikimedia. La organización cree que el tráfico desmedido provocó la caída parcial de lo que se conoce como Wikidate Query Services en mayo pasado.
Por último, los agentes de OpenAI intentaron hackear Etherpad, una aplicación de código abierto para tomar notas que cuenta con funciones colaborativas y que es muy utilizada por los desarrolladores de Wikipedia. Vale mencionar que las IA rebeldes no habrían logrado su cometido a pesar de múltiples intentos.
Wikipedia reclama que OpenAI se responsabilice por el accionar de sus agentes
La Fundación Wikipedia no se opone al funcionamiento de los agentes de IA. No obstante, sí reclama que las empresas a las que pertenecen se hagan responsables de sus acciones. En tal sentido, la organización explica que los intentos reiterados de acceso sin autorización a características o infraestructuras son de tal magnitud que terminan generando costes muy grandes, pero también llevan al colapso de servidores y a que los voluntarios tengan que perder el tiempo para arreglar el caos que los bots dejan en la plataforma.
"Wikipedia fue diseñada para seres humanos, y el comportamiento de los agentes plantea claramente desafíos para los que nadie tiene solución. Debido a nuestro modelo único y exitoso de creación de conocimiento, los voluntarios de Wikimedia son quienes entran en contacto directo con los agentes de IA y se encargan de limpiar el desorden que estos dejan a su paso", indican desde la Fundación.
Los creadores de Wikipedia reclaman que OpenAI y otras compañías de inteligencia artificial se hagan cargo de las acciones de sus agentes y que tomen medidas para mitigar los riesgos asociados. "Las empresas de IA no están haciendo lo suficiente para asegurar sus sistemas y proteger al público de los daños que estos causan. Esa carga está recayendo sobre todos los demás, incluidas las organizaciones más pequeñas", explicaron.
No es la primera vez que Wikipedia padece los efectos de la inteligencia artificial generativa. En octubre del año pasado, la Enciclopedia Libre reveló que estaba sufriendo una drástica reducción en el tráfico humano. Esto, debido a la cada vez mayor inclinación de los usuarios a depender de forma directa de las respuestas generadas por los resúmenes de IA de Google y otros buscadores.