La Comisión Europea le pidió a Meta, casa matriz de Facebook e Instagram, que deje en claro cuáles son las medidas de protección para prevenir el abuso infantil en sus plataformas. Y fijó un plazo: la compañía de Mark Zuckerberg tiene hasta el próximo 22 de diciembre para responder. De lo contrario, corre el riesgo de que se inicie una investigación formal y sea multada.

El llamado de atención de las autoridades europeas coincide con un nuevo reporte del Wall Street Journal sobre cómo los algoritmos de Instagram promueven redes de pedófilos. El diario estadounidense ya había publicado un avance de su investigación en junio pasado, en la que demostraba que la red social conectaba a consumidores y vendedores de pornografía infantil a través de recomendaciones.

El nuevo informe explica que Meta había ocultado 190.000 grupos en los resultados de búsqueda de Facebook y deshabilitado decenas de miles de otras cuentas. Sin embargo, un portavoz reconoció que el trabajo no había avanzado tan rápido como le hubiera gustado. Y parece que los reguladores de la Unión Europea sienten lo mismo.

Thierry Breton, comisario europeo de Mercado Interior y Servicios, ya le había exigido a Meta en junio pasado que atendiera las denuncias sobre abuso infantil en sus plataformas. «Mark Zuckerberg ahora debe explicar y tomar medidas inmediatas», dijo el funcionario. En noviembre, la Comisión Europea insistió y le pidió a la compañía que diera detalles sobre qué había hecho para cumplir con sus obligaciones relacionadas con la protección de menores.

La versión web de Threads expandirá el alcance de la aplicación de Meta-Instagram.

Los algoritmos de Meta siguen potenciando el abuso infantil

La Comisión Europea, en su nueva advertencia, resalta que Meta está obligada a evaluar y mitigar los riesgos relacionados con la difusión de contenido ilegal y dañino, de acuerdo con la nueva Ley de Mercados Digitales. «La falta de respuesta dentro del plazo podría dar lugar a la imposición de multas coercitivas», explicó en un comunicado.

El brazo ejecutivo de la Unión Europea le pidió a Meta, específicamente, que proporcione información adicional sobre la circulación de material autogenerado de abuso sexual infantil en Instagram. También solicitó aclaraciones sobre el sistema de recomendación de Instagram y la amplificación de contenidos potencialmente dañinos.

La investigación del Wall Street Journal, realizada en colaboración con la Universidad de Stanford y la Universidad de Massachusetts Amherst, había advertido que Instagram permitía incluso hashtags que hacían clara referencia a la pedofilia. Estos enlazaban con cuentas que anunciaban la venta de material sexual infantil. Los perfiles, a menudo, decían que eran administrados por los propios niños.

El Centro Canadiense para la Protección Infantil, una organización sin fines de lucro, dijo que una red de cuentas de Instagram sigue transmiten videos en vivo de abuso sexual infantil, a pesar de que reportaron su existencia a Meta hace meses. Esta red incluye cuentas con hasta 10 millones de seguidores.

Lo mismo está pasando en Facebook. Se corroboró la existencia de grupos públicos que discutían abiertamente sobre sexo con menores. También, cómo el algoritmo recomienda grupos similares a los usuarios, los cuales llegan a tener entre 200.000 y 800.000 suscriptores.

La Unión Europea presiona a Meta para que aclare sus medidas contra el abuso infantil

¿Qué están haciendo los de Mark Zuckerberg?

Cuando los investigadores del Wall Street Journal denunciaron estos grupos a través de informes de usuarios, la empresa dijo que no estaban incumpliendo las regals. «Echamos un vistazo y descubrimos que el grupo no va en contra de nuestras Normas comunitarias», respondió Meta a un informe sobre un gran grupo de Facebook llamado «Incesto».

Los de Mark Zuckerberg dicen haber renovado sus herramientas de software para abordar estos problemas. El objetivo es utilizar la tecnología para identificar «adultos potencialmente sospechosos», mediante la evaluación de su comportamiento. Estos sistemas se han usado antes para impedir que las cuentas de Facebook o Instagram que probablemente pertenecían a pedófilos encontraran y contactaran a niños, explicó la compañía. La idea es ahora evitar que los pedófilos se sigan unos a otros y formen grupos.

La función «Grupos a los que deberías unirte» de Facebook ha sugerido temas como el secuestro. También discusiones sobre «citas» con niños de tan solo 11 años e incluso el uso de cloroformo en mujeres y niños, se comprobó.

Meta también dijo hoy que ha ampliado su lista de términos, frases y emojis relacionados con el abuso infantil. Está aprovechando el aprendizaje automático para detectar conexiones entre diferentes términos de búsqueda, explicó en su blog. Mark Zuckerberg, junto con otros ejecutivos de las grandes empresas tecnológicas, testificarán ante el Senado de EE. UU. en enero de 2024 sobre toda la problemática de la explotación infantil en línea.

Recibe cada mañana nuestra newsletter. Una guía para entender lo que importa en relación con la tecnología, la ciencia y la cultura digital.

Procesando...
¡Listo! Ya estás suscrito

También en Hipertextual: