El algoritmo de YouTube recomendó cientos de videos sobre armas y violencia armada a cuentas de niños interesados ​​en videojuegos, según un nuevo estudio. Algunos de los contenidos sugeridos daban instrucciones sobre cómo convertir pistolas en armas automáticas o mostraban tiroteos en escuelas.

La investigación fue realizada por Tech Transparency Project (TTP), un proyecto sin fines de lucro que monitorea el trabajo de las grandes tecnológicas. Para este estudio, los analistas crearon cuatro cuentas de YouTube: dos identificadas como niños de nueve años y dos identificadas como niños de 14 años. Luego simularon ser menores de edad a los que les gustaban los videojuegos, reproduciendo videos sobre la temática. Con una diferencia clave: la mitad de los perfiles solo vio material recomendado por la plataforma y el resto nunca interactuó con él.

El estudio encontró que YouTube envió contenido sobre tiroteos y armas a todas las cuentas. Sin embargo, lo hizo en un mayor volumen a los usuarios que hicieron clic en los videos recomendados. En algunos casos, hasta 10 veces más. Es decir, si un menor mostró interés en los videos sugeridos por YouTube, el algoritmo presentó cada vez más contenido relacionado con la violencia en el mundo real.

Un video mostraba a una niña en edad de escuela primaria sujetando una pistola. En otro, se veía a un hombre que usaba una pistola calibre .50 para dispararle a una cabeza ficticia, llena de sangre y cerebros realistas. El equipo registró también escenas reales que mostraban tiroteos en escuelas y otros eventos parecidos.

Los videos de armas y las políticas de YouTube

El hallazgo del estudio desmiente las garantías que YouTube ha ofrecido sobre la seguridad de sus algoritmos. "Las recomendaciones de YouTube en realidad no están dirigiendo a los espectadores hacia contenido extremo", publicó en 2021 en el blog de la plataforma el entonces vicepresidente de ingeniería de la compañía, Cristos Goodrow. "La entrega de recomendaciones responsables es nuestra máxima prioridad", aseguró entonces.

YouTube envió 382 videos de armas de fuego reales a la cuenta que simulaba ser un niño de nueve años y que vio solo contenido recomendado. Todo esto en un solo mes, lo que sería un promedio de más de 12 por día. El volumen fue mucho mayor en los usuarios de 14 años: mostró 1.325 videos de armas de fuego reales, un promedio de más de 44 por día.

Las cuentas que ignoraron las sugerencias recibieron algunos videos relacionados con armas, pero en mucha menor cantidad: 34 para las de nueve años y 172 para las de 14 años.

“Los videojuegos son una de las actividades más populares para los niños. Puedes jugar un juego como Call of Duty sin terminar en una tienda de armas, pero YouTube los está llevando allí”, dijo Katie Paul, directora de TTP, a AP. "No son los videojuegos, no son los niños. Son los algoritmos".

El peligro más allá de la pantalla

YouTube, en dos días diferentes de la investigación, llegó a recomendar más de 100 videos de armas en un solo día a la cuenta de 14 años. Algunos contenidos aparecieron en las sugerencias varias veces, incluido uno titulado “Niños de 12 y 14 años tienen una ENORME pelea con la policía”, que muestra imágenes registradas por las autoridades en un tiroteo nocturno.

Los investigadores encontraron también un video que se llamaba "Cómo poner un interruptor en una glock (fines educativos solamente)", entre varios más que explicaban cómo usar un arma. YouTube lo eliminó al poco tiempo, pero el propietario del canal donde estaba este material lo volvió a subir con ligeros cambios en el título. Hasta esta semana, el video seguía disponible. Además, se monetizaba con publicidad.

En mayo de 2022 ocurrió un tiroteo en Buffalo, Nueva York, en el que murieron 10 personas y tres resultaron heridas. La mayoría fueron personas negras. El tirador, de 18 años, había aprendido a mejorar su puntería, a recargar armas de fuego más rápido y modificar su rifle viendo videos de YouTube, según un reporte del grupo Everytown for Gun Safety Support Fund.

Una encuesta de Pew Research de 2022 asegura que YouTube, propiedad de Google, es la plataforma de redes sociales más popular para niños de entre 13 y 17 años en Estados Unidos. El 95% de los encuestados dijeron que usaban YouTube. La que más se le acerca es TikTok, con 65%. A pesar de su popularidad en los más jóvenes, sostiene el TTP, YouTube ha escapado en gran medida al intenso escrutinio al que sí se somete a redes sociales como TikTok e Instagram.