La polémica sigue rodeando a YouTube por la manera en que funciona su algoritmo de recomendación. Anteriormente se les ha criticado por no actuar debidamente contra vídeos que promueven el discurso de odio y la información falsa. Ahora el youtuber Matt Watson expuso cómo la plataforma muestra vídeos de menores con poca ropa, además de permitir que pedófilos publiquen comentarios desagradables en contenidos donde aparecen niños. Es un problema que la web arrastra desde hace años.
Watson inició un tema en Reddit para explicar su descubrimiento. Según menciona, en YouTube hay una gran cantidad de vídeos de niños en los que pedófilos tienen conversaciones indebidas. Hablan de momentos del material en que los menores realizan ciertas posiciones o viven instantes comprometedores. Incluso algunos llegan a compartir enlaces a webs de pornografía infantil en los comentarios.
La inteligencia artificial de Google logró identificar y borrar algunos de esos mensajes. Según las políticas de la web, en cualquier momento pueden deshabitar la sección de comentarios cuando estos son inapropiados. Desafortunadamente, muchos de ellos siguen estando a la vista de cualquier espectador sin que YouTube tome cartas en el asunto.
De igual manera es preocupante que los vídeos involucrados están llegando a secciones de contenido recomendado, evidenciando nuevamente la ineficiencia del algoritmo. El youtuber grabó un vídeo para señalar que, después de buscar clips de "mujeres en bikini", la plataforma comenzó a sugerir material de menores con poca ropa o realizando retos mal confundidos con actos sexuales.
YouTube y su tímido intento de mostrar menos videos de conspiraciones
Por otra parte, algunos vídeos de niños mostraban anuncios con mensajes impropios. Watson no dudó en acusar a YouTube de facilitar y monetizar la explotación sexual de niños. Un portavoz de la empresa se puso en contacto con el portal TechCrunch para hablar del tema, asegurando que ya se encuentran investigando los hechos expuestos por el youtuber y revisando cada vídeo presentado como prueba. Destacan que han eliminado algunos contenidos en las últimas horas.
Parte del comunicado menciona lo siguiente: "Cualquier contenido, incluidos los comentarios, que ponga en peligro a los menores de edad, es abominable y tenemos políticas claras que lo prohíben en YouTube. Aplicamos estas políticas de manera agresiva, informándolas a las autoridades pertinentes, eliminándolas de nuestra plataforma y cancelando cuentas". Está claro que no han sido eficientes aplicando su normativa.
Su declaración revela que se encuentran realizando inversiones importantes para mejorar su tecnología y equipos, lo cual debería tener resultados positivos en el contenido que recomienda su algoritmo y en bloquear comentarios inadecuados. El portavoz afirmó que identificar el contexto de los comentarios sigue siendo todo un reto para su sistema de moderación con inteligencia artificial.
Lo anterior los ha obligado a involucrar humanos que cumplan el mismo propósito. Actualmente cuentan con 10.000 personas revisando contenido denunciando o recién subido. La tarea es complicada, ya que en YouTube se suben aproximadamente 400 horas de vídeo cada minuto. La plataforma no quiso expresarse sobre el tema de monetizar estos contenidos, una problemática que constantemente evaden.
