Instagram ha anunciado nuevas herramientas para combatir la intimidación en su plataforma. Estas incluyen inteligencia artificial (IA) para identificar e informar a su equipo sobre cualquier tipo de acoso en las imágenes, así como un nuevo efecto para la cámara como una forma de difundir la amabilidad en las historias de la red social.
Las nuevas herramientas y el efecto de cámara han comenzado a ser desplegadas a partir de hoy e irán llegando de forma gradual a todas las regiones. Su implementación tiene como el fin ayudar a identificar y eliminar todo tipo de intimidación, ya que los más jóvenes son los que presentan mayores tasas de acoso.
Instagram desbanca a Facebook como la red con más ciberacoso
Aprendizaje automático contra el acoso
Esta herramienta de aprendizaje automático se encargará de detectar cualquier acoso en las fotos o los comentarios de las mismas. Si la IA considera que la imagen es dañina, enviará a revisión a los moderadores de la empresa también propiedad de Facebook.
Meses atrás, Instagram lanzó un filtro de comentarios para detectar y ocultar el acoso de forma proactiva en las pestañas de Feed, Perfil y Explorar. Ahora, ese filtro ha sido añadido para los comentarios de los vídeos en vivo, con lo cual la empresa asegura que también serán detectadas este tipo de expresiones y así se podrá evitar el acoso durante las transmisiones en directo.
Nuevo efecto para la cámara
Finalmente, la red social ha integrado un nuevo efecto de cámara para celebrar la amabilidad y la bondad. Este filtro ha sido realizado junto con la actriz, bailarina y autora best-seller adolescente del New York Times Maddie Ziegler, quien se ha manifestado en contra del acoso desde que lo ha vivido en carne propia.
Para obtenerlo de forma automática, sólo es necesario seguirla. Después, podrás usarlo de la misma manera que otros efectos: desliza para acceder a la cámara, haz clic en las caras de la parte inferior y elige el nuevo efecto. En caso de no seguir a Maddie pero que veas a alguien usar el efecto, puedes darle clic a “intentarlo” para añadirlo a las opciones de efectos que tienes en tu cámara.
“En el modo autofoto, los corazones llenarán la pantalla y se te alentará a etiquetar a un amigo al que quieras apoyar. Tu amigo recibirá una notificación de que los mencionaste en tu historia”, explica la red social. “Si cambias a la cámara trasera, verás una superposición de comentarios amables en muchos idiomas”.
Cabe destacar que no es la primera vez que se utiliza IA para la detección automática. Facebook ha hecho lo propio con la llamada Rosetta para detectar el lenguaje ofensivo en las imágenes. A pesar de esto, los esfuerzos de moderación cuando se trata de otro idioma que no es el inglés siguen siendo muy ineficientes.