Instagram ha dado un paso más en la seguridad de la aplicación con inteligencia artificial. La red social ha añadido un nuevo filtro para borrar comentarios ofensivos en los mensajes y vídeos en directo, además de un bloqueo de spam disponible en nueve idiomas.

La opción para bloquear comentarios estará habilitada por defecto, aunque el usuario puede desactivarla en cualquier momento en la configuración de la aplicación. Hasta el momento, la nueva medida de seguridad estará solamente disponible para comentarios escritos en inglés, pero Instagram ha afirmado en un comunicado que ofrecerá próximamente el bloqueo en otros idiomas.

Sin embargo, el filtro para bloquear spam está disponible en inglés, español, portugués, árabe, francés, alemán, ruso, japonés y chino y busca cualquier tipo de spam en las publicaciones de los usuarios para eliminarlo.

Kevin Systrom, CEO y cofundador de Instagram explicó que "nuestro equipo ha estado entrenando para reconocer comentarios ofensivos y spam. Las herramientas mejorarán con el tiempo, lo que permitirá mejorar la experiencia de compartir la comunidad".

Hasta ahora, la red social eliminaba palabras que habían sido clasificadas como injuriosas y, además, los usuarios podían añadir otras que consideraban ofensivas. El nuevo filtro ha mejorado el servicio y utiliza el machine learning para que el sistema tome en consideración el contexto del comentario, capture otros potencialmente ofensivos y así intente evitar los errores en la detección de frases negativas.

El hecho de que el sistema pueda poner en contexto una palabra que por sí sola podría considerarse una ofensa es una de las novedades de Instagram. Entender e interpretar las frases era uno de los problemas de este tipo de máquinas que tienen como misión detectar posibles comentarios negativos. El sistema utilizado por Instagram, llamado DeepText, logra que las máquinas puedan llegar a entender el significado de los comentarios gracias a los avances en inteligencia artificial, concretamente, con un concepto que imita la forma en la que el lenguaje funciona en nuestros cerebros, informó Wired.

Facebook también ha empezado a utilizar la inteligencia artificial para bloquear las publicaciones que puedan tener como intención reclutar a terroristas. Por otro lado, las medidas para evitar el acoso y que se intercepten nuevos yihadistas se han endurecido con el aumento de supervisores de 4.500 a 7.500. A pesar de ello, los retos parecen ser muchos para conseguir un control en los comentarios ofensivos o peligrosos en las redes sociales.

La censura en Facebook podría tener relación con el color de tu piel

Suscríbete gratis a Hipertextual

Estamos más ocupados que nunca y hay demasiada información, lo sabemos. Déjanos ayudarte. Enviaremos todas las mañanas un correo electrócnio con las historias y artículos que realmente importan de la tecnología, ciencia y cultura digital.