Instagram acaba de publicar una declaración de intenciones sobre la prevención de suicidios y autolesiones muy importante. Aprovechan su propia tecnología para prevenir conductas que podrían ser peligrosas para los usuarios de esta plataforma.

El anuncio reside en que implementarán medidas no solo para divulgación de acciones que puedan dañar la sensibilidad y la propia integridad física de los afectados a través de Instagram. También en la prevención de este tipo de conductas antes de un mal mayor.

Este anuncio es importante porque no podemos olvidar la gran repercusión que tiene Instagram en nuestra sociedad. Vivimos enfrentados a los Likes y a los comentarios positivos, donde solo uno negativo, puede echar a perder nuestra emoción de compartir una publicación.

Quizás pienses que es una exageración, pero cada persona es un mundo y puede afectar de manera diferente a cada uno de ellos. No es la primera vez que hemos escuchado algún tipo de desgracia por la mala popularidad en redes sociales o directamente por el acoso sufrido.

La tecnología de Instagram es capaz de detectar y prevenir la salud mental

Contador de likes de Intagram con cero likes
Imagen: Prateek Katyal.

La ventana emergente de Instagram tiene un doble filo, el primero es positivo, en el que podemos compartir nuestras historias libremente a todo el mundo. El segundo y más negativo, son las conductas suicidas que pueden llegar a ser compartidas y por desgracia, difundidas al resto de usuarios sin prácticamente ningún control.

Instagram lleva años intentando luchar con este problema, no solo con la divulgación de publicaciones de autolesiones o suicidios, también en la prevención. Gracias a su tecnología, son capaces de detectar a tiempo situaciones que deriven en el suicidio o en las autolesiones.

Para complementar la prevención, una vez que detectan alguna conducta que pueda derivar a ello, la compañía pone en conocimiento las actitudes sospechosas con organizaciones especializadas. Gracias a ello, han evitado situaciones complicadas en un número cercano al 90% de los casos.

La ambición de Adam Mosseri -Jefe de Instagram- va un paso más allá y quiere rozar el 100% de los casos detectados por la tecnología de Instagram. Un reto que seguramente puedan llegar conseguir gracias a la evolución de la tecnología propia utilizada para este fin.

Los números que han ayudado a miles de usuarios

Forever alone en Instagram

Las medidas que tomó Instagram con la ayuda de su tecnología, nos hace ver las aciones y medidas que implementaron desde el año 2019 hasta nuestra actualidad. Resulta interesante ver el número de efectividad que ha ido detectando Instagram, llegando al 94% en el trimestre pasado.

  • Informe de Cumplimiento de Normas Comunitarias del Segundo trimestre de 2019: Tomó medidas sobre 835.000 piezas de contenido, casi el 78% se encontró proactivamente.

  • Informe de Aplicación de Normas Comunitarias del tercer trimestre de 2019: Tomó medidas sobre 845.000 piezas de contenido de suicidio y autolesiones, más del 79% encontradas proactivamente.

  • Informe de Cumplimiento de Normas Comunitarias del cuarto trimestre de 2019: Tomó medidas sobre 897.000 piezas de contenido, más del 83% encontradas proactivamente.

  • Informe de Cumplimiento de Normas Comunitarias del Primer trimestre de 2020: Tomó medidas sobre 1,3 millones de piezas de contenido, casi el 90% se encontraron proactivamente.

  • Informe de Cumplimiento de Normas Comunitarias del Segundo trimestre de 2020: Tomó medidas sobre 275.000 piezas de contenido, casi el 94% encontradas proactivamente. Nuestros números de cumplimiento fueron más bajos durante este período, como resultado del impacto de COVID-19 en la revisión de contenido.

  • Informe de Cumplimiento de Normas Comunitarias del tercer trimestre de 2020: Publicaremos nuestro próximo informe a finales de este mes.

Instagram implementa sus medidas en Europa

Las medidas presentadas por Instagram ya estaban vigentes en otros países, ahora hace lo propio directamente en Europa para brindar este apoyo a los usuarios que lo necesiten. Esta acción realmente es realmente positiva, ya que nos iguala en apoyo en caso de necesitarlo y ponerlos al mismo nivel que otras regiones.

Gracias a ello, Instagram podrá conectar con organizaciones especializas para transmitir la preocupación de algún usuario de la red social que pueda necesitar ayuda en un momento delicado de su vida. Todos hemos pasado una mala racha y quizás hemos sentido vergüenza en solicitar ayuda a un especialista, así que este impulso de oficio puede ser realmente positivo.

Estamos acostumbrados a hablar libremente sobre algún accidente físico en el que hemos acudido a un centro sanitario con total naturalidad, pero cuando es algo intangible, que no se ve a simple vista, la cosa cambia y pasa a ser un tema tabú cuando debería ser algo normalizado.

Aquí es donde Instagram tendrá un papel importante y el que los datos han demostrado su eficacia en otras regiones, por suerte, ahora también harán lo propio dentro de la Unión Europea.

Evolución de las acciones tomadas

instagram

La línea de tiempo ofrecida por Instagram, nos muestran los pasos que han seguido desde el año 2016 hasta la actualidad. Estos datos marcan cada unas de las pautas que han seguido hasta llegar a la actualidad.

  • Diciembre de 2016: Se lanzó informes anónimos para publicaciones autolesiones y comenzó a conectar a las personas con organizaciones que pueden proporcionar ayuda.

  • Marzo de 2017: Herramientas integradas de prevención del suicidio en Facebook Live, lo que facilita a amigos y familiares denunciar y llegar a la gente en tiempo real.

  • Noviembre de 2017: Se implementó tecnología fuera de los EE. UU. (excepto en Europa) para ayudar a identificar cuándo alguien podría estar expresando pensamientos de suicidio, incluso en Facebook Live. Comenzó a usar la IA para priorizar los informes, para ayudarnos a enviar ayuda a la gente y alertar a los servicios de emergencia lo más rápido posible.

  • Septiembre de 2018: Se creó una Guía para padres con adolescentes que usan Instagram.

  • Febrero de 2019: Comenzó a organizar consultas regulares con expertos en seguridad y prevención del suicidio de todo el mundo para discutir la evolución de la complejidad del suicidio y las autolesiones, y para escuchar comentarios regulares sobre nuestro enfoque.

  • Febrero de 2019: Ampliamos nuestras políticas para prohibir todo el contenido gráfico de suicidio y autolesiones, incluso si anteriormente se hubiera permitido como admisión. También hicimos que este contenido fuera más difícil de encontrar en la búsqueda, bloqueamos hashtags relacionados y aplicamos pantallas de sensibilidad a todo el contenido de admisión, enviando recursos a más personas que publican o buscaban este tipo de contenido.

  • Octubre de 2019: Ampliamos nuestras políticas para prohibir el contenido ficticio de autolesiones o suicidio, incluidos memes e ilustraciones, y contenido que contiene métodos o materiales.

  • Septiembre de 2020: Colaboró con los samaritanos en el lanzamiento de sus nuevas directrices sobre cómo gestionar de forma segura el contenido de autolesiones y suicidio en línea.

  • Octubre de 2020: Se agregó un mensaje en la parte superior de todos los resultados de búsqueda, cuando busca términos relacionados con suicidio o autolesión. El mensaje ofrece apoyo y dirige a las personas a las organizaciones locales que pueden ayudar.

  • Noviembre de 2020: Tecnología implementada en la UE para encontrar proactivamente contenido de suicidio y autolesión más dañino y hacerlo menos visible.

Los números hablan por si solos y muestran el compromiso de Instagram no solo para la divulgación de material sensible al resto de la comunidad, también para detectar a tiempo situaciones complicadas como las autolesiones y suicidios para ofrecer ayuda profesional.