El pasado mes de enero, una joven de 14 de años de Miami retransmitió en su cuenta de Facebook su suicidio. Como ella, otros usuarios han publicado sus intenciones suicidas en la red social. En algunos casos se han podido evitar, en otros, desgraciadamente, no.
Facebook ha empezado a utilizar inteligencia artificial para identificar a usuarios que estén riesgo de suicidarse y, gracias a u algoritmo, podrán encontrar señales de alerta en publicaciones.
La empresa contactará a aquellas personas que puedan estar en peligro de suicidio para proponerles diferentes maneras de buscar ayuda.
La herramienta, en pruebas en Estados Unidos, es la primera experiencia de Facebook en inteligencia artificial después de que su fundador, Mark Zuckerberg, anunciara su intención de utilizar algoritmos para identificar mensajes terroristas.
Facebook también anunció nuevas formas de abordar el suicidio a través de su herramienta de difusión de Facebook Live y se ha asociado con varias organizaciones de salud mental de Estados Unidos para permitir que los usuarios que puedan estar en peligro se pongan en contacto con ellos a través de su plataforma Messenger.
Las señales que alertarán a la red social de peligro de suicidio serán publicaciones de usuarios relacionados con la tristeza o el dolor, además de comentarios de amigos mostrando su preocupación. ¿Estás bien?" o "Estoy preocupado por ti" serían motivos de sospecha y serían revisados por el equipo de operaciones de la comunidad.
"Sabemos que la velocidad es crítica cuando las cosas son urgentes", afirmó Vanessa Callison-Burch, gerente de producto de Facebook en BBC.
La gerente añadió que cuanto más puedan movilizar la red de apoyo a un individuo en peligro más probable es que obtenga ayuda, aunque la pregunta es cómo pueden llevar a cabo este proceso sin ser invasivos.
El objetivo principal de la nueva tecnología es que equipo de operaciones revise el contenido preocupante lo antes posible, pero se ha descartado eliminar los videos en directo que puedan estar relacionados con el suicidio. "Eso eliminaría la oportunidad de que la gente llegue y ofrezca apoyo", subrayó Jennifer Guadagno, investigadora principal del proyecto.
La opción para contactar con líneas de ayuda a través de Facebook estará solamente disponible en Estados Unidos. Sin embargo, la red social ha subrayado que necesita verificar si otras organizaciones serían capaces de hacer frente a la demanda antes de expandir el servicio.