Facebook anunció una nueva medida para combatir el porno de venganza en sus plataformas. La empresa dijo que se valdrá de inteligencia artificial y aprendizaje automático para detectar imágenes y videos de desnudos que hayan sido compartidos sin el consentimiento de las personas.
Esta nueva tecnología se adhiere a otros mecanismos que la empresa ha utilizado con anterioridad para pelear contra este problema. A diferencia de de ellos, el uso de aprendizaje automático representa un gran avance ya que no es necesario esperar a que exista un reporte para poder eliminar la imagen o video en cuestión.
Este sistema será entrenado y posteriormente revisado por un miembro del equipo de Operaciones Comunitarias, quien determinará si los videos e imágenes violan las Normas de la Comunidad.
Facebook comentó que la detección y eliminación prematura del porno de venganza es importante para la víctima, ya que en ocasiones no se realiza un reporte por temor a represalias o simplemente porque no saben que el contenido ha sido compartido en Facebook o Instagram.
La empresa cuenta con múltiples estrategias para acabar con el contenido sexual que se comparte sin consentimiento. Sus sistemas no solo pueden detectar o dar seguimiento a los reportes, sino también evitan que las imágenes y videos se compartan de nuevo.
Facebook dijo que en la mayoría de los casos se procede a deshabilitar la cuenta que infringe con estas normas, aunque también se ofrece la posibilidad de apelar a la decisión.
'No sin mi consentimiento'
El nuevo sistema de aprendizaje automático forma parte de su programa piloto No sin mi consentimiento que se aplica en plataformas como Facebook, Messenger e Instagram. Sumado a esto, existe una opción en el centro de recursos en donde las víctimas podrán reportar una cuenta que haya compartido imágenes íntimas sin su consentimiento.
Eliminamos las imágenes o los vídeos íntimos que se han compartido sin el permiso de la persona que aparece en ellos o en los que se muestran incidentes de violencia sexual. Además, eliminamos cualquier imagen, vídeo u otro contenido en el que se amenace con compartir imágenes íntimas sin el permiso de la persona que aparece en ellos o en el que se muestren incidentes de violencia sexual.
El programa piloto también ofrece una alternativa para compartir de modo seguro un contenido con Facebook por medio de una organización como The Revenge Porn Helpline, Cyber Civil Rights Initiative y más. Estos socios actúan como intermediarios en casos donde exista una amenaza de por medio y brindan orientación a la víctima.
Posteriormente podrá compartirse el contenido íntimo con un pequeño grupo de empleados de la tecnológica, quienes analizarán la información y utilizarán técnicas de reconocimiento de fotos y videos para evitar que se vuelvan a publicar.
La tecnología de Facebook creará una firma digital única en cada archivo para que no se pueda vincular con los perfiles de la víctima ni con otro tipo de información personal. Esta plataforma solo funciona con Messenger, Facebook e Instagram.
WhatsApp no forma parte de esta estrategia, aunque tal vez se implemente a futuro con la consolidación de todas las plataformas de mensajería.
