En un contexto en el que el terrorismo se ha convertido en una de las amenazas más importantes a nivel global, las redes sociales se perfilaron como una manera de interceptar nuevos yihadistas, sobre todo por parte del autoproclamado Estado Islámico. Mark Zuckerberg, fundador de Facebook, afirmó en un texto en el mes de febrero que la compañía está trabajando con Inteligencia Artificial para reconocer las publicaciones de la red social que pueden tener como objetivo reclutar a terroristas.
El fundador de Facebook comparte su visión del futuro en un manifiesto
Desde este momento, las medidas para prevenir los discursos de odio se han endurecido. Sin embargo, parece ser que la línea entre el odio y la libertad de expresión es muy fina y que se rige principalmente por el color de la piel.
Una investigación llevada a cabo por ProPublica ha arrojado nuevos datos sobre las directrices secretas en Facebook, y sostiene que las publicaciones de personas afrodescendientes son eliminadas por la compañía y consideradas incitación al odio, mientras que las de personas blancas no tienen consecuencias.
En primer lugar, ProPublica basa sus afirmaciones en dos reacciones tras el atentado de Londres del pasado 4 de junio. El congresista del Partido Republicano en el estado de Louisiana, Clay Higgins, instó en su cuenta de Facebook a matar a todos los musulmanes radicalizados. "Cazarlos, identificarlos y matarlos".
Paralelamente, el activista Didi Delgado de la organización Black Lives Matter publicó que todos los blancos son racistas. Facebook eliminó la publicación y bloqueó la cuenta de Delgado durante una semana. Las declaraciones de Clay Higgins, por el contrario, no tuvieron ninguna repercusión.
Según explican en la investigación, los requisitos utilizados por la red social se basan en que el congresista estadounidense se dirigió a un sub-grupo específico, en este caso los musulmanes radicalizados, y el activista de Black Lives Matter atacó a los blancos en general. El artículo afirma que las normas establecidas por Facebook pueden resultar vagas en algunos casos y que podrían favorecer a las élites y los gobiernos. "Al hacerlo sirven a los intereses comerciales de la compañía global, que depende de los gobiernos nacionales para no bloquear su servicio a sus ciudadanos".
Además, en las capacitaciones de los responsables de revisar el contenido de la red social, se identifican a los grupos en base a las categorías protegidas, las cuales están basadas en el sexo, origen étnico, identidad de género, afiliación religiosa u origen nacional. El problema radica en que las personas blancas están consideradas como un grupo, mientras que las mujeres y niños afrodescendientes se reconocen como sub-conjuntos, al igual que las musulmanes ridiculizados y, por ello, no están protegidos por los filtros de Facebook.
Durante la campaña del actual presidente de Estados Unidos, Donald Trump, el magnate mostró su opinión en contra de la inmigración musulmana en el país, la cual describió como una amenaza. Según las políticas de la compañía, este tipo de comentarios no tendrían cabida en la red social. Sin embargo, Mark Zuckerberg eximió las declaraciones de Trump, según The Wall Street Journal.
Según Facebook, su objetivo es aplicar un estándar general para todo el mundo. A pesar de ello, sus políticas parecen no ser equitativas e investigaciones como la de ProPublica subrayan que todavía son necesarios algunos cambios.
Facebook supera los 2.000 millones de usuarios activos al mes
Recientemente, la red social consiguió llegar a los 2 mil millones de usuarios activos, marcando su propio récord desde 2015. En materia de seguridad, la compañía aumentó el número de supervisores de 4.500 a 7.500 para fomentar el control del contenido. Los esfuerzos siguen yendo en esta dirección, pero todavía no se ha publicado información oficial sobre las reglas que utiliza Facebook para determinar qué debe eliminarse y qué no.