Si enumeramos en una lista todos los insultos en redes sociales desde que explotó la pandemia, estaríamos horas escribiendo. Empezamos en febrero con discursos contra la comunidad china porque fue en el gigante asiático donde nació el coronavirus. Luego pasamos a una guerra contra las mascarillas, a presuntas violaciones de las libertades individuales y las tradicionales culpas a los políticos de todos los colores. Pero el hecho de que estemos viviendo una situación excepcional no implica una normalización de estos comportamientos en redes sociales, sobre todo si pasan de insultos a discursos de odio contra comunidades específicas.
En primer lugar, repensemos el concepto discurso de odio. Según Facebook, se trata de una declaración violenta o deshumanizante, con afirmaciones de inferioridad, llamamientos a la exclusión y marginación o insultos basados en características como la etnia, religión u orientación sexual, entre otros. El abogado digital Sergio Carrasco añadió para Hipertextual que ese discurso tiene que tener como objetivo incentivar el odio contra un colectivo. "No basta con insultos, se tiene que querer propagar ese odio para que sea discurso de odio".
En este momento, la Unión Europea en general y España en particular están tomando medidas para intentar frenar este tipo de contenido en Facebook, Twitter, YouTube e Instagram. El problema no es nuevo, pero el coronavirus lo ha agudizado, tal y como muestran los datos de Facebook.
De abril a junio de 2020, la red social actuó contra 22,5 millones de publicaciones que fomentaban el discurso de odio. De estas, solamente 30.000 fueron apeladas por usuarios para que fueran otra vez publicadas, según datos del portal de transparencia de Facebook. A pesar de que el contenido eliminado por la plataforma por fomentar el odio ha ido aumentando de manera progresiva desde 2017, la cifra de 2020 es completamente atípica.
Delito contra el odio: ¡manos arriba!
Pero no todos esos discursos han tenido una relación directa con el coronavirus. En Estados Unidos, este 2020 también será recordado por un nuevo capítulo dentro del odio a la comunidad afroamericana. La brutalidad policial, ahora en algunos casos argumentada para preservar la distancia social y con ello los contagios, provocó la muerte de George Floyd a manos de un agente. El hashtag #BlackLivesMatter acompañó a las protestas en las calles de varios estados del país pero también fue el foco de muchos enfrentamientos en redes sociales.
Antes del coronavirus y de la irrupción de nuevos movimientos sociales en los últimos meses, para los gobiernos ya era un tema a tratar antes de 2020. La Unión Europea realiza desde 2016 un informe del código de conducta en redes sociales, que analiza el discurso de odio en los países europeos. El objetivo de estos informes es identificar los retos en el combate contra este tipo de contenido. En el último informe, de diciembre de 2019, la Comisión Europea concluyó que el 90% de las notificaciones se revisan en 24 horas por parte de las plataformas y el 71% del mismo se elimina.
El informe también mostró que la orientación sexual y la xenofobia son los motivos principales que incitan al discurso de odio en los países europeos.
La UE reconoce en sus informes que algunas medidas de las plataformas contra el discurso de odio han funcionado. Pero no son suficientes. Hasta ahora, desde Bruselas no se habían tomado decisiones específicas y obligatorias para las plataformas aunque ante la falta de acción o lentitud en algunos casos, las autoridades europeas han decidido tomar parte en el asunto.
La Comisión Europea está a las puertas de aprobar el proyecto Digital Services Act que vigilará el contenido de las compañías tecnológicas y las multará en el caso de que no tomen las medidas necesarias. El comisario europeo de Mercado Interior, Thierry Breton, dijo a El País que desde Bruselas serán extremadamente estrictos para acabar con la libre circulación de contenido y los resquicios de la Wild Wild Web.
El proyecto castigará las publicaciones que inciten, entre otras cosas, al discurso de odio aunque haya sido publicado por terceras personas o empresas independientes. Además, la norma, que se prevé que se apruebe el 2 de diciembre, obligará a las plataformas a responder de manera inmediata a las denuncias de los usuarios.
Ofelia Tejerina, abogada, jurista experta en nuevas tecnologías y presidenta de la Asociación de Internautas opinó sobre este tipo de medidas que el problema no es sancionar a las plataformas, si no que ellas nos sancionen a nosotros. "Bajo sus propios criterios de eficiencia económica o su interés en manipularnos filtrando los contenidos que les parezca oportuno, cómo les parezca oportuno, y sin ningún tipo de control real", indicó para Hipertextual.
"Me pregunto por qué niegan la capacidad de acción al poder judicial en estas materias. Me pregunto a quién interesa que no intervenga, por qué y para qué".
España y su medida ¿necesaria? contra el discurso de odio
En España, el coronavirus también ha puesto el problema del discurso de odio en redes sobre la mesa. El Congreso de los Diputados ha aprobado una medida lanzada por Unidas Podemos para que estos mensajes se corten de raíz y tengan el menor impacto posible.
La iniciativa, de la mano del proyecto de la Unión Europea y parecida a las leyes que existen en Francia y Alemania, apuesta por acelerar el tiempo de eliminación del contenido, que se establece en 24 horas o en una hora si las víctimas son menores de edad. Asimismo, la medida pide a las plataformas que brinden a los usuarios toda la información posible sobre el protocolo y los pasos a seguir si se identifican discursos de odio.
Normalmente, en el momento en el que se denuncia un posible mensaje de este tipo, un tribunal o un juez es quien tiene la última palabra y quien decide si realmente se trata de un contenido para fomentar el odio o se trata de otro tipo de incidencia como un insulto. Con la nueva iniciativa aprobada por el Congreso, la publicación se elimina directamente. "Creo que es un error porque se le quita al juez la capacidad de ponderar los derechos", dijo a Hipertextual el abogado Sergio Carrasco.
"Estamos hablando de supuestos muy complejos que atañen a la libertad de expresión. Si es un caso muy obvio se eliminará rápidamente pero hay otros casos que no son extremos y en los que puede haber dudas. Un plazo de 24 horas es muy corto para analizar el caso".
Asimismo, Carrasco destacó que la medida convierte a las empresas en responsables de ese supuesto discurso de odio y, en caso de duda, no se la jugarán y eliminarán el contenido para evitar entrar en problemas legales, aunque ese mensaje no sea realmente un discurso de odio. El abogado concluyó que no tiene lógica que se cree una medida para agilizar la eliminación del contenido sin tener todas las garantías de que esa publicación viola las reglas. "Si quieres que los procesos se resuelvan más rápido (en el caso del combate al discurso de odio) dota de más medios a la administración de justicia".
Ofelia Tejerina coincidió con Carrasco en este aspecto y lamentó que no se haya puesto en el foco la necesidad de reforzar el sistema judicial para que se puedan asumir este tipo de cuestiones sin atajos políticos. Sobre la iniciativa de Unidas Podemos, opinó también que existe un grave peligro para la libertad de expresión. "Son medidas de 'sálvese quien pueda', 'que no me multen', 'mirad qué buenos somos'". Tejerina añadió que pueden ser útiles, pero que la duda es si son eficientes".
Asimismo, la abogada destacó que el Código Penal ya recoge lo que es un delito de odio y la jurisprudencia del Tribunal Constitucional lo ha explicado en varias ocasiones. La pregunta, según la abogada, es qué no se ha entendido de todo este material del que ya disponemos, para que se considere necesario regular algo más, y siempre es la misma respuesta: "Los jueces estorban al legislador en temas relacionados con Internet. Un escenario tétrico para las libertades digitales de los ciudadanos".
El sistema judicial, en la salud y en la enfermedad
En los últimos años, la justicia española ha tenido que hacer esfuerzos para poder modernizarse e incluir dentro del sistema los delitos informáticos. Desde 2011 y conforme las plataformas se han ido acoplando a nuestra vida diaria, las infracciones por fraudes, suplantación de identidad o amenazas han aumentado considerablemente.
En septiembre, la Fiscalía lanzó una advertencia sobre el incremento de este tipo de violaciones de la ley. En 2019 se llevaron a cabo 13.143 procedimientos judiciales, un incremento del 44.92% respecto a los delitos de 2018 y casi el 97% más de los 6.676 infracciones cibernéticas registradas en 2017.
A pesar de que en algunas ocasiones las instituciones pueden dar signos de falta de formación o especialización en algunos casos específicos, la mayoría de delitos acaban siendo juzgados sin que eso sea realmente un problema. En realidad, los retos son otros. En primer lugar, expertos como el abogado Sergio Carrasco apuntan a que la agilidad es uno de los mayores desafíos. "El personal es el que es y hay una una litigiosidad razonable. Hay un número de jueces inferior respecto al número de población y que corresponde a esa carga".
La lentitud a la hora de resolver los delitos es un escollo importante, aunque en primera instancia hay otros que dificultan que se ponga la denuncia. La Fiscalía, al presentar los datos, destacó que estos no pueden reflejar el total de la actividad de los ciberdelitos porque la mayoría de ellos ni siquiera llegan a oídos de las autoridades policiales. En primer lugar, porque muchas víctimas no denuncian; en segundo lugar porque muchos otros delitos no son detectados por la Policía. "La cifra oculta de criminalidad en el ciberespacio es hoy por hoy difícilmente calculable, dada la complejidad y la propia e insondable dimensión del ciberespacio", indicó la Memoria de la Fiscalía.
Al respecto, la abogada Ofelia Tejerina subrayó que debería haber mucha más información sobre qué tecnología, medidas físicas, ciberseguros, entre otros, existen para protegernos. A pesar de las campañas de la Agencia Española de Protección de Datos (AEPD) o el Instituto Nacional de Ciberseguridad (INCIBE), estos esfuerzos, añadió, no son suficientes.
En España, la mayoría de los delitos informáticos son fraudes cibernéticos porque es uno de los crímenes más fáciles de perpetrar en la red. Ya sea por obtener datos bancarios de manera fraudulenta o por fraudes comerciales en línea. El discurso de odio, al margen de la iniciativa aprobada en el Congreso, se enmarca en muchos casos en la categoría de Derecho al honor, incluida en la base de datos del Ministerio del Interior recabada por Hipertextual.
El desconocimiento de muchos ciudadanos sobre sus derechos digitales también tiene como efecto colateral la impunidad de muchos delitos porque no son denunciados. Los retos judiciales en España fomentan este problema todavía más, así como la inexistencia de leyes internacionales que puedan facilitar procesos judiciales contra ciberdelitos. En muchos casos, las infracciones se cometen desde países extranjeros, lo que provoca que el proceso legal se dificulte y, en muchas ocasiones, se estanque y se convierta en un papel más dentro del sistema.
La iniciativa de Unidas Podemos para combatir el discurso de odio se enmarca dentro de este ecosistema judicial. Todos los esfuerzos para combatir este tipo de delitos son necesarios, aunque los abogados digitales han puesto en duda que esta sea la manera para acabar con estos comportamientos. La crítica incluye también la medida impulsada por la Comisión Europea. Coinciden en que es importante poner el foco en la calidad del sistema judicial y en dotarlo de más medios. Luego, en educar a la población sobre este tipo de delitos. Porque si la ciudadanía no los conoce, no sabrá cómo combatirlos, ni sabrá qué puede denunciarlos. Este desconocimiento también debe incluir los derechos digitales para que la población sepa que es un juez y no las plataformas digitales las que deberían tener la capacidad para eliminar el contenido en nuestras redes sociales.