Europa tiene un nuevo centro de investigación de inteligencia artificial y otros servicios digitales, y está instalada en Sevilla, España. Se trata del Centro de Transparencia Algorítmica de la Unión Europea (ECAT, por sus siglas en inglés), y servirá para, mediante la Ley de Servicios Digitales, estudiar cómo funcionan las diferentes plataformas y redes sociales, especialmente en el ámbito de la IA y las nuevas tecnologías.
El Centro de Transparencia Algorítmica de la Unión Europea, ubicado en la sede del Centro Común de Investigación (JRC, por sus siglas en inglés) instalada en Sevilla desde 1994, constará de un equipo de expertos en ciencias de datos, inteligencia artificial, y algoritmos. Estos se encargarán de recopilar información de servicios como TikTok, Facebook, Instagram, Twitter y otras grandes tecnológicas, para posteriormente investigarlos y verificar si cumplen con la normativa de la Ley de Servicios digitales que entró en vigor el pasado mes de noviembre.
El objetivo de este nuevo centro de IA, en concreto, es comprobar cómo las diferentes plataformas e, incluso, motores de búsqueda, moderan el contenido y cómo ofrecen información a sus usuarios.
Queremos asegurarnos de que este proceso de toma de decisiones sea transparente, de modo que los ciudadanos puedan comprender por qué se les ofrecen determinados contenidos o productos
Carlos Torrecilla Salina, Jefe de la Unidad de Economía Digital del JRC
Este nuevo centro de transparencia, por tanto, puede resultar especialmente útil para investigar cómo las grandes tecnológicas utilizan modelos de IA para mejorar las búsquedas u ofrecer resultados a los usuarios. También para verificar si realmente las compañías son transparentes sobre sus algoritmos y tomar medidas al respecto en caso contrario.
La Ley de Servicios Digitales tiene como objetivo acabar con la desinformación en las redes sociales, incluso las generada por IA
La Ley De Servicios Digitales (DSA, por sus siglas en inglés), reiteramos, entró en vigor el pasado 16 de noviembre. No obstante, no comenzará a aplicarse hasta febrero del próximo año. Esta nueva legislación, en concreto, establece a todas aquellas compañías que utilizan plataformas digitales diferentes normativas para, en líneas generales, proteger a los usuarios que utilizan sus servicios.
Por ejemplo, las grandes tecnológicas deberán cumplir diferentes obligaciones en cuanto a transparencia y rendición de cuentas y permitir “evaluaciones anuales de amplio alcance de los riesgos de perjuicio de sus servicios en línea”. Esto, precisamente, se llevará a cabo en centro de inteligencia artificial de Sevilla. Las plataformas también deberán hacer uso de nuevas medidas de protección de la libertad de expresión. Entre ellas, permitir a los usuarios actuar contra ellas por diferentes vías si consideran que la plataforma ha moderado su contenido de forma injusta.
Las plataformas también tendrán que evaluar los riesgos para los derechos fundamentales de sus servicios. Entre ellos, la protección de datos personales, la libertad de expresión, los derechos de los menores, etc. Las multas por incumplir estas y otras medidas serán de hasta el 6 % del volumen de negocios mundial o, incluso, la imposibilidad de operar en el mercado de la UE si las sanciones son graves.