Carlos B Fernández. El European Centre for Algorithmic Transparency ECAT es un organismo de la Comisión Europea, dependiente del Centro Común de Investigación (Joint Research Centre, JRC) --el servicio interno de ciencia y conocimiento de la Comisión-- en estrecha colaboración con la Dirección General de Redes de Comunicaciones, Contenidos y Tecnología (DG CONNECT).
La función de este organismo, con una triple sede en Sevilla, Ispra (Italia) y Bruselas, es contribuir con conocimientos científicos y técnicos a la función exclusiva de supervisión y ejecución que compete a la de la Comisión Europea en relación con las obligaciones sistémicas de las plataformas en línea de muy gran tamaño (Very Large Online Platforms, VLOPs) y los motores de búsqueda en línea de muy gran tamaño (Very Large Online Search Engines, VLOSEs) previstas en el Reglamento (UE) 2022/2065, de 19 de octubre de 2022 (LA LEY 22694/2022), de Servicios Digitales (Digital Services Act, DSA), que exigen auditorías de responsabilidad y transparencia algorítmicas. En particular, los expertos de este organismo analizarán la transparencia, evaluarán los riesgos y propondrán nuevos enfoques y mejores prácticas sobre la transparencia de los algoritmos utilizados por estas organizaciones.
En concreto, el Centro Europeo para la Transparencia Algorítmica (ECAT) está comprometido con una mejor comprensión y una regulación adecuada de los sistemas algorítmicos. Un objetivo que se orienta a:
- Evaluación e investigación de plataformas
Por medio de la realización de pruebas técnicas de sistemas algorítmicos para comprender mejor su funcionamiento; el análisis de informes de transparencia, evaluaciones de riesgos y auditorías independientes; el apoyo a la investigación; la realización de inspecciones y la definición de procedimientos pertinentes para garantizar el acceso a los datos a reguladores e investigadores.
- Investigación científica y prospectiva
Entre estas tareas se incluye: identificar y medir los riesgos sistémicos asociados a las VLOP y VLOSE; evaluar las medidas de mitigación de riesgos; proponer metodologías prácticas hacia enfoques algorítmicos transparentes y responsables; estudiar el impacto social a largo plazo de los algoritmos, e identificar riesgos emergentes asociados al uso de VLOPs y VLOSEs.
- Creación de redes y comunidades
Para ello, a nivel internacional, centraliza los conocimientos en todo el mundo, compartiendo los principales hallazgos científicos y las mejores prácticas sobre los estudios basados en datos en este ámbito y actuar como centro de conocimientos para las investigaciones realizadas gracias al acceso a los datos proporcionados por la DSA.
Este evento presenta el Centro Europeo para la Transparencia Algorítmica (ECAT), el primer centro europeo centrado en este tema que pondrá la investigación al servicio directo de la aplicación de la Ley de Servicios Digitales (DSA), una norma que responde a la creciente necesidad de desvelar y comprender mejor las tecnologías que impulsan los modelos de negocio de las plataformas.
En este contexto, los sistemas algorítmicos determinan muchos aspectos de nuestra experiencia en línea; por ejemplo, una aplicación de streaming de música puede utilizar algoritmos para sugerir canciones o grupos a sus usuarios. Con el impacto social cada vez mayor de plataformas en línea como las redes sociales, los mercados en línea y los motores de búsqueda, existe una necesidad urgente de supervisión pública de los procesos que constituyen el núcleo de su actividad. Esto incluye, en particular, el modo en que estas plataformas y motores de búsqueda moderan los contenidos y seleccionan la información para sus usuarios. En consecuencia con este objetivo, la creación de ECAT, por la DG CONNECT y el Centro Común de Investigación, debe permitir a la Comisión aumentar sus conocimientos técnicos en el campo de la ciencia de datos y los algoritmos, por medio de expertos de primera categoría que apoyarán las nuevas tareas de la Comisión como regulador, convirtiéndose así en la referencia para la investigación en torno a la transparencia algorítmica.
La transparencia algorítmica en la normativa europea
Desde el comienzo del diseño de la estrategia digital europea, la transparencia de los algoritmos utilizados por empresas y administraciones que tengan efecto sobre los ciudadanos, ha sido una constante.
Así, la Comunicación de la Comisión de 8 de abril de 2019 “Generar confianza en la inteligencia artificial centrada en el ser humano” (COM(2019) 168 final), identificaba este concepto como uno de los siete requisitos esenciales para lograr una IA fiable.
Por su parte, el Libro Blanco sobre la inteligencia artificial de la Comisión, de 19 de febrero de 2020 (COM(2020) 65 final), destacó que “la falta de transparencia (opacidad de la IA) hace difícil detectar y demostrar los posibles incumplimientos de la legislación, especialmente las disposiciones legales que protegen los derechos fundamentales, imputan responsabilidades y permiten reclamar una indemnización”.
Por ello, la propuesta de Reglamento sobre Inteligencia Artificial, de 21 de abril de 2021 (COM(2021) 206 final), prevé en su artículo 13 que “Los sistemas de IA de alto riesgo se diseñarán y desarrollarán de un modo que garantice que funcionan con un nivel de transparencia suficiente para que los usuarios interpreten y usen correctamente su información de salida.”
Más recientemente, el artículo 15 del mencionado Reglamento de Servicios Digitales (LA LEY 22694/2022), regula en diversos artículos las Obligaciones de transparencia informativa de los prestadores de servicios intermediarios (art. 15), de los prestadores de plataformas en línea (art. 24), de los sistemas de recomendación (art. 24), de la publicidad en línea (art. 39) y de los prestadores de plataformas en línea de muy gran tamaño o de motores de búsqueda en línea de muy gran tamaño (art. 42).