Carlos B Fernández. El próximo 17 de febrero, coincidiendo con el comienzo de la aplicación del Reglamento de Servicios Digitales, se pondrá en marcha el Centro Europeo de Transparencia Algorítmica (European Centre for Algorithmic Transparency o ECAT).
El Centro, que tendrá su sede en Sevilla, Bruselas e Istria (en Italia), depende del Centro Común de Investigación de la Comisión Europea y fue inaugurado en la capital andaluza el pasado 18 de abril.
Como explicó su director, Alberto Pena Fernández, en una sesión recientemente organizada por el despacho Garrigues sobre la Ley de Servicios Digitales (o DSA, por su abreviatura en inglés), el rol del ECAT se enmarca en la Agenda Digital puesta en marcha por la Comisión Europea en 2020, una prioridad política de primer nivel. Su finalidad es proporcionar experiencia científica y técnica para permitir a la Comisión el control de la aplicación de la DSA e investigar sobre el impacto de los sistemas algorítmicos implementados por plataformas en línea y motores de búsqueda.
Su creación obedece a la evidencia de que los sistemas algorítmicos plantean un conjunto de retos que van desde su complejidad y opacidad, a la falta de control que se deriva de estas características y a la posible autonomía en la toma de decisiones que se deriva de la misma, así como su dependencia de unos grandes volúmenes de datos que, en su mayoría, están en poder de un pequeño número de muy grandes empresas que los controlan sin dar cuenta de ellos.
Estos algoritmos, a su vez, plantean una serie de riesgos comunes en todos los ámbitos en los que se utilizan, tanto para los derechos fundamentales de las personas, como para la seguridad jurídica, a la vez que incentivan la desconfianza social y su regulación fragmentada a nivel nacional.
El trabajo del ECAT en relación con la DSA y el Reglamento de IA
En este contexto, el ECAT se configura como la rama científica, no jurídica, de la Comisión, en la implementación de la DSA y de la ley de Inteligencia Artificial, para desarrollar un entorno digital seguro, predecible y confiable, tanto para las personas como para las empresas.
Así, por lo que se refiere a la DSA, su papel es de seguimiento y supervisión de las plataformas en línea y los motores de búsqueda on line de muy gran tamaño (VLOP y VLOSE, por su abrevitura en inglés), desde la entrada en vigor de la norma. Y en cuanto a la futura AI Act, su finalidad es orientar la definición de las normas técnicas que debe elaborar la Comisión, para su conformidad con la norma.
Por lo que se refiere a la DSA, su trabajo comienza desde el momento mismo en que se designa la plataforma, analizando cómo se atajan los riesgos concretos que deben gestionar, pasando en su caso información al regulador para que actúe.
Más en concreto, en cuanto al perímetro de trabajo del ECAT en relación con aplicación de la DSA, este se refiere a los sistemas algorítmicos de recomendación de contenidos, de búsqueda de información, de entrega de publicidad y de moderación de contenido, en relación, en particular, con los grandes modelos de IA. Por lo que se refiere a los riesgos sistémicos, se ocupará de la difusión de contenidos ilícitos y sus efectos negativos sobre los derechos fundamentales, el discurso cívico, los procesos electorales, la seguridad y la salud pública y la protección de los menores. Y por lo que se refere a la supervisión del cumplimienento de las obligaciones de los intermediarios, se contempla la evaluación y mitigación de riesgos, la transparencia algorítmica, la elaboración de perfiles de usuario, el diseño de la interfaz y el acceso a los datos.
Y por lo que se refiere al Reglamento de IA, el papel del ECAT será fundamental en el liderazgo de la estandarización de la IA. Es decir, en la definición de los estándares para que los negociadores de marcos internacionales más amplios, como la OCDE, lo tengan en cuenta.
Áreas de trabajo del ECAT
Para cumplir esos objetivos, el Centro se orienta a dos proyectos fundamentales: la evaluación e investigación de plataformas, en el Proyecto Panacea, y la investigación científica y prospectiva, mediante el desarrollo de redes y comunidades científicas, en el Proyecto Humaint.
En ambos casos el enfoque debe ser multidisciplinar, para lo que necesitan profesionales capaces de ver dentro de los algoritmos. Hoy no se sabe con precisión lo que sucede en el interior de los mismos, pero la DSA proporciona herramientas muy potentes para saberlo.