Por Fernando Cameo.- La aprobación del Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas sobre inteligencia artificial y se modifican determinados actos legislativos de la Unión, ha supuesto un antes y un después en la regulación de la inteligencia artificial: es la primera regulación jurídica de la IA de carácter global, y es directamente aplicable en todos los Estados miembros de la Unión Europea sin necesidad de normas de transposición.
La norma ha sido catalogada por los expertos como muy compleja y con problemas de calidad normativa e indeterminación, lo que sin duda generará controversias, necesidad de un adecuado asesoramiento jurídico y nuevas líneas de negocio.
Hablamos de esta nueva regulación con Moisés Barrio (1) , uno de los grandes expertos en inteligencia artificial de nuestro país y director de la obra «Comentarios al Reglamento Europeo de Inteligencia Artificial» que recientemente ha publicado Aranzadi LA LEY.
El Reglamento Europeo de Inteligencia Artificial es la primera regulación jurídica de la IA de carácter global. ¿Cuáles son a su juicio los principales beneficios que aporta esta regulación?
El principal es la seguridad jurídica para el sector tecnológico y para los ciudadanos. Se trata de posibilitar un desarrollo democrático de la IA, porque no hay que olvidar que la tecnología siempre es un medio, no un fin, y por encima de cualquier tecnología están los derechos fundamentales de los ciudadanos. Además, la regulación es proporcionada. Es el segundo gran beneficio. Ya durante los trabajos previos en el grupo de expertos que elaboramos el libro blanco, origen del RIA, insistí mucho en no volver a caer en los errores del RGPD y evitar un «café para todos» en la imposición de obligaciones: no debían tener la misma regulación un coche autónomo (sistema de alto riesgo) que el corrector ortográfico de Word (sistema de nulo riesgo).
Afirman los analistas que el RIA es una norma muy compleja y con problemas de calidad normativa. ¿Cuáles cree que son, a grandes rasgos, esos problemas de los que adolece el Reglamento?
Sin duda, hay partes del RIA que técnicamente no están bien redactadas. Por ejemplo, conceptos clave en la norma como «sistema de IA» o los propios adjetivos a la hora de definir las prácticas prohibidas en el artículo 5 del RIA tienen buenas dosis de ambigüedad y pueden generar problemas de interpretación. Ahora bien, la propia norma prevé la solución con las directrices que tiene que emitir la Comisión Europea sobre la aplicación del RIA. Así ya lo ha llevado a cabo este febrero de 2025 con el propio concepto de IA bajo la norma, o los requisitos de las prácticas prohibidas.
Otro rasgo que caracteriza al Reglamento es la indeterminación. Hay elementos decisivos que quedan remitidos a desarrollos ulteriores. ¿Cuáles son estas materias? ¿Cómo podría afectar esta falta de concreción a la aplicación efectiva del Reglamento?
El RIA está basado en el marco jurídico de la UE sobre seguridad de los productos, y lo hace para evitar solapamientos. En este marco, la norma jurídica define los requisitos esenciales de los productos, y su concreción lo hacen las «normas armonizadas» elaboradas por los organismos europeos de normalización: CEN, CENELEC y ETSI. Por ejemplo, el artículo 15 del RIA impone que los sistemas de IA de alto riesgo sean diseñados y desarrollados «de modo que alcancen un nivel adecuado de precisión, solidez y ciberseguridad y funcionen de manera uniforme en esos sentidos durante todo su ciclo de vida», pero no concreta tal nivel. Son las normas armonizadas las que regularán los detalles técnicos que el RIA deja sin especificar, proporcionando a los fabricantes una vía clara y jurídicamente segura para su cumplimiento. La Comisión Europea emitió la petición de elaboración de dichas normas armonizadas ya antes de aprobarse el RIA, con el propósito de que los organismos de normalización puedan completar con tiempo suficiente su trabajo.
¿Cuáles cree que pueden ser los campos en los que más controversias genere la inteligencia artificial y donde los abogados encontrarán más negocio? ¿Cuándo empezarán a surgir estos pleitos?
Los campos con mayor potencial de controversia jurídica, y por ello necesidad de un adecuado asesoramiento jurídico, que son bien conocidos por quienes nos dedicamos al Derecho digital, son los relativos a la responsabilidad civil por daños causados por sistemas de IA, el cumplimiento de las normas de protección de datos y de ciberseguridad, las cuestiones de propiedad intelectual respecto del entrenamiento de modelos con datos protegidos por los derechos de autor, las posibles infracciones del principio de igualdad ante discriminaciones y sesgos algorítmicos, así como el propio compliance del RIA. Ya hay demandas en curso no sólo en Estados Unidos, sino también en otros Estados miembros o en la propia España.
Cuando surge una nueva tecnología, se comienza por una etapa de grandes expectativas, a menudo sobredimensionadas, sobre lo que la tecnología aportará, hasta que llega el momento de equilibrio entre las expectativas y la realidad. ¿Está pasando esto con la IA Generativa? ¿En qué punto nos encontramos?
Se ha vendido incorrectamente la IA generativa como una suerte de IA general, y eso es técnicamente falso. Dado que pertenece a la rama del machine learning, por su propia naturaleza los sistemas de IA generativa siempre van a producir errores y alucinaciones, lo que en su momento bauticé como «absurdos algorítmicos». Los usuarios empiezan a percibir sus limitaciones: pueden producir contenido impresionante, pero también cometen errores, generan sesgos o simplemente no cumplen con las expectativas más exageradas. Nos encontramos así en la transición de la fase del «pico de expectativas sobredimensionadas» al «abismo de desilusión» en la popular terminología de la consultora Gartner. Por eso, la IA Generativa no va a desaparecer, pero se está ajustando a unas expectativas más realistas. Su impacto seguirá siendo enorme, pero no de la forma revolucionaria e inmediata que muchos predijeron inicialmente.
Recientemente ha dirigido la obra «Comentarios al Reglamento Europeo de Inteligencia Artificial». El formato elegido es el de comentario artículo por artículo. ¿Por qué esta elección? ¿Qué aporta al lector este formato?
Ya existen diversos estudios globales del Reglamento, e incluso he tenido la fortuna de dirigir alguno de ellos. Los «Comentarios al Reglamento Europeo de Inteligencia Artificial» también llevan a cabo dicho estudio global, y además por partida doble: tanto en el prólogo como en el estudio del profesor De la Quadra Salcedo. Pero faltaba un estudio individual, precepto por precepto y anexo por anexo, que examine en profundidad el alcance y sentido de la regulación, y aporte criterios para abordar los problemas que nos plantea el RIA en la práctica a todos los operadores jurídicos.
Han participado más de 70 autores. ¿Cómo ha sido su proceso de selección? ¿Qué perfiles tienen y qué visiones aportan?
Es un equipo de referencia más allá de nuestras fronteras que llevan mucho tiempo trabajando realmente con IA en distintos ámbitos (academia, abogacía, sector público, justicia, sector tecnológico…). Por ello aportan solvencia y rigor. No se trata de plantear divertimentos académicos o profesorales, que lamentablemente tienen muy poca aplicación o utilidad práctica, sino de aportar una herramienta de altísima calidad para poder gestionar la complejidad de la norma.
Junto al comentario al articulado del Reglamento, el libro se completa con cerca de 20 anexos. ¿Qué va a encontrar el lector en esos anexos?
Los anexos son pieza fundamental de la regulación. Por ejemplo, el anexo III establece los sistemas de IA de alto riesgo calificados ex lege por el propio legislador europeo. Son por ello objeto de la misma atención en la obra, porque también plantean problemas y ambigüedades. Naturalmente, hay que cumplir sus mandatos y criterios.
En septiembre de 2024 ha impulsado también la publicación de un «Código de Derecho digital y de nuevas tecnologías». ¿Qué normativa contiene y qué ventajas ofrece al lector?
El objetivo del «Código de Derecho digital y de nuevas tecnologías» es poner a disposición de los usuarios de distintos ámbitos, tanto profesionales del Derecho como estudiantes universitarios, un texto de consulta y manejo sencillos de las normas jurídicas más relevantes y siempre actualizadas del Derecho digital, y facilitar así el estudio y análisis de una rama que ya resulta imprescindible para lograr una adecuada protección de empresas, instituciones y ciudadanos en cualquier contexto. El soporte dual, papel y digital, facilita su actualización como el estudio de la regulación.