Carlos B Fernández. Aunque las dificultades surgidas a lo largo de las próximas semanas suscitaron dudas sobre la posibilidad de que el Reglamento europeo de inteligencia artificial (IA) pudiera acordarse entre las partes negociadoras durante la presidencia española de turno del Consejo, un acercamiento de posiciones entre las diferentes partes permite abrigar la esperanza de que ese acuerdo se produzca esa misma semana.
Estas mismas fuentes apuntan a que la excesiva prolongación de las negociaciones durante los últimos meses, ha podido provocar que se reabriesen cuestiones que, en principio, habían sido ya acordadas.
Con todo, estas fuentes señalan que, si bien subsisten las diferencias en torno a diversos aspectos de la propuesta, como los modelos fundamentales y los usos de IA que se consideran prohibidos, “las cosas se están moviendo a favor del acuerdo” durante estos últimos días.
Modelos fundamentales
Así, Alemania, Francia e Italia, países que habían llegado incluso a presentar una propuesta específica en relación con los modelos fundamentales, en respuesta a una propuesta anterior de la presidencia española, parecen asumir que van a tener que ceder en parte de sus posiciones en esta materia, ante la firme postura al respecto de la Eurocámara, que considera que los códigos de buenas prácticas no son una herramienta adecuada para evitar los problemas que plantea esta tecnología, como pone de manifiesto el código de buenas prácticas sobre la desinformación.
Al parecer, aunque el texto propuesto por la Presidencia española no satisface plenamente a los tres países, especialmente escépticos sobre los umbrales de clasificación, se espera que se otorgue el mandato a pesar de las reservas sobre esta materia y otras como las obligaciones de información, transparencia y control de Deep fakes.
Como explica Luca Bertuzzi en Euractiv, la propuesta de compromiso aborda los modelos de IA de propósito general, garantizando que el enfoque de la regulación sea tecnológicamente neutro. Además, las disposiciones propuestas sólo contienen obligaciones muy limitadas e introducen códigos de prácticas.
A cambio, el Parlamento Europeo haría lo propio con alguna de las suyas.
Sistemas de IA prohibidos
En cuanto a los sistemas de IA prohibidos, siempre según Euractiv, la Presidencia española sugirió aceptar la retirada masiva de imágenes faciales, el reconocimiento de emociones en el lugar de trabajo y la educación, la categorización biométrica para datos sensibles y la policía predictiva para individuos. El texto también propone llegar a un acuerdo intermedio con el Parlamento sobre la evaluación de impacto sobre los derechos fundamentales (FRIA por su abreviatura en inglés) y las exenciones policiales.
Sin embargo, mientras que los embajadores de la UE se mostraron flexibles sobre la FRIA, las pruebas en el mundo real y la excepción al procedimiento de evaluación de la conformidad, los países están mucho menos dispuestos a ceder en la exención y las prohibiciones relativas a la seguridad nacional.
En otro orden de cosas, la última propuesta de la presidencia española abordó también la gobernanza de IA y otros temas menos controvertidos, ya abordados en la anterior sesión de los trílogos, como el acceso al código fuente, el régimen sancionador y la alfabetización en IA.
A este respecto, la Presidencia mantuvo en gran medida un texto presentado la semana anterior por la Comisión, pero introduciendo algunos elementos del documento de trabajo del Parlamento Europeo. Así, se propuso un nuevo umbral cuantitativo para las categorías de modelos con riesgo sistémico, situado en el número de usuarios empresariales. Se introdujo un nuevo requisito que obliga a evaluar los modelos basándose en protocolos normalizados. Se sugirió un nuevo requisito de ciberseguridad para los modelos de alto nivel, y la Presidencia pidió flexibilidad a la hora de imponer normas de eficiencia energética.