La novena sesión del ciclo “La revolución regulatoria digital europea 2022-2023", organizado por LA LEY bajo la dirección del magistrado Eloy Velasco, contó con la intervención del Magistrado Julián García Marcos, quien abordó la propuesta de reglamento del Parlamento y Consejo Europeo por el que se establecen normas armonizadas en materia de inteligencia artificial.
Tal y como expone el ponente al inicio de su intervención, el reglamento de inteligencia artificial todavía se encuentra en fase de propuesta, su regulación es una preocupación del legislador europeo desde hace tiempo y su objetivo es recuperar la soberanía de la Unión Europea en materia de inteligencia artificial, frente a otras potencias, como prometió la presidenta de la Comisión Europea, Ursula von der Leyen.
A consecuencia de todo ello, El 21 de abril de 2021 fue publicada la versión definitiva de la Propuesta de Reglamento (UE) de la Comisión Europea sobre el marco jurídico aplicable a los sistemas de Inteligencia Artificial la cual se encuentra, actualmente, en trámite. El 3 de noviembre de 2022, la presidencia CHECA del Consejo Europeo ha presentado ante el Comité de representantes permanentes de los Gobiernos de los Estados miembros de la Unión Europea la versión final de la Propuesta de Reglamento de Inteligencia Artificial.
Problemas para delimitar la definición de inteligencia artificial
Uno de los problemas que más debate está generando es el concepto de inteligencia artificial. La comisión da una definición lo más tecnológicamente neutra para que resista al paso del tiempo, algunos autores, entendían que era una definición muy amplia y por ello, la propuesta del consejo es más específica.
En el Parlamento está siendo objeto de debate, incluso se están manejado definiciones amplísimas que intentan construir un concepto lo más amplio posible.
Nos explica el ponente, que como todavía no existe un concepto unitario, para entender la propuesta hay que ir al contenido del reglamento que distingue entre distintos sistemas de inteligencia artificial que son: practicas prohibidas, sistemas de propósito general, sistemas de de alto riesgo, sistemas de ia que no son de alto riesgo, otros sistemas a los que se impone obligaciones de transparencia, pero pueden ser de alto riesgo o no serlo y sistemas que aun cumpliendo los requisitos y condiciones de la propuesta suponen un peligro para el interés nacional.
Sistemas de inteligencia artificial prohibidas
En líneas generale el uso de dichas prácticas se considera inaceptable por ser contrario a los valores de la Unión, por ejemplo, porque violan derechos fundamentales. Se definen en el artículo 5.1 como “La introducción en el mercado, la puesta en servicio o la utilización de un sistema de Inteligencia Artificial que se sirva de técnicas subliminales que trasciendan la conciencia de una persona para alterar de manera sustancial su comportamiento de un modo que provoque o sea probable que provoque perjuicios físicos o psicológicos a esa persona o a otra”. El ponente desarrolla de forma pormenorizada cada una de las prácticas prohibidas.
Sistemas de inteligencia artificial de propósito general
Podrían definirse como aquellos sistemas de IA que --independientemente de cómo se comercialice o pongan en servicio, incluso como software de código abierto--, están destinados por el proveedor para realizar funciones de ámbito general, como el reconocimiento de imágenes y de voz, la generación de audio y vídeo, la detección de patrones, la respuesta a preguntas, la traducción y otras. En el seminario se desarrolla de forma amplia el régimen aplicable a los sistemas de propósito general.
Sistemas de inteligencia artificial de alto riesgo
Se consideran de Alto Riesgo los sistemas de Inteligencia Artificial que sea uno de los productos contemplados en la legislación de armonización de la Unión Europea mencionada en el Anexo II, los destinado a ser componente de seguridad de uno de los productos contemplados en la legislación de armonización de la Unión Europea mencionada en el Anexo II de la Propuesta Y, en todo caso, los Sistemas IA del Anexo III.
Los sistema de alto riesgo requieren de unas exigencias importantes en la gobernanza de los mismos, ya que no son siempre trasparentes y su trascendencia con los derechos fundamentales de las personas puede ser muy importante.
Sistemas de inteligencia artificial distintos de los de alto riesgo y códigos de conducta
En este caso, se fomentará la “elaboración de códigos de conducta” destinados a promover la aplicación voluntaria de los requisitos exigidos a Sistemas de Inteligencia Artificial de alto riesgo a sistemas de Inteligencia Artificial distintos, sobre la base de especificaciones y soluciones técnicas que constituyan medios adecuados para garantizar el cumplimiento de dichos requisitos a la luz de la finalidad prevista de los sistemas.
Por último, desarrolla el control de estos sistemas mediante las autoridades nacionales, autoridades de vigilancia de mercado y la creación de un comité europeo de inteligencia artificial.