Carlos B Fernández. El Real Decreto 729/2023, de 22 de agosto (LA LEY 24251/2023), publicado en el BOE del día 2 de septiembre, crea la Agencia Española de Supervisión de Inteligencia Artificial (AESIA) y publica su Estatuto, aprobado en el Consejo de Ministros del pasado 22 de agosto.
Según se explica en la exposición de motivos del Real Decreto, esta Agencia será clave para gestionar y liderar el ecosistema español de Inteligencia Artificial (IA) responsable, antes incluso de la aprobación y entrada en vigor del futuro Reglamento europeo, actualmente en tramitación.
En efecto, en esta Propuesta de Reglamento, se prevé la obligación de los Estados miembros de designar una autoridad nacional que se encargue de supervisar la aplicación y ejecución de lo dispuesto dicha Ley de Inteligencia Artificial, así como de coordinar las actividades encomendadas a los Estados miembros en ese ámbito, además de actuar como punto de contacto único para la Comisión, y representar al Estado miembro en cuestión ante el Comité Europeo de Inteligencia Artificial, además de otras obligaciones que deberán ser asumidas por esta autoridad.
En consecuencia, este Real decreto plantea la creación de la Agencia Española de IA, “anticipándonos y preparándonos para la asunción de las obligaciones y responsabilidades que imponga el Reglamento”.
Por este motivo, este real decreto se ha tramitado por la vía administrativa urgente por Acuerdo de Consejo de Ministros de fecha 13 de junio de 2023.
Este organismo tendrá su sede en A Coruña y estará adscrita al Ministerio de Asuntos Económicos y Transformación Digital, a través de la Secretaría de Estado de Digitalización e Inteligencia Artificial.
Aunque el RD entró en vigor al día siguiente de su publicación en el BOE, su efectiva puesta en funcionamiento se producirá en el momento de la constitución de su Consejo Rector, en el plazo máximo de 3 meses desde la entrada en vigor de este real decreto. En la misma sesión constitutiva se nombrará a la persona titular de la Dirección de la Agencia, a propuesta de su Presidencia (cuyos mecanismos de designación expondremos a continuación).
Estructura del RD 729/223
El real decreto consta de un único artículo, aprobatorio del Estatuto de la Agencia, cuatro disposiciones adicionales, dos disposiciones transitorias y tres disposiciones finales.
La disposición adicional primera determina la fecha de constitución (LA LEY 2500/1978) efectiva de la Agencia. La disposición adicional segunda determina la integración del personal que tenga relación con las funciones que asume la Agencia mediante resolución de la Subsecretaría de Asuntos Económicos y Transformación Digital. La disposición adicional tercera se refiere a la cesión de bienes realizada por el Ayuntamiento de A Coruña, que es la localidad donde radicará la sede de la AESIA. La disposición adicional cuarta recoge la colaboración con órganos de responsabilidad en materia de inteligencia artificial del Ministerio de Defensa.
La disposición transitoria primera determina el régimen presupuestario transitorio de la creación de la Agencia. La disposición transitoria segunda hace referencia al Contrato inicial de Gestión.
La disposición final primera recoge las modificaciones organizativas que afectarán al Real Decreto 403/2020, de 25 de febrero (LA LEY 2305/2020), por el que se desarrolla la estructura orgánica básica del Ministerio de Asuntos Económicos y Transformación Digital. La disposición final segunda autoriza a la persona titular del Ministerio de Asuntos Económicos y Transformación Digital para que dicte cuantas disposiciones sean necesarias para el desarrollo y ejecución del Real Decreto. Finalmente, la disposición final tercera hace referencia a la entrada en vigor del Real Decreto.
Contenido del Estatuto de la AESIA
El Estatuto se divide en 51 artículos, estructurados en siete capítulos.
El capítulo I, «Disposiciones generales», está dedicado a la naturaleza, sede, régimen jurídico, objeto y fines, cooperación, coordinación administrativa y acción exterior, programación, memoria anual, transparencia y publicidad, y adscripción. De él destacamos:
- NATURALEZA JURÍDICA
La AESIA es una entidad de derecho público con personalidad jurídica pública, patrimonio propio y autonomía en su gestión, con facultad para ejercer potestades administrativas para el cumplimiento de los programas correspondientes a las políticas públicas que desarrolle la Administración General del Estado en el ámbito de sus competencias.
- Régimen jurídico
Además de su sujeción al derecho administrativo nacional, en cuanto al ejercicio de sus competencias, la Agencia debe estar sujeta a lo dispuesto en la normativa europea en lo que respecta a la supervisión de sistemas de Inteligencia Artificial (art. 3.2).
- OBJETO
Según el artículo 4:
1. Corresponde a la Agencia la supervisión, el asesoramiento, la concienciación y la formación dirigidas a entidades de derecho público y privado para la adecuada implementación de toda la normativa nacional y europea en torno al adecuado uso y desarrollo de los sistemas de inteligencia artificial, más concretamente, de los algoritmos.
2. Además, la Agencia tendrá la función de inspección, comprobación, sanción y demás que le atribuya la normativa europea que le resulte de aplicación, en especial, en materia de inteligencia artificial (sin menoscabo de las competencias y funciones que en este ámbito vienen ejerciendo el Ministerio de Sanidad y la Agencia Española de Medicamentos y Productos Sanitarios; ni de las del Ministerio de Trabajo y Economía Social y la Inspección de Trabajo y Seguridad Social, en su función de vigilancia del cumplimiento de las normas del orden social y exigencia de responsabilidades, en el ámbito de las relaciones laborales).
3. La Agencia se ocupará también de la minimización de los riesgos que puede suponer el uso de esta nueva tecnología, el adecuado desarrollo y potenciación de los sistemas de inteligencia artificial.
4. En el ámbito de la competencia estatal, ejercerá las funciones de autoridad responsable de la supervisión, y en su caso sanción, de los sistemas de inteligencia artificial con el objeto de eliminar o reducir los riesgos para la integridad, la intimidad, la igualdad de trato y la no discriminación, en particular entre mujeres y hombres, y demás derechos fundamentales que pueden verse afectados por el mal uso de los sistemas.
- FINES
Según su artículo 4, estos serán:
a) La concienciación, divulgación y promoción de la formación, y del desarrollo y uso responsable, sostenible y confiable de la inteligencia artificial.
b) La definición de mecanismos de asesoramiento y atención a la sociedad y a otros actores relacionados con el desarrollo y uso de la inteligencia artificial.
c) La colaboración y coordinación con otras autoridades, nacionales y supranacionales, de supervisión de inteligencia artificial.
d) El fomento de entornos reales de prueba de los sistemas de inteligencia artificial, para reforzar la protección de los usuarios y evitar sesgos discriminatorios.
e) La supervisión de la puesta en marcha, uso o comercialización de sistemas que incluyan inteligencia artificial y, especialmente, aquellos que puedan suponer riesgos significativos para la salud, seguridad, la igualdad de trato y no discriminación, en particular entre mujeres y hombres, y para los demás derechos fundamentales.
El capítulo II, «Competencias y régimen de actuación» desarrolla los principios de actuación de la Agencia y sus competencias, así como las disposiciones y actos administrativos que puede adoptar.
- PRINCIPIOS DE ACTUACIÓN DE LA AGENCIA
Según el artículo 8, la Agencia se regirá por los principios de interés general y, además, por una serie de principios básicos, de los que destacamos los de:
a) Autonomía, entendida como la capacidad de la Agencia de gestionar, en los términos previstos en su Estatuto, los medios puestos a su disposición para alcanzar los objetivos comprometidos.
b) Independencia técnica, basada en la capacitación, especialización, profesionalidad y responsabilidad individual de su personal
c) Transparencia en todas las actividades administrativas y cumplimiento de las obligaciones de buen gobierno, la rendición de cuentas y la presentación de la información precisa y completa sobre todos los resultados y procedimientos utilizados en la gestión.
Otros principios que debe seguir son los de eficacia en su actuación; eficiencia en la asignación y utilización de recursos públicos y evaluación continuada de la calidad de los procesos de gestión; cooperación interinstitucional, entendido como la búsqueda de sinergias en la colaboración con otras Administraciones Públicas, agentes e instituciones, públicas o privadas, nacionales e internacionales para el fomento del conocimiento en todos sus ámbitos, e integración del principio de igualdad de trato entre mujeres y hombres
- COMPETENCIAS
El artículo 10 detalla una amplia serie de competencias que deberá ejercer la Agencia, de las que destacamos las cuatro siguientes:
a) La promoción de entornos de prueba que permitan una correcta adaptación de sistemas innovadores de inteligencia artificial a los marcos jurídicos en vigor.
d) La ayuda al fortalecimiento de la confianza en la tecnología y aplicación de la inteligencia artificial, a través de la creación de un marco de certificación voluntario para entidades privadas, que permita ofrecer garantías sobre el diseño responsable de soluciones digitales y garantizar los estándares técnicos, evitando la sobrerregulación y permitiendo la innovación.
g) La creación de conocimiento, formación y difusión en relación con la inteligencia artificial ética y humanista, para mostrar tanto su potencial y oportunidades para el desarrollo socioeconómico, la innovación y la transformación del modelo productivo, como los retos, riesgos e incertidumbres que plantea su desarrollo y adopción.
k) La supervisión de los sistemas de inteligencia artificial para garantizar el cumplimiento de la normativa, tanto nacional como europea, sobre la inteligencia artificial que lleve aparejada el uso de esta tecnología, cuya competencia sea asumida por la Agencia. Más concretamente, le corresponderá la supervisión y, en su caso, sanción de acuerdo con lo estipulado en la normativa europea en lo que respecta a la supervisión de sistemas de Inteligencia Artificial. El diseño, ejercicio y evaluación de esta función de supervisión se realizará incorporando la perspectiva de género.
Otras competencias son el apoyo al desarrollo y uso de sistemas de inteligencia artificial desde una doble perspectiva ambiental y sostenible; el apoyo al desarrollo y uso de sistemas de inteligencia artificial con perspectiva de género, incorporando el principio de igualdad de oportunidades entre mujeres y hombres en su diseño y ejecución y promoviendo la realización de evaluaciones de impacto capaces de identificar posibles sesgos discriminatorios por cualquiera de los motivos prohibidos por el ordenamiento jurídico; la instrumentalización de los mecanismos de identificación de tendencias y evaluación del impacto social en materia de inteligencia artificial; el alineamiento y coordinación con iniciativas de terceros relacionadas con la aplicación de los sistemas de inteligencia artificial; la dinamización del mercado para potenciar iniciativas y prácticas innovadoras y transformadoras en el ámbito de la inteligencia artificial; el impulso de la colaboración público-privada para favorecer la creación de marcos de acompañamiento en el sector de la inteligencia artificial con el fin de impulsar su desarrollo humanista y su correcto uso por parte del tejido productivo-empresarial; la ayuda a la ejecución de programas en el ámbito de la inteligencia artificial a través de acuerdos, convenios o cualquier otro instrumento legalmente previsto para apoyar en la ejecución de programas relacionados con la inteligencia artificial y cualquier otra función que pudiera ser atribuible a la Agencia por motivo de aplicación de la normativa nacional y europea que entre en vigor en relación al uso seguro y confiable de los sistemas de inteligencia artificial, así como cualquier otra función derivada de los propios cambios disruptivos de esta tecnología que requiera nuevas actuaciones.
- Actuación administrativa
Para el ejercicio de las potestades administrativas de la Agencia sus órganos podrán dictar actos y resoluciones administrativas. Los actos y resoluciones dictados por el Consejo Rector, o las personas titulares de la Presidencia y la Dirección de la Agencia en el desarrollo de funciones públicas agotarán la vía administrativa, excepto los dictados en materia tributaria donde serán recurribles en vía económico-administrativa, sin perjuicio, en todos los casos, del posterior acceso a la jurisdicción contencioso-administrativa.
ESTRUCTURA ORGÁNICA
El capítulo III, «Estructura orgánica de la Agencia de Supervisión de Inteligencia Artificial», especifica, en cuatro secciones, las funciones de sus diferentes órganos.
La sección 1.ª determina los órganos de gobierno, de control y órganos ejecutivos de la Agencia, estableciendo las competencias y funcionamiento de los mismos.
- Órganos de la Agencia
La Agencia se estructura en órganos de gobierno y órganos ejecutivos.
a) Los órganos de gobierno de la Agencia son: la Presidencia y el Consejo Rector, del cual depende la Comisión de Control.
b) Los órganos ejecutivos de la Agencia son: la Dirección, la Secretaría General, la Subdirección de Informes e Infraestructuras de Prueba y la Subdirección de Certificación, Evaluación de Tendencias, Coordinación y Formación en inteligencia artificial.
Sección 2.ª Órganos de gobierno
- PRESIDENCIA DE LA AGENCIA ESPAÑOLA DE SUPERVISIÓN DE INTELIGENCIA ARTIFICIAL
Según los artículos 12, 13 y 14, la Presidencia de la Agencia la ostentará la persona titular de la Secretaría de Estado de Digitalización e Inteligencia Artificial.
Esta persona ejercerá, entre otras, las funciones de ostentar la máxima representación institucional y legal de la Agencia, encargada de velar por el cumplimiento de su objeto, fines y funciones y, además: Convocar las sesiones del Consejo Rector; Dirimir con su voto los empates en el seno del Consejo Rector; Informar a los departamentos ministeriales competentes del cumplimiento de sus objetivos; Proponer al Consejo Rector personas candidatas a efectos de su nombramiento para la Dirección de la Agencia; Proponer al Consejo Rector la designación de los miembros de la Comisión de Control, elegidos por el Consejo Rector entre sus miembros; Dictar las resoluciones y directrices que requiera el ejercicio de las funciones de la Agencia; Solicitar y facilitar a las autoridades autonómicas competentes en inteligencia artificial la información necesaria para el cumplimiento de sus funciones, en particular, la relativa a la actividad de la AIDA y Participar en las actividades y reuniones de la AIDA como representante común del Estado español.
La Presidencia de la Agencia podrá delegar sus funciones en la Dirección y en la Secretaría General en los términos previstos en el artículo 9 de la Ley 40/2015, de 1 de octubre (LA LEY 15011/2015), salvo aquellas que, por su propia naturaleza, no sean susceptibles de delegación.
- CONSEJO RECTOR
Según el artículo 15, el Consejo Rector estará integrado por la persona titular de la Presidencia de la Agencia, que lo presidirá, dirigirá sus reuniones y representará, y por ocho vocales nombrados por la persona titular del Ministerio de Asuntos Económicos y Transformación Digital: la persona titular de la Dirección de la Agencia; seis personas en representación de los Ministerios de Asuntos Económicos y Transformación Digital, de Hacienda y Función Pública, y de Industria, Comercio y Turismo, con rango al menos de Subdirección General, más una persona experta, designada a proposición conjunta del Consejo Asesor de Inteligencia Artificial y la Comisión Permanente de Digitalización de la Economía, la Administración y la Ciudadanía.
La persona titular de la Secretaría General de la Agencia ejercerá la Secretaría del Consejo Rector, asistiendo a las sesiones del Consejo con voz, pero sin voto.
El Consejo Rector se reunirá, previa convocatoria de la persona titular de la Presidencia y a iniciativa suya o a petición al menos, de la mitad de vocalías, tantas veces como sea necesario para el desarrollo de las funciones de la Agencia y, al menos, cada seis meses.
Los acuerdos del Consejo Rector se tomarán por mayoría de votos de sus miembros, presentes o representados. En caso de empate, la persona titular de la Presidencia tendrá voto de calidad.
- Funciones del Consejo Rector
Según el artículo 16, al Consejo Rector le corresponden, conforme al Estatuto y de acuerdo con lo establecido en la legislación vigente, una relación de veinte funciones --letras a) a t)--, de las que destacamos las siguientes:
a) Realizar el seguimiento, la supervisión y el control superiores de la actuación de la Agencia. b) Proponer, al Ministerio de Asuntos Económicos y Transformación Digital y Ministerio de Hacienda y Función Pública, la aprobación del Contrato de gestión plurianual de la Agencia; así como proponer la aprobación de los objetivos y planes de acción anuales y plurianuales al Ministerio de Asuntos Económicos y Transformación Digital, los criterios cuantitativos y cualitativos de medición de cumplimiento de dichos objetivos y del grado de eficiencia en la gestión y la aprobación de políticas de calidad, todo ello en el marco de lo establecido en el Contrato de gestión. c) Elaborar y aprobar el anteproyecto de presupuesto de la Agencia con el soporte de la División de Gestión Económica. d) Realizar la propuesta a la persona titular del Ministerio de Hacienda y Función Pública, a iniciativa de la persona titular de la Dirección de la Agencia, de las variaciones de la cuantía global del presupuesto y las que afecten a gastos de personal. e) Realizar el nombramiento y cese de la persona titular de la Dirección de la Agencia, a propuesta de la Presidencia de la misma, así como el control de su gestión y la exigencia de las responsabilidades que procedan. f) Realizar el nombramiento y cese, a propuesta de la persona que ostente la Dirección de la Agencia, de las personas titulares de los órganos ejecutivos y de la Secretaría General de la Agencia, y los miembros de la Comisión de Control de la Agencia, a propuesta de la Presidencia, el control de su gestión y la exigencia de las responsabilidades que procedan. g) Aprobar el informe general de actividad correspondiente al año anterior, y de cuantos extraordinarios considere necesarios sobre la gestión, valorando los resultados obtenidos y consignando las deficiencias observadas. h) Aprobar las cuentas anuales de la Agencia y del informe de gestión y la aplicación de resultados, a propuesta de la persona titular de la Dirección.
La sección 3.ª prevé la existencia de una Comisión de Control, estableciendo sus funciones y funcionamiento.
- COMISIÓN DE CONTROL DE LA AESIA
Establece el artículo 20 que la Comisión de Control es el órgano de control de la Agencia y estará compuesta por tres Vocalías, elegidas por el Consejo Rector entre sus miembros a propuesta de la persona titular de la Presidencia de la Agencia; una Presidencia, elegido por las Vocalías de la Comisión, y entre sus miembros y una Secretaría, que será la del Consejo Rector.
Los miembros de la Comisión de Control no deberán desempeñar responsabilidades de gestión en la Agencia.
- Funciones de la Comisión de Control
Conforme al artículo 22, corresponde a la Comisión de Control informar al Consejo Rector sobre la ejecución del Contrato de Gestión, en materia económico-financiera, presupuestaria o contable, verificando que todas las actuaciones llevadas a cabo en el seno de la Agencia se realicen de forma que se asegure un adecuado nivel de cumplimiento, eficacia y eficiencia en la consecución de sus objetivos y que se ejercen sus funciones y competencias de acuerdo con los principios de imparcialidad, objetividad e independencia.
La Comisión de Control se reunirá con la periodicidad que establezcan sus miembros para el adecuado cumplimiento de sus funciones, como mínimo una vez al año y siempre que su Presidente/a lo considere conveniente.
La sección 4.ª detalla la estructura de los órganos ejecutivos y sus funciones, organizándose en una Dirección, dos Subdirecciones y una Secretaría General.
- LA DIRECCIÓN DE LA AGENCIA ESPAÑOLA DE SUPERVISIÓN DE INTELIGENCIA ARTIFICIAL
El artículo 23 establece que, en dependencia de la Presidencia de la Agencia, la Dirección de la AESIA es su órgano ejecutivo y el responsable de la dirección y gestión ordinaria de la misma.
La persona titular de la Dirección poseerá la titulación, la experiencia y las aptitudes, en particular en el ámbito de la inteligencia artificial, necesarias para el cumplimiento de sus funciones y el ejercicio de sus poderes.
- Funciones de la Dirección de la SEDIA
El artículo 24 detalla las 24 funciones que corresponden a la persona titular de la Dirección de la AESIA, de las que destacamos las siguientes:
a) Llevar a cabo la dirección y gestión ordinaria de la Agencia, velando por la consecución de los objetivos fijados en el Contrato de gestión y conforme a las directrices de actuación que fije el Ministerio de Asuntos Económicos y Transformación Digital como Ministerio de adscripción.
b) Elaborar el proyecto de Contrato de gestión.
c) Ser órgano de contratación de la entidad.
d) Nombrar a los miembros de la Mesa de Contratación, sujetándose a la normativa en la materia.
e) Presentar al Consejo Rector, para la proposición de su aprobación, los planes de acción anuales y el informe general de actividad del año anterior.
f) Formular las cuentas anuales de la Agencia y proponer su aprobación al Consejo Rector.
g) Ejecutar el presupuesto de la Agencia.
h) Ejercer la iniciativa para la autorización de variaciones presupuestarias por el Ministro de Hacienda y Función Pública, o autorizar las modificaciones presupuestarias.
Dependen directamente de la Dirección los siguientes órganos: a) la Secretaría General. b) la Subdirección de Informes e Infraestructuras de Prueba y, c) la Subdirección de Certificación, Evaluación de Tendencias, Coordinación y Formación en inteligencia artificial.
- LA SECRETARÍA GENERAL DE LA AESIA
La Agencia contará con una Secretaría General, dependiente de la Dirección, a la que corresponde tener a su cargo los servicios comunes y de carácter administrativo de la entidad y con nivel orgánico de Subdirección. Sin perjuicio de las atribuciones asignadas en el Estatuto a otros órganos de la Agencia, la persona titular de la Secretaría General es responsable de coordinar las actividades para la elaboración del Contrato de gestión.
El capítulo IV desarrolla las reglas relacionadas con el «Personal al servicio de la Agencia Española de Supervisión de Inteligencia Artificial». Destacar que el personal al servicio de la Agencia deberá guardar secreto, incluso después de cesar en sus funciones, sobre los datos personales que conozcan en el desempeño de sus tareas y de cuantas informaciones de naturaleza confidencial hubiera conocido en el ejercicio de aquellas. A tal efecto, la Agencia elaborará una política específica para garantizar la confidencialidad de la información que no tenga el carácter de pública, dentro de la cual se integrará el Código Ético del personal al servicio de la Agencia, que será objeto de publicación en su página web.
El capítulo V, «El contrato plurianual de gestión», que tendrá por objeto regular la actividad de la Agencia y las relaciones recíprocas entre ésta y la Administración General del Estado para la financiación de dicha actividad, todo ello en el marco de la legislación general y específica vigente durante su período de aplicación. El contrato plurianual de gestión tendrá una vigencia de cuatro años y su contenido reflejará los objetivos a perseguir, los resultados a obtener y, en general, la gestión a desarrollar por la AESIA, así como los planes necesarios para alcanzar los objetivos, con especificación de los marcos temporales correspondientes y de los proyectos asociados a cada una de las estrategias y sus plazos temporales, así como los indicadores para evaluar los resultados obtenidos
El capítulo VI «Régimen económico, presupuestario, patrimonial y de contratación» y, por último, el capítulo VII, regula el «Asesoramiento jurídico de la Agencia Española de Supervisión de Inteligencia Artificial».