I. Introducción
La importancia de las tecnologías de inteligencia artificial (IA) (1) en la geopolítica se está haciendo evidente para todos los Estados y regiones del mundo. Ya en 2013, el presidente chino, Xi Jinping, subrayó el papel de las políticas públicas en el establecimiento de objetivos a largo plazo y en el hecho de que la IA ofrece la oportunidad de superar a Estados Unidos en términos de supremacía militar.
En la actualidad, las 100 principales empresas de IA a nivel mundial están ubicadas fundamentalmente en Estados Unidos, mientras que solo tres empresas chinas y cuatro europeas figuran en esta clasificación (2) . Con el fin de mejorar sus resultados, la mayoría de los Estados están implementando planes de inversión en IA.
Además, la Comisión Europea comenzó a trabajar en la regulación de la IA en 2018, publicando la estrategia europea relativa a la IA (3) , creando un grupo de expertos de alto nivel (4) e introduciendo un plan coordinado para promover la IA desarrollada en Europa (5) . Con ello, la Comisión pretende adaptar Europa a la era digital (6) y el impulso y despliegue de la IA están en el centro de su estrategia. En su Libro Blanco sobre la excelencia y la confianza en la IA, publicado en 2020 (7) , propone varias opciones políticas para la futura regulación de la IA.
Estas iniciativas se plasmaron el 21 de abril de 2021 en la propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas sobre inteligencia artificial y se modifican determinados actos legislativos de la Unión (Reglamento de IA) (8) . La regulación que establezca (9) este Reglamento de la Unión Europea, una vez aprobado, tendrá eficacia directa en los Estados miembros (art. 288 TFUE (LA LEY 6/1957)), salvo en aquellos aspectos en que la norma europea contiene una habilitación o remisión específica al desarrollo normativo por parte de las autoridades nacionales, como sucede, por ejemplo, en el régimen de infracciones y sanciones por incumplimiento de dicha regulación.
II. Derecho español
En este marco del Derecho digital europeo, la creación de la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA) se proyecta como una de las medidas destinadas a afrontar los desafíos de una tecnología que se está desarrollando con gran rapidez en todo el mundo y que presenta indudables beneficios pero también importantes riesgos derivados de un mal uso de la misma.
En España, en el año 2019, el Ministerio de Ciencia, Innovación y Universidades aprobó la Estrategia Española de I+D+i en Inteligencia Artificial, alineada con la europea
En España, en el año 2019, el Ministerio de Ciencia, Innovación y Universidades aprobó la Estrategia Española de I+D+i en Inteligencia Artificial, alineada con la europea, que como hemos apuntado fue presentada el año anterior. En el año 2020, tras la aprobación del Libro Blanco sobre la Inteligencia Artificial por la Comisión Europea, el Ministerio de Asuntos Económicos y Transformación Digital incluyó, dentro de la Agenda España Digital 2025, la elaboración de una Estrategia Nacional de Inteligencia Artificial, que fue aprobada por el Consejo de Ministros el 1 de diciembre de 2020, y de la Carta de Derechos Digitales (LA LEY 16317/2021) (10) , que vio la luz el 14 de julio de 2021 y reconoce, sin carácter normativo, derechos de la ciudadanía en relación con la inteligencia artificial. La regulación jurídica en nuestro ordenamiento se produjo de la mano del artículo 23 de la Ley 15/2022, de 12 de julio, integral para la igualdad de trato y la no discriminación (LA LEY 15917/2022).
El Plan Nacional de Recuperación, Transformación y Resiliencia (LA LEY 9394/2021) del año 2021 hizo suyas estas medidas en materia de inteligencia artificial en el marco de la política española de ciencia e innovación. Con posterioridad, el Ministerio de Asuntos Económicos y Transformación Digital aprobó la Agenda España Digital 2026, que es una actualización de la Agenda España Digital 2025, en la que se contempla la creación de la Agencia Española de Supervisión de la Inteligencia Artificial, que «se encargará de la promoción del desarrollo y uso responsable, sostenible y confiable de la inteligencia artificial, y, cuando el marco normativo así la habilite, de la supervisión del marco de aplicación para la puesta en marcha o comercialización de sistemas que incluyan inteligencia artificial y que puedan suponer riesgos significativos para la salud, seguridad y los derechos fundamentales».
III. Fundamento legal
La creación de la Agencia Española de Supervisión de la Inteligencia Artificial, como organismo público vinculado o dependiente de la Administración General del Estado, debe realizarse «por Ley», tal y como dispone el artículo 91.1 de la Ley 40/2015, de 1 de octubre, de Régimen Jurídico del Sector Público (LRJSP) (LA LEY 15011/2015).
En el caso de dicha Agencia, la disposición adicional centésimo trigésima de la Ley 22/2021, de 28 de diciembre, de Presupuestos Generales del Estado para el año 2022 (LA LEY 28442/2021) autoriza al Gobierno a impulsar una ley para su creación «como Agencia Estatal».
La disposición adicional séptima de la Ley 28/2022, de 21 de diciembre, de fomento del ecosistema de las empresas emergentes (LA LEY 26453/2022), por su parte, dispone:
«Uno. De acuerdo con lo previsto en el artículo 91 de la Ley 40/2015, de 1 de octubre, de Régimen Jurídico del Sector Público (LA LEY 15011/2015), se autoriza la creación de la Agencia Española de Supervisión de Inteligencia Artificial, como organismo público con personalidad jurídica pública, patrimonio propio, plena capacidad de obrar y potestades administrativa, inspectora y sancionadora que se le atribuyan en aplicación de la normativa nacional y europea en relación con el uso seguro y confiable de los sistemas de inteligencia artificial.
Dos. La actuación de la Agencia responderá a los siguientes fines:
a) La concienciación, divulgación y promoción de la formación, y del desarrollo y uso responsable, sostenible y confiable de la inteligencia artificial.
b) La definición de mecanismos de asesoramiento y atención a la sociedad y a otros actores relacionados con el desarrollo y uso de la inteligencia artificial.
c) La colaboración y coordinación con otras autoridades, nacionales y supranacionales, de supervisión de inteligencia artificial.
d) El fomento de entornos reales de prueba de los sistemas de inteligencia artificial, para reforzar la protección de los usuarios.
e) La supervisión de la puesta en marcha, uso o comercialización de sistemas que incluyan inteligencia artificial y, especialmente, aquellos que puedan suponer riesgos significativos para la salud, seguridad y los derechos fundamentales.
Tres. La Agencia estará adscrita a la Secretaría de Estado de Digitalización e Inteligencia Artificial del Ministerio de Asuntos Económicos y Transformación Digital. Se regirá por lo establecido en su estatuto orgánico y por lo dispuesto en la Ley 40/2015, de 1 de octubre, de Régimen Jurídico del Sector Público (LA LEY 15011/2015).
Cuatro. La asistencia jurídica, consistente en el asesoramiento y la representación y defensa en juicio de la Agencia, corresponderá a los Abogados del Estado integrados en el Servicio Jurídico del Estado».
Por último, el régimen se completa con el Estatuto de la Agencia Española de Supervisión de la Inteligencia Artificial, que ha sido aprobado por Real Decreto 729/2023, de 22 de agosto (LA LEY 24251/2023).
Como ha señalado el dictamen del Consejo de Estado número 816/2023, de 13 de julio, pese al tenor literal de la previsión legal transcrita, por la que «se autoriza la creación de la Agencia Española de Supervisión de la Inteligencia Artificial», la disposición adicional séptima de la Ley 28/2022, de 21 de diciembre, de fomento del ecosistema de las empresas emergentes (LA LEY 26453/2022), es —en realidad— la «ley de creación» de la Agencia.
De este modo, a la vista del régimen legal vigente contenido en la LRJSP (LA LEY 15011/2015), la disposición adicional séptima de la Ley 28/2022, de 21 de diciembre, de fomento del ecosistema de las empresas emergentes (LA LEY 26453/2022), es —cualquiera que sea su tenor literal— la «ley de creación» de la Agencia Española de Supervisión de la Inteligencia Artificial. El señalado Real Decreto 729/2023 (LA LEY 24251/2023) no es ni puede ser una norma de creación de la Agencia, sino de aprobación de su Estatuto como requisito previo para su entrada en funcionamiento.
IV. Naturaleza jurídica de la Agencia
Nuestra Agencia es una entidad de derecho público regulada en los artículos 108 bis a 108 sexies de la LRJSP (LA LEY 15011/2015). Su denominación es «Agencia Española de Supervisión de la Inteligencia Artificial», y sus siglas AESIA. La Agencia está adscrita al Ministerio de Asuntos Económicos y Transformación Digital, a través de su Secretaría de Estado de Digitalización e Inteligencia Artificial.
La Agencia tiene personalidad jurídica pública, patrimonio propio y autonomía en su gestión, con facultad para ejercer potestades administrativas para el cumplimiento de los programas correspondientes a las políticas públicas que desarrolle la Administración General del Estado en el ámbito de sus competencias (artículo 1 de su Estatuto).
V. Objeto y fines
Como establece el artículo 4 del Estatuto, corresponde a la Agencia llevar a cabo tareas de supervisión, el asesoramiento, la concienciación y la formación dirigidas a entidades de derecho público y privado para la adecuada implementación de toda la normativa nacional y europea en torno al adecuado uso y desarrollo de los sistemas de inteligencia artificial, más concretamente, de los algoritmos. Además, la AESIA ostenta la función de inspección, comprobación, sanción y demás que le atribuya la normativa europea que le resulte de aplicación y, en especial, en materia de inteligencia artificial.
La Agencia, dentro del ámbito de competencias correspondientes al Estado, tiene por objeto la minimización de los riesgos que puede suponer el uso de esta tecnología, el adecuado desarrollo y potenciación de los sistemas de inteligencia artificial. En el ámbito de la competencia estatal, ejercerá las funciones de autoridad responsable de la supervisión, y en su caso sanción, de los sistemas de inteligencia artificial con el objeto de eliminar o reducir los riesgos para la integridad, la intimidad, la igualdad de trato y la no discriminación y demás derechos fundamentales que pueden verse afectados por el mal uso de los sistemas.
Asimismo, la actuación de la Agencia responderá a los siguientes fines:
- a) La concienciación, divulgación y promoción de la formación, y del desarrollo y uso responsable, sostenible y confiable de la inteligencia artificial.
- b) La definición de mecanismos de asesoramiento y atención a la sociedad y a otros actores relacionados con el desarrollo y uso de la inteligencia artificial.
- c) La colaboración y coordinación con otras autoridades supervisoras, nacionales y supranacionales.
- d) El fomento de entornos reales de prueba de los sistemas de inteligencia artificial —sandbox—, para reforzar la protección de los usuarios y evitar sesgos discriminatorios.
- e) La supervisión de la puesta en marcha, uso o comercialización de sistemas que incluyan inteligencia artificial y, especialmente, aquellos que puedan suponer riesgos significativos para los derechos fundamentales.
VI. Estatuto de la Agencia
El Estatuto de la Agencia Estatal de Supervisión de la Inteligencia Artificial reúne el contenido mínimo requerido a las normas de esta naturaleza por el artículo 93 de la LRJSP (LA LEY 15011/2015), por cuanto determina —tal y como exige este precepto legal— las funciones y competencias del organismo (letra a), su estructura organizativa, con expresión de la composición, funciones, competencias y rango administrativo de cada uno de sus órganos así como de aquellos actos y resoluciones que agotan la vía administrativa (letra b), sus recursos económicos y su patrimonio (letra c), el régimen relativo a recursos humanos, patrimonio, presupuesto y contratación (d) y la facultad de participación en sociedades mercantiles (e). Todas estas cuestiones se encuentran, en efecto, reguladas en la norma que acaba de ser aprobada.
Así, su Estatuto consta de cincuenta y un artículos que están distribuidos en siete capítulos.
El capítulo I («Disposiciones generales») regula la naturaleza jurídica (artículo 1), la sede (artículo 2), el régimen jurídico (artículo 3), el objeto y fines (artículo 4), la cooperación, coordinación administrativa y acción exterior (artículo 5), las potestades administrativas (artículo 6) y la transparencia y publicidad (artículo 7) de la Agencia.
El capítulo II («Competencias y régimen de actuación») establece los principios de actuación de la Agencia (artículo 8), la forma y alcance de las disposiciones y actos administrativos que puede dictar en ejercicio de sus funciones y los recursos disponibles contra ellos (artículo 9), y sus competencias (artículo 10).
El capítulo III («Estructura orgánica de la Agencia Española de Supervisión de la Inteligencia Artificial») consta de cuatro secciones:
- — La sección 1ª («De la organización de la Agencia») contiene un solo precepto, en el que se enumeran sus órganos de gobierno (Presidencia y Consejo Rector), de control (Comisión de Control) y ejecutivos (Dirección, Subdirección de Informes e Infraestructuras de Prueba, Subdirección de Certificación, Evaluación de Tendencias, Coordinación y Formación en inteligencia artificial, y Secretaría General) (artículo 11).
- — La sección 2ª («Órganos de gobierno») regula la Presidencia (artículos 12, 13 y 14) y el Consejo Rector (artículos 15, 16, 17, 18 y 19).
- — La sección 3ª («Órganos de control») regula la Comisión de Control (artículos 20, 21 y 22).
- — La sección 4ª («Órganos ejecutivos») regula la Dirección (artículos 23 y 24), la Subdirección de Informes e Infraestructuras de Prueba (artículo 25), la Subdirección de Certificación, Evaluación de Tendencias, Coordinación y Formación en inteligencia artificial (artículo 26) y la Secretaría General (artículo 27).
El capítulo IV («Personal al servicio de la Agencia Española de Supervisión de Inteligencia Artificial») establece el régimen de personal (artículo 28), tanto funcionario (artículo 29) como laboral (artículo 30), con particular atención a las normas sobre incompatibilidades (artículo 31), procedimiento de selección (artículo 32), ordenación de puestos de trabajo (artículo 33), provisión de puestos de trabajo (artículo 34) y régimen retributivo (artículo 35). Asimismo regula el personal directivo (artículo 36); y, en fin, obliga a la evaluación del desempeño (artículo 37) e impone el deber de secreto profesional (artículo 38).
El capítulo V («El contrato plurianual de gestión») regula el objeto, vigencia y aprobación (artículo 39), el contenido (artículo 40) y las modificaciones y adaptaciones anuales (artículo 41) de este contrato.
El capítulo VI («Régimen económico, presupuestario, patrimonial y de contratación») consta de dos secciones:
- — La sección 1ª («Régimen económico-financiero, patrimonial y de contratación») regula los recursos económicos (artículo 42), la gestión, liquidación y recaudación (artículo 43), el endeudamiento (artículo 44), el patrimonio (artículo 45) y la contratación (artículo 46) de la Agencia.
- — La sección 2ª («Régimen presupuestario, de contabilidad y control económico-financiero») establece el régimen presupuestario (artículo 47), el régimen contable y de información económica (artículo 48), las cuentas anuales (artículo 49) y el control de la gestión económico-financiera (artículo 50) de la Agencia.
El capítulo VI («Asesoramiento jurídico») contiene un solo precepto, que atribuye la asistencia jurídica de la Agencia a la Abogacía General del Estado (artículo 51).
A la postre, el contenido de su Estatuto se ajusta, así, a la estructura organizativa y régimen jurídico de las agencias estatales en general como en los ámbitos específicos del personal, económico-financiero y contratación y presupuestario, de contabilidad y control económico-financiero.
VII. Conclusión
El próximo Reglamento europeo de IA instituye una supervisión púbica por parte de autoridades nacionales independientes designadas, con fuertes sanciones, al tiempo que también establece normas de corregulación, normalización y certificación.
Con la aprobación del Estatuto de la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA), España se adelanta así a la aprobación del señalado instrumento del Derecho de la Unión Europea. A mi juicio, este hito no sólo supone colocar a nuestro país a la vanguardia del Derecho digital (siguiendo la estela marcada por el título X de la LOPDGDD (LA LEY 19303/2018) o la Carta de Derechos Digitales (LA LEY 16317/2021) de España), sino que además contribuye a acortar la distancia entre progreso tecnológico y Derecho.
Bien es verdad que, en tanto no se apruebe este marco normativo europeo, la AESIA no podrá ejercer plenamente funciones de supervisión propiamente dichas, ni, por ende, las potestades administrativas de inspección y sanción. Hasta ese momento se limitará a promover que los operadores se adecúen por iniciativa propia a las buenas prácticas en la materia, o, por decirlo con palabras del preámbulo del proyecto de Real Decreto objeto de este estudio, a realizar una «supervisión de forma voluntaria».