La Ley 2/2025, de 2 de abril (LA LEY 9519/2025), para el desarrollo e impulso de la inteligencia artificial en Galicia, establece el marco para el diseño, adquisición, implementación y uso de la inteligencia artificial en la Administración general de la Comunidad Autónoma y su sector público, impulsando su desarrollo en el tejido empresarial y el ecosistema de investigación e innovación de la Comunidad Autónoma.
A estos efectos, regula el régimen jurídico del uso de la inteligencia artificial por el sector público gallego en el desarrollo de su actividad y en sus relaciones con la ciudadanía, empresas, entidades y demás administraciones públicas, promoviendo la adopción de una inteligencia artificial centrada en el ser humano, segura, fiable, con un alto nivel de protección de la salud y de los derechos fundamentales y respetuosa con el medio ambiente.
Incluye en su ámbito de aplicación al sector público autonómico, integrado por la Administración general y las entidades instrumentales, a la ciudadanía y los operadores de sistemas de inteligencia artificial en sus relaciones con la Administración general y el sector público autonómico, y en los casos en que así se indique expresamente, a las relaciones entre el sector público autonómico y las restantes administraciones públicas, dentro del ámbito territorial de la Comunidad Autónoma, con pleno respeto a las competencias de estas.
Por el contrario, no es aplicable a los sistemas de inteligencia artificial o modelos de inteligencia artificial de uso general, incluidos sus resultados de salidas, desarrollados y puestos en servicio específicamente con el único fin de la investigación y el desarrollo científico por la Administración general de la Comunidad Autónoma de Galicia y su sector público, sin perjuicio de la aplicación de lo establecido en el capítulo II del título V, relativo a las medidas en materia de I+D+i.
La norma define por primera vez los principios generales que deben regir la actuación de la Administración autonómica en el diseño, desarrollo, implementación y uso de la inteligencia artificial: buena administración digital y diligencia debida, de auditabilidad, trazabilidad y explicabilidad, de transparencia, de claridad, de imparcialidad y de ausencia de sesgos, de seguridad y privacidad, de reserva de humanidad y de revisión humana, de proactividad y personalización, de universalidad y accesibilidad, de fiabilidad y responsabilidad, de evaluación del impacto organizativo, económico, social y medioambiental, de evaluación continua, de precaución, de formación continua, de colaboración y transferencia, y de capacidad técnica, proporcionalidad y suficiencia financiera.
Y dentro de los derechos de la ciudadanía a respetar en los procesos de diseño, adquisición, implementación y uso de sistemas de inteligencia artificial desarrollados por la Administración general de la Comunidad Autónoma de Galicia y su sector público, incluye los derechos de transparencia y supervisión humana, de igualdad y los derechos de tutela
Gobernanza y planificación
Por lo que respecta a la organización administrativa, el texto concreta los sujetos intervinientes en los procesos de diseño, adquisición, implementación y uso de la inteligencia artificial y la planificación para el impulso y desarrollo de la inteligencia artificial en Galicia.
Así, se ocupa de los órganos promotores funcionales, determinando sus funciones, y de los responsables tecnológicos; de la coordinación de la implantación de proyectos de inteligencia artificial a través de la creación de la Oficina de Inteligencia Artificial y del apoyo por parte de la Comisión estratégica para el asesoramiento estratégico en inteligencia artificial, cuando el nivel de riesgo, el impacto y complejidad del proyecto así lo requieran; de la creación del Consejo Gallego de Inteligencia Artificial, órgano colegiado de carácter estratégico para el asesoramiento e impulso en materia de inteligencia artificial en la Comunidad Autónoma de Galicia, adscrito a la consejería competente en materia de tecnologías de la información y de la comunicación y la innovación y el desarrollo tecnológico; y de la participación de los centros de investigación, el tejido empresarial, los colegios profesionales y la sociedad civil en el desarrollo ético y seguro de la inteligencia artificial.
En cuanto a la planificación, la norma especifica aquellos instrumentos a través de los cuales aquélla se llevará a cabo:
- La Estrategia gallega de inteligencia artificial, la cual tendrá por objeto establecer los objetivos generales y particulares que se pretendan conseguir con su desarrollo en el ámbito de la inteligencia artificial en Galicia en un periodo temporal definido. También procurará la coordinación de la participación de la Comunidad Autónoma en los programas y estrategias nacionales e internacionales, asegurando además el alineamiento de esta estrategia con las demás estrategias vigentes en materia de innovación y desarrollo tecnológico, y promoverá la gestión, medición y evaluación de los resultados obtenidos en relación con los objetivos propuestos. Se detalla la información básica que deberá contener.
- Los programas sectoriales de inteligencia artificial, a proponer por las distintas consejerías de la Administración general de la Comunidad Autónoma de Galicia, con la información básica que se establece.
- Los proyectos de inteligencia artificial, los cuales definirán, para su ejecución, las características esenciales de un sistema de inteligencia artificial y las pautas específicas para su diseño, adquisición o implementación. Igualmente, se concreta su contenido.
Gestión y colaboración
Para la gestión de los sistemas de inteligencia artificial la norma incorpora el Inventario de sistemas de inteligencia artificial en el que la Administración general de la Comunidad Autónoma y su sector público inscribirán de oficio todos los sistemas de inteligencia artificial que diseñen o empleen en el Inventario de sistemas de inteligencia artificial, con la finalidad de mejorar la eficacia y eficiencia de la actuación administrativa, así como la transparencia de la misma. Ello sin perjuicio de la obligación de registro, en su caso, en la base de datos de la Unión Europea para los sistemas de inteligencia artificial de alto riesgo, de acuerdo con lo establecido en el Reglamento (UE) 2024/1689, de 13 de junio de 2024 (LA LEY 16665/2024).
Dicho Inventario será el elemento central de la gestión y reflejará todo el ciclo de vida de los sistemas de inteligencia artificial, desde su diseño hasta su desactivación y los datos inscritos en él serán públicos y se agruparán en dos categorías: datos identificativos y datos de funcionamiento y rendimiento.
Cabe destacar como novedad una nueva figura, las personas comisionadas de inteligencia artificial, las cuales velarán por el cumplimiento de los principios y obligaciones en materia de prevención, detección y eliminación de riesgos y de resultados negativos de la implementación de sistemas de inteligencia artificial o empleados por la Administración general de la Comunidad Autónoma de Galicia y su sector público, de conformidad con la normativa de aplicación. Las personas que desempeñen las funciones de comisionadas de inteligencia artificial habrán de tener conocimientos técnicos, jurídicos, éticos, de normas de seguridad y de toma de decisiones automatizadas.
Por otra parte, el texto desarrolla la cooperación entre las administraciones públicas, estableciendo una constante comunicación y colaboración con la Oficina de Inteligencia Artificial en la Unión Europea, la Agencia Española de Supervisión de la Inteligencia Artificial y otros organismos análogos, nacionales o internacionales, con el objetivo de intercambiar conocimientos y experiencias en el ámbito de la regulación y supervisión de la inteligencia artificial en el marco de sus competencias.
Igualmente, regula el repositorio de sistemas de inteligencia artificial, por el cual la Administración autonómica pone a disposición de las demás administraciones que operan en la Comunidad Autónoma los sistemas de inteligencia artificial y modelos de inteligencia artificial de uso general desarrollados por sus servicios, exclusivamente o en colaboración con otras entidades públicas o privadas, o que hubieran sido adquiridos a terceros, siempre que tengan los derechos de propiedad intelectual sobre ellos o que alcancen un acuerdo con la persona titular de estos derechos a tal fin.
Por último, la Administración general y su sector público deben impulsar la colaboración público-privada para el desarrollo de proyectos de inteligencia artificial, la cual podrá instrumentarse a través de mecanismos institucionales, como consorcios o sociedades de economía mixta, y de mecanismos negociables, como convenios de colaboración o contratos administrativos.
Procedimiento para la definición y puesta en marcha de proyectos de inteligencia artificial
Dentro de este ámbito, la norma regula, en primer lugar, la aprobación de los proyectos de inteligencia artificial. A estos efectos se ocupa de la elaboración del informe del proyecto de inteligencia artificial, elemento nuclear del procedimiento, estableciendo su contenido mínimo: una identificación de las necesidades funcionales que han de ser cubiertas y una identificación de la necesidad y oportunidad de diseñar o adquirir, implementar y emplear concretos sistemas de inteligencia artificial; y la relación de características y especificaciones técnicas y el conjunto de datos propuesto para el entrenamiento, validación y prueba, especificando si este contiene una combinación de datos personales y no personales, así como un plan para su gestión.
En segundo lugar, tras la aprobación del proyecto de inteligencia artificial, el órgano responsable tecnológico procederá al diseño del sistema de inteligencia artificial, con la colaboración de la Oficina de Inteligencia Artificial, cuya finalidad es definir sus especificaciones técnicas.
Por su parte, el desarrollo del sistema de inteligencia artificial se llevará a cabo siguiendo los procedimientos y estándares definidos por la entidad instrumental del sector público competente en materia de tecnologías de la información y de la comunicación y la innovación y el desarrollo tecnológico, garantizando el cumplimiento de las especificaciones técnicas, especialmente aquellas relacionadas con la mitigación de riesgos.
Se regula el procedimiento para la adquisición de los sistemas de inteligencia artificial, el entrenamiento de los mismos a fin de ajustar los parámetros objeto de aprendizaje del mismo, así como la validación del sistema entrenado, a fin de realizar una evaluación de su resultado de aprendizaje y ajustar los parámetros no susceptibles de ser aprendidos, y el plan de gestión de datos para facilitar la gestión de la información a lo largo de todo su ciclo de vida, desde la creación o recepción de los datos hasta su análisis, pasando por su organización, limpieza y preservación.
Uso de sistemas y modelos de inteligencia artificial
En este contexto, y para facilitar la adopción y el uso de los sistemas de inteligencia artificial por parte de las instituciones públicas, la nueva ley contempla el alcance del uso de sistemas de inteligencia artificial en la toma de decisiones, incluyendo actuaciones administrativas automatizadas y semiautomatizadas, disponiendo que la Administración autonómica podrá adoptar actos administrativos, de forma automatizada y sin la intervención directa de una persona empleada pública, mediante sistemas de inteligencia artificial, en el marco de un procedimiento administrativo, cuando ejerzan potestades regladas y, excepcionalmente, potestades discrecionales, en caso de que el margen de discrecionalidad se hubiera agotado previamente en el diseño del sistema de inteligencia artificial.
Además, se elaborarán guías que tendrán como finalidad garantizar el buen diseño, implementación y uso de los sistemas de inteligencia artificial. Estas guías tomarán en consideración las directrices y las guías previstas en la normativa específica europea. Y como herramientas de autodiagnosis se desarrollarán instrumentos tecnológicos necesarios que permitan evaluar, de forma continuada, el correcto cumplimiento de los principios generales sobre los sistemas de inteligencia artificial contemplados en la presente ley por parte de la Administración general de la Comunidad Autónoma de Galicia y su sector público.
Y se desarrollará un protocolo de reacción inmediata en caso de que detectase un posible fallo en el funcionamiento de un sistema de inteligencia artificial, el cual se basará en los principios de recurso inmediato a la revisión humana, celeridad en la adopción de resoluciones y minimización de las repercusiones de los fallos y de los perjuicios derivados de ellos.
Medidas de impulso
Por último, la norma incorpora medidas para el impulso de la inteligencia artificial en Galicia:
- Medidas económicas y fiscales: en materia de política industrial se refieren a los planes directores de los sectores industriales, los proyectos industriales estratégicos y los proyectos empresariales singulares; en materia de transición energética se reconoce el uso de la inteligencia artificial para facilitar la consecución de impactos socioeconómicos positivos en el territorio y contribuir a alcanzar los objetivos de descarbonización y neutralidad climática fijados en los planes, programas y estrategias de transición elaborados por la Unión Europea, la Administración general del Estado y la propia Administración autonómica; para la promoción del ecosistema empresarial de inteligencia artificial se crea un sistema de vigilancia tecnológica en inteligencia artificial para las empresas en colaboración con los European Digital Innovation Hubs estratégicos; y se contemplan incentivos fiscales para las empresas innovadoras en el ámbito de la inteligencia artificial que se instalen en Galicia, así como beneficios fiscales para las personas que inviertan en dichas empresas o en proyectos de inteligencia artificial.
- Medidas en materia de I+D+i: en este ámbito el texto se ocupa del fomento de la investigación e innovación en el ámbito de la inteligencia artificial, de la promoción de un ecosistema emergente de investigación e innovación en inteligencia artificial, del impulso de la dotación y la mejora de las grandes infraestructuras de supercomputación para el desarrollo del ecosistema de inteligencia artificial de Galicia, del desarrollo de espacios de datos, de la puesta en marcha de factorías de inteligencia artificial u otras iniciativas similares en torno a infraestructuras tecnológicas del Centro de Supercomputación de Galicia, de los espacios controlados de pruebas para el tejido investigador y empresarial, así como de la suscripción de contratos públicos que tengan por objeto el diseño, desarrollo y, en su caso, adquisición de este tipo de soluciones para la mejora de los servicios públicos y actuar como usuario pionero de dichos sistemas.
- Medidas de formación y capacitación: se establecen medidas destinadas a promover la alfabetización en materia de inteligencia artificial, tanto para los empleados públicos como para la ciudadanía en su conjunto, lo cual contribuye al objetivo de la Comisión Europea de asegurar que las personas involucradas en el desarrollo y uso de la inteligencia artificial estén debidamente capacitadas, promoviendo así un uso responsable y ético de esta tecnología.
Modificaciones legislativas
- Ley 1/2016, de 18 de enero, de transparencia y buen gobierno (LA LEY 1495/2016): se añade el apartado f) al artículo 8.
Entrada en vigor y disposiciones transitorias
La Ley 2/2025, de 2 de abril (LA LEY 9519/2025), entrará en vigor el 24 de abril de 2025, a los veinte días de su publicación en el Diario Oficial de Galicia.
La entidad instrumental del sector público competente en materia de tecnologías de la información y de la comunicación y la innovación y el desarrollo tecnológico realizará una identificación de los sistemas de inteligencia artificial existentes en la Administración general de la Comunidad Autónoma de Galicia y su sector público, procediendo a su registro en el inventario a que se refiere el artículo 35.