«La única manera de asegurarse de que no pierda su trabajo con la llegada de la IA, es hacer algo que la IA no puede hacer, y lo único que la inteligencia artificial no puede hacer, pero un humano puede, es ser original. Por lo tanto, puedes hacer algo original y ninguna IA puede reemplazarte». (Abhijit Naskar)
I. El Reglamento de Inteligencia Artificial a grandes rasgos
Aunque utilizaremos las siglas RIA, el nombre completo de la norma es Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial (LA LEY 16665/2024) y por el que se modifican los Reglamentos (CE) n.o 300/2008 (LA LEY 3589/2008) (UE) n.o 167/2013 (LA LEY 2703/2013) (UE) n.o 168/2013 (UE) 2018/858 (UE) 2018/1139 y (UE) 2019/2144 y las Directivas 2014/90/UE (LA LEY 13360/2014) (UE) 2016/797 (LA LEY 8246/2016) y (UE) 2020/1828. Más allá de estas modificaciones, algo habitual tanto en el Derecho interno como en el comunitario, el hito regulatorio es que la UE se erige en la primera región del mundo que dicta una regulación específica sobre IA. Si bien hablamos de una nueva norma, realmente conocemos desde abril de 2021 el texto de la entonces «propuesta de Reglamento por el que se establecen normas armonizadas en materia de inteligencia artificial (LA LEY 10113/2021)» (conocido desde el primer momento como Ley de Inteligencia Artificial o simplemente «AI Act»). A pesar de que, evidentemente, dicho texto ha experimentado variaciones en estos tres años, poder acceder a su contenido desde el principio nos ha permitido estudiarlo e incluso prepararnos para su irrupción.
La característica esencial del RIA es que pretende establecer una regulación integral de la materia en todo el territorio de la UE. «El objetivo del presente Reglamento es mejorar el funcionamiento del mercado interior mediante el establecimiento de un marco jurídico uniforme, en particular para el desarrollo, la introducción en el mercado, la puesta en servicio y la utilización de sistemas de inteligencia artificial en la Unión» (Considerando 1 RIA (LA LEY 16665/2024)). Además, como reza su propia nomenclatura, es un Reglamento de armonización (que es en general una de las finalidades principales del Derecho europeo): «La existencia de normas nacionales divergentes puede dar lugar a la fragmentación del mercado interior y reducir la seguridad jurídica de los operadores que desarrollan, importan o utilizan sistemas de IA. Por lo tanto, es preciso garantizar un nivel elevado y coherente de protección en toda la Unión para lograr una IA fiable, así como evitar las divergencias que obstaculizan la libre circulación, la innovación, el despliegue y la adopción en el mercado interior de los sistemas de IA y los productos y servicios conexos mediante el establecimiento de obligaciones uniformes para los operadores y la garantía de una protección uniforme de los fines imperiosos de interés general y de los derechos de las personas en todo el mercado interior, sobre la base del artículo 114 del Tratado de Funcionamiento de la Unión Europea (TFUE) (LA LEY 6/1957)» (Considerando 3 RIA (LA LEY 16665/2024)).
Pero hay más mundo más allá de la UE. Hablamos de un fenómeno mundial, cuyo impacto en la economía, los servicios y la sociedad supone en sí mismo una nueva Revolución Industrial. Europa es, como apuntábamos, la región planetaria pionera en la vigilancia de la IA, en parte para salvaguardar sus objetivos, como ahora el Mercado Único Digital de la UE, y en parte por su afán regulatorio, muy superior, según indica la tradición continental, al de América o Asia. Pero una tecnología tan potente, disruptiva y obviamente de alcance mundial, transfronterizo, nos obliga a plantearnos a los profesionales del Derecho, un aspecto clásico de las normas como es el del ámbito territorial. Como dijimos en «El impacto de las TIC en la configuración clásica del derecho. Especial referencia al principio de territorialidad» (1) : «La multiplicidad de poderes legislativos consolidada a finales del siglo pasado (con el derecho internacional y el europeo) alcanza su mayor grado de complejidad con la masificación de internet y el surgimiento de un probablemente necesario nuevo marco de autorregulación, algo similar a un nuevo "legislador" o poder legislativo, constituido por los gigantes de la red. La existencia de esta nueva rama del derecho (¿lo es?), pero por encima de todo la desaparición del espacio físico choca directamente con el clásico principio de territorialidad que caracterizaba al derecho tal y como lo hemos conocido. Al respecto surgen infinidad de preguntas y cuestiones, algunas jurídicamente muy interesantes y otras que ciertamente nos causan bastante preocupación. Lo principal es, ante todo, ser conscientes de esta nueva situación de "extraterritorialidad", y, a partir de ahí, resolver las nuevas relaciones jurídicas o con efectos de derecho que se produzcan. El debate sobre la necesidad de una international ciberlaw, o de la respuesta inmediata de cada Estado ante cada situación, o la mera confianza en este sistema hasta cierto punto "autorregulado", es una cuestión que podemos simplemente plantear y dejar abierta, si bien parece claro que la respuesta más atinada solo puede venir por una inteligente combinación de todas las soluciones». En definitiva, no es el momento de empezar a utilizar expresiones como «poner puertas al campo», pero sí debemos ser autocríticos a la hora de ir verificando y evaluando no solo el nivel de cumplimiento del RIA, sino también su grado de eficacia. Y con esto solo faltaría saber si Europa, gracias a su «entorno seguro», va a atraer la inversión y el desarrollo de la IA, o por el contrario va a ahuyentar la innovación si se percibe que la normativa impone demasiadas restricciones. Y que conste que nada de esto no es una crítica, sino una lectura.
Según su artículo 1 (LA LEY 16665/2024), «El objetivo del presente Reglamento es mejorar el funcionamiento del mercado interior y promover la adopción de una inteligencia artificial (IA) centrada en el ser humano y fiable, garantizando al mismo tiempo un elevado nivel de protección de la salud, la seguridad y los derechos fundamentales consagrados en la Carta, incluidos la democracia, el Estado de Derecho y la protección del medio ambiente, frente a los efectos perjudiciales de los sistemas de IA (en lo sucesivo, "sistemas de IA") en la Unión así como prestar apoyo a la innovación». Por su parte, un «sistema de IA», es «un sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtuales» (art. 3.1 RIA (LA LEY 16665/2024)).
Para cumplir esa función de protección frente a los potenciales efectos perjudiciales de los sistemas de IA, el Reglamento sigue un enfoque basado en los riesgos. Un riesgo es «la combinación de la probabilidad de que se produzca un perjuicio y la gravedad de dicho perjuicio» (art. 3.2 RIA (LA LEY 16665/2024)). A partir de aquí, distingue entre los usos de la IA que generan un riesgo inaceptable (manipulación cognitiva conductual y otros que listamos más abajo), un riesgo alto (sistemas de IA implantados en infraestructuras críticas, como el transporte), un riesgo limitado (sistemas de IA como chatbots, y otros muchos, teniendo en cuenta que la mayoría de los sistemas encajarán en esta categoría), y un riesgo mínimo. En todo caso, para los modelos de IA de uso general, el RIA tiene en cuenta los riesgos sistémicos que podrían derivarse de su uso masivo, ex art. 51.
La lista de prácticas prohibidas abarca todos los sistemas de IA cuyo uso se considera inaceptable por ser contrario a los valores de la Unión, por ejemplo, porque violan derechos fundamentales. Se subraya la amenaza potencial para los derechos de los ciudadanos y la democracia que plantean determinadas aplicaciones que utilizan IA, de tal manera que quedan directamente prohibidas las referidas en el artículo 5 RIA (LA LEY 16665/2024). A saber: sistemas de categorización biométrica que utilizan características sensibles (por ejemplo, creencias políticas, religiosas, filosóficas, orientación sexual, raza); otros sistemas de identificación biométrica remota, salvo excepciones; extracción no dirigida de imágenes faciales de Internet o imágenes de CCTV para crear bases de datos de reconocimiento facial; reconocimiento de emociones en el lugar de trabajo y en instituciones educativas y la denominada puntuación social basada en comportamiento social o características personales. Las excepciones, evidentemente están relacionadas con la función policial de investigación de los delitos, donde la IA, particularmente los sistemas de identificación biométrica (RBI), es una herramienta fundamental, no solo en la propia investigación e identificación de presuntos delincuentes, sino también, de forma muy efectiva, en la protección de las víctimas y la prevención del delito.
El Reglamento centra su atención en los riesgos de la IA, especialmente en su impacto sobre la salud, la seguridad o los derechos fundamentales
Junto con estas prohibiciones, «Conviene establecer normas comunes para los sistemas de IA de alto riesgo al objeto de garantizar un nivel elevado y coherente de protección de los intereses públicos en lo que respecta a la salud, la seguridad y los derechos fundamentales. Estas normas deben ser coherentes con la Carta, no deben ser discriminatorias y deben estar en consonancia con los compromisos de la Unión en materia de comercio internacional. También deben tener en cuenta la Declaración Europea sobre los Derechos y Principios Digitales para la Década Digital (LA LEY 362/2023) y las Directrices éticas para una IA fiable del Grupo independiente de expertos de alto nivel sobre inteligencia artificial» (Considerando 7 y artículos 6 y siguientes (LA LEY 16665/2024)).
En definitiva, la UE centra su atención regulatoria en los riesgos de la IA, especialmente en su impacto sobre la salud, la seguridad o los derechos fundamentales, evitando asimismo, en la medida de lo posible, situaciones de discriminación o desprotección de datos. «Dependiendo de las circunstancias relativas a su aplicación, utilización y nivel de desarrollo tecnológico concretos, la IA puede generar riesgos y menoscabar los intereses públicos y los derechos fundamentales que protege el Derecho de la Unión. Dicho menoscabo puede ser tangible o intangible e incluye los perjuicios físicos, psíquicos, sociales o económicos» (Considerando 5 RIA). Por tanto, surge la necesidad organizativa de estar en disposición de aplicar este catálogo de riesgos y otras cuestiones que generan obligaciones a los implementadores de la IA, y todo ello mucho antes de la total aplicación definitiva de esta norma.
Pero dicha total aplicación no es tan sencilla de llevar a término, incluso de interpretar, sobre todo poniendo en relación distintas partes de la norma. En efecto, una de las notas características del RIA es su aplicación escalonada, y en el peor de los casos solapada. No debe confundirse, por cierto, esta aplicación por fases con conceptos relacionados como vacatio legis o entrada en vigor, aunque en la práctica acaban siendo similares. En el caso del RIA, entra en vigor a los 20 días de su publicación, es decir, el 1 de agosto. Pero su aplicación se producirá efectivamente de forma escalonada, facilitando con ello, al menos teóricamente, una adaptación paulatina las obligaciones legales que derivan del Reglamento. Por eso es importante tener muy claro el siguiente baile de fechas. Veamos la siguiente infografía elaborada por Juan Carlos Melián:
Fuente: Juan Carlos Melián
Por último, y sin perjuicio de las obligaciones legales y otros impactos que abordaremos en los siguientes epígrafes, el nuevo Reglamento establece su propio modelo de gobernanza, reforzado por la posibilidad de imponer sanciones por su incumplimiento, previa verificación del mismo. Las multas, que podrán imponerse desde las propias instancias de la UE como por parte de las autoridades nacionales, pueden llegar a ser francamente elevadas, indicando así el valor que se le da al bien jurídico protegido (derechos importantes, incluso constitucionales, de las personas).
Todo esto en cuanto al RIA. Curiosamente, en el nivel regulatorio del Derecho interno ya disponíamos de normas preexistentes. Si hablábamos de la tendencia hiperregulatoria de la UE, cabe admitir que esta se acentúa especialmente en los países «administrativistas» (modelo continental), como Francia o España. Por eso, no es de extrañar que ya contáramos no con una Ley, pero sí con preceptos concretos dirigidos a regular la IA. El más importante es el art. 23 de la Ley 15/2022, de 12 de julio, integral para la igualdad de trato y la no discriminación (LA LEY 15917/2022), bajo la nomenclatura «Inteligencia Artificial y mecanismos de toma de decisión automatizados», que establece cuatro ítems diferenciados pero relacionados entre sí:
- 1. Eliminación de posibles sesgos: «En el marco de la Estrategia Nacional de Inteligencia Artificial, de la Carta de Derechos Digitales (LA LEY 16317/2021) y de las iniciativas europeas en torno a la Inteligencia Artificial, las administraciones públicas favorecerán la puesta en marcha de mecanismos para que los algoritmos involucrados en la toma de decisiones que se utilicen en las administraciones públicas tengan en cuenta criterios de minimización de sesgos, transparencia y rendición de cuentas, siempre que sea factible técnicamente. En estos mecanismos se incluirán su diseño y datos de entrenamiento, y abordarán su potencial impacto discriminatorio. Para lograr este fin, se promoverá la realización de evaluaciones de impacto que determinen el posible sesgo discriminatorio».
- 2. Transparencia by design: «Las administraciones públicas, en el marco de sus competencias en el ámbito de los algoritmos involucrados en procesos de toma de decisiones, priorizarán la transparencia en el diseño y la implementación y la capacidad de interpretación de las decisiones adoptadas por los mismos».
- 3. Inteligencia Artificial ética: «Las administraciones públicas y las empresas promoverán el uso de una Inteligencia Artificial ética, confiable y respetuosa con los derechos fundamentales, siguiendo especialmente las recomendaciones de la Unión Europea en este sentido».
- 4. Sello de calidad. «Se promoverá un sello de calidad de los algoritmos».
Esta tendencia vigilante y centrada en los riesgos, como hemos visto la marca la propia Europa, Y es que, si bien ciertamente el RIA es posterior al citado precepto, el 19 de febrero de 2020, la Comisión publicó el «Libro Blanco sobre la inteligencia artificial: un enfoque europeo orientado a la excelencia y la confianza». En este Libro Blanco se definen las opciones existentes para alcanzar el doble objetivo de promover la adopción de la IA y de abordar los riesgos vinculados a determinados usos de esta nueva tecnología. Un año más tarde, como indicamos, ya disponíamos del primer texto de la propuesta de RIA, donde vuelven a desarrollarse estos objetivos.
Por otra parte, Europa también apuesta por el establecimiento de los llamados entornos de pruebas regulatorios y pruebas en el mundo real (sandbox) a fin de fomentar y garantizar que las empresas, especialmente las pymes, puedan desarrollar soluciones de IA sin soportar presiones incompatibles con el libre mercado por parte de los gigantes tecnológicos. El RIA dedica a esto nada menos que todo un Capítulo, el VI (arts. 57 y siguientes (LA LEY 16665/2024)), llamado «Medidas de apoyo a la innovación», que arranca precisamente con la regulación de los «Espacios controlados de pruebas para la IA». Esta es una política al servicio del Mercado Único Digital europeo, y una buena muestra de la tan manida colaboración público-privada. En este contexto (recordemos que se disponemos del texto non nato del RIA desde 2021), se pone en marcha en España el primer entorno controlado de pruebas para comprobar cómo se implementan los requisitos aplicables a los sistemas IA de alto riesgo de la propuesta de reglamento de la UE. La norma de referencia es el Real Decreto 817/2023, de 8 de noviembre (LA LEY 29419/2023), que establece un entorno controlado de pruebas para el ensayo del cumplimiento de la propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (LA LEY 10113/2021). Se trata de una norma interna que, como vemos, se adelanta a la aprobación de la norma que desarrolla creando con ello un antecedente interesante, legal a mi parecer, porque utiliza hábilmente las expresiones «ensayo del cumplimiento» y «propuesta de Reglamento».
No podemos dejar de mencionar el Real Decreto 729/2023, de 22 de agosto (LA LEY 24251/2023), por el que se crea la Agencia Española de Supervisión de Inteligencia Artificial, organismo que ejerce funciones de inspección, comprobación, y sanción de conformidad con el RIA. Esta será la principal autoridad supervisora a nivel nacional, y como vemos, también se regula en una norma adelantada a la aprobación definitiva del RIA. E incluso adelantada a la propia Oficina Europea de Inteligencia Artificial, creada en su caso por la Decisión de la Comisión de 24 de enero de 2024 (DOUE-Z-2024-70007), y siendo el organismo de control principal de la UE, con funciones de coordinación del uso de esta tecnología entre las autoridades nacionales, para lo que cuenta con el asesoramiento de científicos y de organizaciones de la sociedad civil, así como de supervisión de los modelos de IA de uso general.
II. Obligaciones directas para los Ayuntamientos
En primer lugar, y tan solo desde el punto de vista subjetivo, el art. 3 RIA (LA LEY 16665/2024) establece una serie de definiciones que ya implican o pueden implicar, directa o indirectamente, a los Ayuntamientos y a sus contratistas. Las más importantes son:
- • «Proveedor»: una persona física o jurídica, autoridad pública, órgano u organismo que desarrolle un sistema de IA o un modelo de IA de uso general o para el que se desarrolle un sistema de IA o un modelo de IA de uso general y lo introduzca en el mercado o ponga en servicio el sistema de IA con su propio nombre o marca, previo pago o gratuitamente.
- • «Responsable del despliegue»: una persona física o jurídica, o autoridad pública, órgano u organismo que utilice un sistema de IA bajo su propia autoridad, salvo cuando su uso se enmarque en una actividad personal de carácter no profesional.
- • «Representante autorizado»: una persona física o jurídica ubicada o establecida en la Unión que haya recibido y aceptado el mandato por escrito de un proveedor de un sistema de IA o de un modelo de IA de uso general para cumplir las obligaciones y llevar a cabo los procedimientos establecidos en el presente Reglamento en representación de dicho proveedor.
- • «Importador»: una persona física o jurídica ubicada o establecida en la Unión que introduzca en el mercado un sistema de IA que lleve el nombre o la marca de una persona física o jurídica establecida en un tercer país.
- • «Distribuidor»: una persona física o jurídica que forme parte de la cadena de suministro, distinta del proveedor o el importador, que comercialice un sistema de IA en el mercado de la Unión.
- • «Operador»: un proveedor, fabricante del producto, responsable del despliegue, representante autorizado, importador o distribuidor.
Además, los Ayuntamientos podrían estar asimismo afectados o involucrados por la actividad de los sujetos que encajen en los siguientes conceptos o roles, especialmente cuando aquella se relacione con una competencia propiamente municipal en la que esté presente la IA:
- • «Autoridad notificante»: la autoridad nacional responsable de establecer y llevar a cabo los procedimientos necesarios para la evaluación, designación y notificación de los organismos de evaluación de la conformidad, así como de su supervisión.
- • «Evaluación de la conformidad»: el proceso por el que se demuestra si se han cumplido los requisitos establecidos en el capítulo III, sección 2, en relación con un sistema de IA de alto riesgo.
- • «Organismo de evaluación de la conformidad»: un organismo que desempeña actividades de evaluación de la conformidad de terceros, como el ensayo, la certificación y la inspección.
- • «Organismo notificado»: un organismo de evaluación de la conformidad notificado con arreglo al presente Reglamento y a otros actos pertinentes de la legislación de armonización de la Unión.
- • «Autoridad garante del cumplimiento del Derecho»: toda autoridad pública competente para la prevención, la investigación, la detección o el enjuiciamiento de delitos o la ejecución de sanciones penales, incluidas la protección frente a amenazas para la seguridad pública y la prevención de dichas amenazas (a), o cualquier otro organismo o entidad a quien el Derecho del Estado miembro haya confiado el ejercicio de la autoridad pública y las competencias públicas a efectos de prevención, investigación, detección o enjuiciamiento de delitos o ejecución de sanciones penales, incluidas la protección frente a amenazas para la seguridad pública y la prevención de dichas amenazas (b).
- • «Garantía del cumplimiento del Derecho»: las actividades realizadas por las autoridades garantes del cumplimiento del Derecho, o en su nombre, para la prevención, la investigación, la detección o el enjuiciamiento de delitos o la ejecución de sanciones penales, incluidas la protección frente a amenazas para la seguridad pública y la prevención de dichas amenazas.
- • «Oficina de IA» (a la cual ya nos hemos referido): la función de la Comisión consistente en contribuir a la implantación, el seguimiento y la supervisión de los sistemas de IA y modelos de IA de uso general, y a la gobernanza de la IA prevista por la Decisión de la Comisión de 24 de enero de 2024.
- • «Autoridad nacional competente»: una autoridad notificante o una autoridad de vigilancia del mercado; en lo que respecta a sistemas de IA puestos en servicio o utilizados por instituciones, órganos y organismos de la Unión, las referencias hechas en el presente Reglamento a autoridades nacionales competentes o a autoridades de vigilancia del mercado se interpretarán como referencias al Supervisor Europeo de Protección de Datos.
Por otra parte, en sintonía con lo ya expuesto, todas estas obligaciones y tareas a las que nos vamos a referir van a variar en función de los riesgos implícitos en los sistemas de IA que use la Administración, así como de su posición subjetiva en cada caso, ya que, como hemos visto, una autoridad pública puede ocupar o ejercer distintos roles en relación al sistema de IA que se utilice. Como expuso Juan Carlos Melián en una reciente entrevista (2) , a lo largo del Reglamento encontramos numerosas referencias particulares a las autoridades públicas. En base a las mismas, podemos identificar las siguientes obligaciones de una entidad local:
- 1. El Ayuntamiento debe preocuparse por identificar y clasificar correctamente los sistemas de IA que utiliza o planea utilizar y sus riesgos, conforme a los artículos 9 (sistema de gestión de riesgos) y 61 (evaluación ex post de la conformidad). De igual forma, a la hora de licitar la adquisición de sistemas de IA, debe asegurar en los pliegos que el sistema que se adquiere o se crea es conforme con el RIA.
- 2. Tal y como hemos visto, el RIA establece diferentes categorías de riesgo (inaceptable, alto riesgo, riesgo limitado y riesgo mínimo), y cada una conlleva distintas obligaciones. Especial atención merecen los sistemas de IA considerados de alto riesgo (3) , como por ejemplo:
- • Los sistemas utilizados en servicios públicos críticos.
- • Los sistemas de evaluación de la elegibilidad para servicios públicos.
- • Los sistemas de gestión del tráfico y suministros básicos.
- • Los sistemas utilizados para la gestión de la migración, el asilo y el control de fronteras y los que se utilicen en la administración de justicia y en los procesos electorales.
- 3. Además, el Ayuntamiento debe garantizar la transparencia y rendición de cuentas, es decir, que los sistemas de IA utilizados sean transparentes y explicables, especialmente cuando afecten a los derechos de los ciudadanos (artículo 13 (LA LEY 16665/2024), transparencia y suministro de información a los usuarios; y artículo 52 (LA LEY 16665/2024), obligaciones de transparencia para determinados sistemas de IA). Por descontado, también es obligatorio que los sistemas de IA cumplan con el RGPD y resto de normativa en materia de protección de datos (considerando 3 y artículo 10, datos y gobernanza de datos).
En resumen, el RIA genera sin duda nuevas obligaciones, tareas y responsabilidades para el Ayuntamiento, tales como:
- a) Evaluación de riesgos: obligación de realizar evaluaciones de riesgo para los sistemas de IA utilizados, especialmente los de alto riesgo.
- b) Registro y documentación: mantenimiento de registros detallados de los sistemas de IA utilizados, incluyendo su finalidad, funcionamiento y medidas de seguridad implementadas.
- c) Supervisión humana: garantizar una supervisión humana adecuada de los sistemas de IA, especialmente en aquellos de alto riesgo, de acuerdo con el art. 22 del Reglamento general de protección de datos (RGPD) (LA LEY 6637/2016).
- d) Formación y capacitación: empezando por la alfabetización a la que más abajo nos referimos. En todo caso forma parte de la obligación general de la Administración de asegurar que, en este caso, el personal que trabaja con sistemas de IA esté debidamente formado y capacitado.
- e) Gestión de calidad: implementación de sistemas de gestión de calidad para los sistemas de IA de alto riesgo.
- f) Notificación de incidentes: obligación de notificar a las autoridades competentes cualquier incidente grave o mal funcionamiento de los sistemas de IA de alto riesgo.
- g) Colaboración con las autoridades: cooperación con las autoridades nacionales en las inspecciones y auditorías que puedan realizarse.
- h) Adaptación de procesos y políticas: obligación de revisar y adaptar los procesos y políticas internas para cumplir con los requisitos del Reglamento.
- i) Designación de responsables: posible necesidad de designar responsables internos para la gestión y cumplimiento de la normativa de IA.
- j) Evaluación de proveedores: obligación de verificar que los proveedores de sistemas de IA cumplen con los requisitos y exigencias del Reglamento.
El Reglamento genera nuevas obligaciones, tareas y responsabilidades para los Ayuntamientos
Como se puede deducir, no hablamos de una tarea ligera. El Reglamento de IA (LA LEY 16665/2024) supone un desafío significativo para los Ayuntamientos, que deberán adaptar sus procesos, políticas y estrategias para cumplir con las nuevas exigencias. Sin embargo, también representa una oportunidad para mejorar su funcionamiento, así como la calidad y confiabilidad de los servicios basados en IA ofrecidos a los ciudadanos. Hablemos, pues, de los servicios.
III. IA y servicios públicos municipales
1. ¿Cómo quedó aquel proyecto de las ciudades inteligentes?
La revolución de la IA es más bien una evolución. Hablando de su aplicación a los servicios públicos, estamos en el terreno de que llamábamos Smart City. El término definitivamente va perdiendo vigencia, ante todo porque parece que discrimina a los municipios medianos y pequeños, que por definición no son «ciudades». Pero no debemos olvidar que en realidad hablamos de la «gestión de servicios públicos», que viene de una etapa no tecnológica en la que dicha gestión se realiza normalmente a través de un concesionario poco controlado por la Administración y por los datos, lo cual suponía un riesgo claro para la eficiencia y la calidad del servicio, a pesar de la buena voluntad de todos. La implementación de la tecnología a los servicios públicos municipales no debería ser monopolio exclusivo de las grandes ciudades, y aquí las Diputaciones (Consejos, Cabildos, CCAA uniprovinciales y otras entidades supramunicipales), tienen mucho que decir.
Por eso, debemos poner en valor la época en la que algunos municipios como Alzira sensorizaron los servicios. En efecto, los datos obtenidos de los sensores ubicados en infraestructuras y espacios públicos nos permitieron optimizar la gestión de los servicios relacionados. Un problema clásico de las ciudades como el aparcamiento, se puede paliar con la sensorización de las plazas, de forma que el usuario se dirija directamente a aquellas disponibles en lugar de perder tiempo, dinero y quizá salud dando vueltas con su vehículo. De igual forma, la progresiva implantación de sensores en otros servicios públicos, como los contenedores (para una recogida selectiva) o los autobuses (conectados con la estructura de soporte de la marquesina de las paradas), permitía, respectivamente, ajustar los horarios de recogida y ofrecer información útil a los pasajeros. Aquello ya era inteligencia artificial, en una fase incipiente, desde luego, en la que los datos debían trabajarse y estudiarse minuciosamente, labor que la máquina solo facilitaba en parte. No teníamos el valor adicional que hoy en día aportan machine learning y deep learning, ya que la tecnología permanecía inalterable. Pero era un sistema inteligente porque permitía tomar decisiones inteligentes, y por eso hablábamos de ciudades inteligentes, un sistema basado en datos ciertos y fiables, que era la verdadera fortaleza del sistema.
Hoy, la IA se erige en la evolución o fase avanzada de aquel proyecto, y podemos decir que es aplicable a la práctica totalidad de servicios públicos. La educación es un ejemplo muy claro. La IA puede personalizar la experiencia educativa para estudiantes de diversas formas, siempre con respeto de los derechos de la persona, especialmente si es menor, por supuesto. Los sistemas de aprendizaje automático pueden adaptar el contenido educativo según el ritmo de aprendizaje de cada estudiante. Hablando de servicios no municipales, tenemos por ejemplo el de sanidad, donde la IA permite ofrecer servicios de atención médica igualmente personalizados. Se trata de datos muy sensibles, por lo que deberán aplicarse los mecanismos previstos en el RIA y el RGPD. Lo importante es que los algoritmos de diagnóstico basados en aprendizaje automático pueden analizar datos médicos específicos de un paciente, proporcionando alternativas de diagnósticos más precisos y tratamientos adaptados a sus necesidades individuales.
Volviendo a la utilidad de la IA en la prestación de servicios públicos por parte de un Ayuntamiento, podemos exponer algunos ejemplos que demuestran enormes mejoras en cuanto a la eficiencia, la transparencia y la calidad de los servicios municipales.
2. Gestión del tráfico y el transporte urbano
Uno de los mayores desafíos de los Ayuntamientos, especialmente los grandes y otros con especial ubicación (áreas metropolitanas), es la gestión del tráfico y el transporte público, servicios públicos complejos y problemáticos donde los haya. Pero la IA puede desempeñar un papel crucial en este ámbito mediante:
- • Sistemas de gestión del tráfico en tiempo real. Utilizando algoritmos de aprendizaje automático y datos de sensores de tráfico, cámaras y dispositivos GPS, los Ayuntamientos pueden optimizar el flujo de vehículos y reducir los atascos. Por ejemplo, los semáforos inteligentes pueden adaptarse dinámicamente a las condiciones del tráfico, minimizando el tiempo de espera.
- • La predicción y planificación del transporte público. Este es un sistema que utilizamos desde hace años, a través de sensores ubicados en los autobuses y las paradas, pero ahora es más eficiente porque los modelos predictivos basados en IA pueden analizar patrones de uso del transporte público para anticipar la demanda y optimizar rutas y horarios. Esto no solo mejora la puntualidad y la eficiencia, sino que también puede reducir costes operativos.
3. Gestión de residuos y red de saneamiento
La IA puede revolucionar la manera en que los Ayuntamientos gestionan los servicios de recogida de residuos y la red de saneamiento. Por ejemplo:
- • A través de la optimización de rutas de recolección de basura. Utilizando datos históricos y también en tiempo real, los algoritmos de IA pueden diseñar rutas de recogida más eficientes, reduciendo el consumo de combustible y las emisiones de carbono. En todo caso, los propios contenedores tienen desde hace tiempo incorporados sensores inteligentes que ofrecen datos sobre el estado de llenado, fundamental para planificar la recogida, y otros como la temperatura, que puede prever un desastre.
- • Mediante el monitoreo y mantenimiento predictivo. Otros sensores inteligentes y el análisis de datos permiten detectar problemas en las infraestructuras de saneamiento antes de que se conviertan en emergencias. Esto facilita un mantenimiento predictivo, minimizando interrupciones y costos de reparación.
4. Seguridad ciudadana
Sin ser una competencia estrictamente municipal, no cabe duda de que la seguridad es una de las principales preocupaciones de la ciudadanía y, en este sentido, los Ayuntamientos pueden contribuir a mejorarla significativamente con el uso de la IA. Señalamos un par de usos:
- • Videovigilancia inteligente. Garantizando la privacidad y los derechos de las personas, en algunos casos se pueden utilizar sistemas de cámaras con IA, que pueden ubicarse en infraestructuras públicas o en los propios «drones patrulla», y que pueden detectar comportamientos sospechosos en tiempo real, alertando a las autoridades y permitiendo una respuesta más rápida ante un ilícito o un simple accidente fortuito. Además, pueden ayudar en la identificación y seguimiento de personas desaparecidas.
- • Análisis de datos para prevención del crimen. Hablamos de sistemas de IA al menos de alto riesgo, incluso prohibidos en algunos casos, por los que la justificación de interés público debe avalar su uso excepcional. En todo caso, de lo que no cabe duda es de que la IA puede analizar grandes volúmenes de datos para identificar patrones y tendencias delictivas, ayudando a las fuerzas de seguridad a anticipar y prevenir actividades criminales. La puesta en marcha de estos mecanismos exige una perfecta coordinación entre las fuerzas y cuerpos de seguridad, donde la policía local tiene otras competencias, pero el Ayuntamiento puede colaborar igualmente en cuestiones importantes relacionadas con los delitos cometidos o que se puedan cometer en su término municipal.
5. Atención básica a la ciudadanía
Vaya por delante que cada vez que ponemos en valor los puestos y funciones que deben quedar en manos de la inteligencia humana, destacamos los servicios de atención a las personas, máxime los que requieren de mayor sensibilidad, empatía y preparación, como los servicios sociales. Pero no cabe duda de que la IA puede «filtrar» el nivel de atención al público más básico, liberando precisamente a los empleados especializados para que puedan dedicarse por entero a la atención «de calidad». En este sentido, no cabe duda de que la interacción entre el Ayuntamiento y la ciudadanía puede ser más eficiente y personalizada mediante el uso de tecnologías de IA como:
- • Chatbots y asistentes virtuales. Estos pueden proporcionar respuestas inmediatas a consultas frecuentes, guiando a los usuarios en la realización de trámites y la obtención de información relevante sin necesidad de intervención humana.
- • Análisis de feedback y satisfacción. Sencillas aplicaciones de IA pueden analizar comentarios y sugerencias de los ciudadanos para identificar áreas de mejora en los servicios públicos.
6. Planificación urbanística y medio ambiente
La IA puede aportar grandes beneficios en estos ámbitos. Entre otras muchas herramientas y sistemas, podemos aplicar:
- • Simulaciones y modelado predictivo. Los algoritmos de IA pueden simular diversos escenarios de desarrollo urbano, ayudando a los planificadores a tomar decisiones más informadas sobre la zonificación, la infraestructura y los usos del suelo.
- • Monitoreo ambiental. Sensores y análisis de datos en tiempo real permiten a los Ayuntamientos monitorear la calidad del aire, el ruido y otros factores ambientales, facilitando una gestión proactiva y sostenible del entorno urbano.
7. Gemelos digitales
Un gemelo digital es una réplica virtual de un objeto físico que utiliza los datos en tiempo real enviados por los sensores del objeto para simular su comportamiento en situaciones reales y supervisar las diferentes situaciones. Por su parte, el llamado Gemelo Digital Urbano (GDU), también conocido como Urban Digital Twin, representa un avance significativo en la gestión y planificación urbana al proporcionar un modelo digital preciso de una ciudad en tiempo real. Este modelo, promocionado en España e Italia por el Observatorio Sector Público e Inteligencia Artificial, se alimenta de una amplia gama de datos e información recopilados de diversas fuentes, incluidos sensores IoT, sistemas de información geográfica (GIS), imágenes de satélite, datos de tráfico, datos meteorológicos y más. Integrando estos datos en un solo lugar, el GDU ofrece una representación virtual detallada y completa de la ciudad y sus infraestructuras.
Las citadas tecnologías permiten recopilar datos, analizar información y tomar decisiones basadas en datos para mejorar la eficiencia y la calidad de vida en las ciudades. El objetivo sigue siendo la gestión inteligente de los recursos urbanos, como el agua, la energía, los residuos, el transporte y la infraestructura. Mediante la recopilación y análisis de datos en tiempo real, se pueden identificar patrones, optimizar el uso de recursos y mejorar la eficiencia operativa en diferentes áreas de la ciudad. Por otra parte, los GDU proporcionan una plataforma para simular diferentes escenarios y analizar el impacto de las decisiones de planificación urbana antes de implementarlas en el mundo real. Esto facilita la toma de decisiones informadas y la planificación estratégica de los servicios públicos, ya que permite evaluar el rendimiento y los riesgos asociados con diferentes intervenciones urbanas. Además, la transparencia y la accesibilidad a la información favorece la participación ciudadana, lo que ayuda a construir una mayor confianza entre los ciudadanos y las autoridades municipales.
En definitiva, GDU es un modelo digital preciso de una ciudad que recopila datos e información, incluso, en tiempo real. Su función principal es apoyar los procesos de toma de decisiones mediante análisis y previsión predictiva avanzados. Entre sus numerosas aplicaciones se encuentran la gestión de distintos recursos públicos, la optimización del consumo de energía, la gestión de incidentes, la movilidad urbana, la planificación del suelo urbano, la conservación del patrimonio artístico y arquitectónico, la lucha contra el cambio climático, la gestión de fenómenos naturales, el turismo y la mejora de los servicios públicos. Finalmente, entre los ejemplos de ciudades que han implementado GDU en mayor o menor medida encontramos Singapur, Helsinki, Cambridge, Ámsterdam, Boston y Perugia, además de Zaragoza, Barcelona y Las Palmas de Gran Canaria en España.
8. Alfabetización ciudadana
Sin duda, los Ayuntamientos deben contribuir y colaborar, dentro de sus competencias y, dicho más coloquialmente, de sus posibilidades, en el cumplimiento del artículo 4 RIA (LA LEY 16665/2024) («Alfabetización en materia de IA»), el cual dispone: «Los proveedores y responsables del despliegue de sistemas de IA adoptarán medidas para garantizar que, en la mayor medida posible, su personal y demás personas que se encarguen en su nombre del funcionamiento y la utilización de sistemas de IA tengan un nivel suficiente de alfabetización en materia de IA, teniendo en cuenta sus conocimientos técnicos, su experiencia, su educación y su formación, así como el contexto previsto de uso de los sistemas de IA y las personas o los colectivos de personas en que se van a utilizar dichos sistemas». En este contexto, pensemos no solo en formación a la ciudadanía y usuarios, sino también en los planes de formación para empleados públicos. Desarrollamos esta idea en el siguiente epígrafe.
IV. Propuesta de una hoja de ruta sencilla para la implantación de la IA en un Ayuntamiento
Somos más que conscientes de que existen diferentes tipos de Ayuntamiento, como por ejemplo hemos apuntado hablando de «ciudades» y «municipios» inteligentes, lo cual se traduce en diferentes medios, posibilidades y recursos. En cualquier caso, haciendo un esfuerzo por estandarizar los pasos estratégicos que debería contener cualquier proyecto de implantación de la IA, proponemos los siguientes:
1. Estrategia y liderazgo
Para que se haga realidad cualquier proyecto, antes debe estar previsto tanto en la agenda política como en la estrategia de la organización. Si no viene impulsado y apoyado «desde arriba», ya podemos apuntarnos el fracaso incluso antes de empezar. Y ya adelantamos que va a ser difícil arrancar una apuesta sincera e inequívoca por parte del equipo de gobierno y algunos altos funcionarios a favor de la IA, porque más allá del marketing de proyectos concretos que sí pueden resultar vistosos, supone aceptar un cambio radical en el sistema clásico de gobernanza, mejorando la calidad de las decisiones al estar basadas objetivamente en datos y no en caprichos o «decisiones iluminadas». La vieja política no va a entrar en esta dinámica tan fácilmente, mientras que las organizaciones corruptas directamente ni se lo plantearán.
Existen diferentes tipos de Ayuntamiento, lo cual se traduce en diferentes medios, posibilidades y recursos
Pero incluso en el mejor de los casos, obviamente, para llegar a ese convencimiento existe una previa que pasa por realizar una evaluación exhaustiva de las necesidades existentes y las oportunidades que genera la utilización de la IA en los distintos servicios de la entidad pública (ver punto 4.8). Bien sea a través de un clásico DAFO en toda regla o bien de otro tipo de análisis preliminar, el resultado de ese estudio debería ser esperanzador, por mucho trabajo que implique. También recomendamos reflejar estas intenciones por escrito, tanto en el plan estratégico (de existir), como en un plan específico de implantación de la IA, en su caso. No consideramos imprescindible la aprobación de normas, pero quizá sí sea conveniente la adaptación de alguna de las existentes para dar cabida al desarrollo de esta nueva tecnología. En el nivel de soft law, podría resultar interesante desarrollar políticas y regulaciones éticas, a las que también se refiere el RIA, para orientar la implantación y el uso responsable y ético de la IA dentro de la organización.
2. La administración electrónica «estaba antes»
Primero el uno y después el dos. No podemos empezar la fase siguiente hasta no haber finalizado la anterior. Algunas personas escuchan o leen «inteligencia artificial» y esbozan una media sonrisa dando a entender que esto ya llegará, tal vez, pero en un futuro remoto. Se equivocan completamente. Nada de esto es ciencia ficción, sino más bien administración electrónica, a la que ya podemos considerar una vieja conocida. Una fase avanzada, sí, pero en definitiva lo mismo que empezamos hace décadas. Arrancamos con la ofimática (informática de oficina) y las bases de datos. Después incorporamos una herramienta vital, la firma electrónica, que nos permitía formalizar y tramitar documentos y expedientes electrónicos (procedimiento electrónico o administración electrónica básica). Avanzamos en esta línea, más allá del mero procedimiento, desarrollando otros servicios digitales (administración digital), e incluso incorporamos tecnología a los servicios públicos (proyectos smart), tal y como hemos visto. Este es un viaje evolutivo y su siguiente parada se llama inteligencia artificial… Pero no son sino peldaños de la misma escalera que ya estábamos subiendo.
Por tanto, rematemos de una vez las fases anteriores, subamos esos peldaños anteriores para poder llegar al siguiente. Si en su organización siguen pendientes la mayoría de los ítems principales de la administración electrónica (simplificación administrativa, gestión documental y archivo electrónicos, automatización de trámites, transparencia de documentos y preferiblemente también de datos, sede electrónica y otros servicios accesibles a los usuarios, ENI, identificación y firma electrónica, ENS y protección de datos, etc.), mi recomendación es no empezar a construir la casa por el tejado.
3. Mapa de situación
Pero quizá ya tengamos algo hecho, después de todo. Como acabamos de indicar, la revolución de la inteligencia artificial es más bien una evolución. Centrándonos en su aplicación a los servicios públicos, hace años que estos pueden ser «inteligentes» desde la óptica de los aludidos proyectos Smart City.
Otros indicativos de que no partimos de cero son la utilización de algún sistema atención automatizada al público, como los referidos chatbots, ya bastante frecuentes y que de hecho utilizan IA; haber llegado a un alto grado de automatización en los procesos y los procedimientos; y tener muy implantadas las metodologías basadas en datos (sistemas de recogida, análisis, transparencia y datos abiertos, big data, small data). A alguna de estas cuestiones nos referimos más abajo.
4. Aprendizaje (nuevas aptitudes)
Hablábamos de alfabetización. Esta vez hará falta algo más que un plan de formación al uso. Ante el desconocimiento de la cuestión y la falta de una cultura mínima sobre IA, debemos procurar disminuir la brecha digital que ya se ha creado en esta materia, tanto la interna (empleados) como la externa (ciudadanía).
El objetivo como organización debe ser desarrollar y fomentar el desarrollo de esa cultura general mínima, empezando por los propios empleados, de manera que ellos mismos ayuden en la difusión externa de las nuevas aplicaciones y servicios, especialmente las que se implanten en los servicios públicos municipales interactivos, donde los usuarios tendrán que aprender a utilizar esa nueva tecnología para que las administraciones podamos ir creando un nicho creciente de usuarios. Si es que las personas así lo desean, por supuesto, ya que siguen teniendo el derecho a elegir el cauce a través del cual se relacionan con la Administración.
Por otro lado, y volviendo a la parte interna, es un excelente momento para desarrollar de una vez esas nuevas aptitudes y capacidades propias de la «inteligencia humana», que serán diferenciales e inabordables por definición para la IA, y que por tanto destrozarían el famoso miedo a la sustitución. Decíamos que la IA forma parte del proceso de transformación digital en el que nos encontramos desde hace años. Es el mismo proyecto, el de administración electrónica en su sentido amplio, el de la implantación de las tecnologías de la información y comunicación, los cambios organizativos y las nuevas aptitudes, nada menos que para mejorar los servicios públicos, que es nuestra obligación. Y todo está contenido en la clásica definición de administración electrónica dada por la Comisión Europea:
«Administración electrónica es el uso de las tecnologías de la información y comunicación en las AAPP, combinado con cambios organizativos y nuevas aptitudes, con el fin de mejorar los servicios públicos y los procesos democráticos y reforzar el apoyo a las políticas públicas».
En este sentido, la capacitación tecnológica es importante, pero no lo es menos el desarrollo de las nuevas aptitudes que nos definen como trabajadores modernos. Una serie de «habilidades blandas» (soft skills) como la inteligencia emocional, el pensamiento crítico, el liderazgo, la empatía, la resiliencia (o adaptabilidad) o la propia gestión de esos tan necesarios cambios; a las que podríamos añadir una más: dominar la IA, que será la habilidad más importante del siglo XXI. ¿Qué tal interactúa usted con ChatGPT? ¿Le formula las preguntas de la forma óptima para extraer todo su rendimiento? Si esto se le da realmente bien, usted va a tener muchas ofertas de trabajo. Una vez entendido el carácter instrumental de la tecnología, su buen uso permitirá mejorar el rendimiento y la calidad del trabajo desempeñado por los diferentes empleados a nivel particular, y, por supuesto, por parte de cada servicio y de la propia organización en términos generales. Por ejemplo, los drones son un gran complemento para la regulación del tráfico. Pero incluso en los servicios donde los empleados precisan de más y mejores habilidades blandas (como la referida atención al público), la IA puede ser un complemento útil. Vamos a trabajar juntos, «codo con codo», valga la personificación, pero antes habrá que «reparcelar» funciones a fin de asignar a cada uno lo suyo…
5. Reingeniería(s)
Es el momento de las reingenierías, en plural. En concreto tres: la de procedimientos, la de procesos, y la de funciones. No se trata de una labor que abordemos por primera vez. Si, como presuponemos, tenemos implantado el procedimiento electrónico es porque hemos trabajado los trámites para simplificar, actualizar y «traducir» al lenguaje del gestor de expedientes. En el mejor de los casos, alguno de esos trámites no solo se ha digitalizado, sino también automatizado. La automatización a través de sellos electrónicos es la antesala de la automatización algorítmica, y tampoco son dos tecnologías contrapuestas, sino integrables. Pero no solo de procedimientos vive la Administración, ya que la mayoría de nuestros procesos funcionales son protocolos susceptibles de digitalización y/o automatización. La IA es útil en todos los niveles, y nos permite replantear cualquier tarea para hacerla más eficiente. Se trata simplemente de que la tecnología vaya asumiendo poco a poco las labores repetitivas y de mero trámite, carentes de valor o complejidad intelectual, pero verdaderas ladronas de tiempo. Y esto nos lleva a la reingeniería de funciones. Somos conscientes de que no es tarea fácil abrir la caja de pandora de las Relaciones de Puestos de Trabajo, pero parece más que claro que las funciones actuales de determinados empleados ya no pueden ser tales como realizar fotocopias, poner sellos o mecanografiar, y sin embargo aún constan por escrito. Por tanto, debemos realizar una catalogación de tareas. Dicho de otra forma: listar y diferenciar lo que hace la IA, de lo que hacen los seres humanos y de lo que ya no sea hace, como por ejemplo todo lo relacionado con el papel. Esta tercera lista iría a la basura, valga la metáfora. Este trabajo revelará a su vez la necesidad de incorporar nuevos perfiles a la Administración, especialmente los llamados «STEM» (Science, Technology, Engineering and Mathematics), al mismo tiempo que se refuerzan otros puestos o servicios, como Tecnología, Innovación, Proyectos europeos o Protección de datos.
6. Adaptación al Reglamento Europeo de IA
Valga lo dicho en el epígrafe 2 del presente artículo, puesto en relación con los plazos de entrada en vigor también expuestos en la infografía.
7. Trabajar con y desde los datos
La IA utiliza algoritmos preprogramados, que, en una fase más avanzada, son incluso capaces de aprender solos, pero para ello necesita una materia prima llamada datos, unos inputs con los que trabaja y que finalmente le permiten llegar a ciertos resultados en forma de soluciones y conclusiones. Estamos de suerte. En las AAPP disponemos de cantidades ingentes de estos datos, e incluso podemos conseguir muchos más. Por tanto, en la implementación de la IA, contar con una buena «cultura de datos» previa es un buen principio. Y aquí destacamos la transparencia de datos, open data si se prefiere, como motor actual de un Gobierno abierto donde los distintos actores públicos, bien informados, colaboran en el desarrollo de los servicios públicos y otros fines de interés general, casi siempre coincidentes con los suyos.
En definitiva, en IA es importante el procesamiento de datos. Este se define como el conjunto de técnicas y algoritmos utilizados para analizar, limpiar, transformar y visualizar grandes volúmenes de datos con el fin de extraer información útil y tomar decisiones basadas en evidencia. La toma de decisiones informadas, documentadas y completamente objetivas debe ser la máxima de una Administración que aspira a la excelencia. Esto nos lleva a su vez a un último concepto, la Gobernanza de datos (ver art. 10 RIA (LA LEY 16665/2024)).
8. Identificar problemas y necesidades
Este es realmente un paso inicial, si bien por sistemática lo hemos colocado como punto ocho. Sin embargo, tal y como indicamos, debe realizarse un estudio previo. Entre otras cuestiones, debería analizarse cuáles de nuestros servicios podemos mejorar mediante IA (además de cómo, y para qué). Obviamente, unos servicios públicos son más susceptibles que otros de cara a la implantación de esta tecnología. Por eso dicho estudio debe ser exhaustivo. Una cuestión importante es la evaluación de impacto. En este sentido, resulta fundamental evaluar el impacto social y económico de las soluciones de IA implementadas, considerando cómo afectan a diversos grupos de la población, buscando minimizar posibles riesgos y desigualdades, y calibrando el posible menoscabo de derechos, como la privacidad y la protección de datos.
Por otra parte, un pequeño truco que nos permitimos señalar es el de empezar por «pequeños proyectos». Actuar de forma menos arriesgada o, si se quiere, más conservadora, ayudará a afianzar la estrategia, pues obviamente no es positivo para el desarrollo y el avance del proceso que este se vea salpicado por un contratiempo o sensación de fracaso al inicio. Pero tenemos ayuda. Y no solo por parte de las Diputaciones, ya mencionadas, o de la financiación que pudiera llegar desde diversas convocatorias de fondos, empezando por Europa. Además de esto, nos parece el momento idóneo de reforzar el Gobierno abierto. En esta identificación de las necesidades, juega un papel importante la participación ciudadana. Una de las claves del éxito de este proyecto es fomentar la participación pública en el proceso de implementación de IA, asegurando que los ciudadanos estén informados y tengan la oportunidad de proporcionar su opinión y contribuir a la toma de decisiones. Desde luego, resulta igualmente importante recabar la participación de la Universidad, así como de los expertos independientes de la comunidad científica. Y por supuesto, debemos contar con la participación de las empresas, como desarrollamos a continuación.
9. Sandbox
Debemos hacer una nueva referencia a los entornos de pruebas, esta vez desde la óptica municipal. La IA recupera la oportunidad de reactivar aquella colaboración público-privada que pasó de puntillas por la Administración Local. La inversión en investigación es uno de los puntos débiles de las políticas públicas españolas en los últimos años, pero invertir en investigación y desarrollo de IA para impulsar la innovación nos permite retroalimentarnos de ese mercado incipiente. La Administración tiene la obligación de fomentar y mantenerse al corriente de los avances tecnológicos, desarrollando nuevos mercados que reactiven la maltrecha economía. En todo caso, si queremos que el servicio público sea innovador, las Administraciones lógicamente debemos comprar innovación. Y apostar por la innovación. Esto tampoco es nuevo. Desde hace años disponemos de la figura de la compra pública innovadora, con poco recorrido (pero muy interesante) en nuestro país, y mucho más utilizada en Europa. Ahora debemos añadir el marco jurídico del propio RIA (Capítulo VI, arts. 57 y siguientes (LA LEY 16665/2024)) y del citado Real Decreto 817/2023, de 8 de noviembre (LA LEY 29419/2023), que lo desarrolla en esta cuestión.
V. Factores clave
La implantación de la IA en un Ayuntamiento presenta unos ítems característicos que suelen adoptar la forma de ventajas e inconvenientes (o quizá meros obstáculos temporales), pero que no podemos ignorar. No deben confundirse con los ítems de la hoja de ruta que acabamos de desarrollar, que eran más bien los pasos a dar o tareas a realizar o, simplemente, las cuestiones a abordar. Por su parte, estos factores clave son más bien los puntos calientes que debemos acometer y, si se presentan en forma de problemáticas, resolver:
- 1. Automatización para la eficiencia. La IA puede automatizar tareas administrativas repetitivas y de poco valor intelectual, liberando a los empleados públicos para que realicen actividades más estratégicas y «humanas». Esto debe explicarse y gestionarse de forma empática y efectiva, porque de lo contrario puede interpretarse de forma negativa con bastante facilidad.
- 2. Mejora en el proceso de toma de decisiones. Frente a la gestión por ocurrencias o excesivamente politizada, la IA analiza datos que nos acercan a una toma de decisiones más informada y totalmente objetivizada. Esta tendencia afecta, y mucho, a la manera «clásica» de gobernar. Aquí se producirán resistencias.
- 3. Servicios personalizados. A partir de los datos y la «experiencia de usuario», la IA permite adaptar los servicios públicos a las necesidades individuales de los ciudadanos, como ocurre no solo en atención al público, sino también en servicios importantes como educación y medicina, ya referidos. Tenemos la obligación moral de adaptarnos a esta revolución, porque supondrá un incremento sin precedentes en la calidad y eficiencia de los servicios públicos, pero simultáneamente habrá que fortificar los derechos de las personas.
- 4. Auge del teletrabajo. Se inicia una nueva etapa dentro de la digitalización impulsada por la IA que facilitará un mejor desempeño del teletrabajo, si bien debe combinarse con el trabajo presencial para una buena organización del mismo en relación a las distintas tareas a realizar (smart working), así como para potenciar la inteligencia relacional y colectiva de la organización y sus empleados, cuyo escenario ideal es la presencia física.
- 5. Resistencia al cambio. Además del mencionado «odio a los datos», otros factores como los rumores falsos o poco exactos, la supuesta destrucción de puestos o el aumento de la brecha digital, pueden perjudicar el proyecto. Con carácter general, la cultura normalmente conservadora de las AAPP prácticamente asegura que se va a producir la resistencia al cambio en la implantación de este proyecto, pero una comunicación clara y una gestión adecuada pueden ayudar a superarla. Resulta esencial abordar estas resistencias con sensibilización, formación y una comunicación transparente, explicando las mejoras y asegurando que la implementación de la IA sea ética y equitativa, sin fisuras en la medida de lo posible. Con esto conseguiremos debilitar los argumentos que no se basen en la realidad, sino en los aludidos rumores o prejuicios.
- 6. Protección de datos. La implementación de la IA en el sector público plantea nuevos desafíos en términos de protección de datos personales y privacidad, como cada vez que irrumpe una nueva tecnología en realidad. Esta es una de las preocupaciones del RIA, que incumbe no solo a los Ayuntamientos sino también al resto de actores (contratistas, concesionarios, asociaciones, los propios usuarios) implicados en el cumplimiento de la norma y, por extensión, en la salvaguarda de estos importantes derechos de las personas. En una etapa en la que el desarrollo de la administración electrónica ya ha llegado al manejo de los datos biométricos (que constituyen una categoría de datos personales sensibles), debemos tener especial cautela en la protección de los mismos. Sin embargo, en este sentido, la ventaja es un marco regulatorio europeo sólido en materia de protección datos y privacidad, donde destaca el Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016 (LA LEY 6637/2016), Reglamento general de protección de datos (LA LEY 6637/2016), y donde ahora debemos integrar el nuevo RIA, aprovechando además una cierta formación y sensibilización previa que en este caso no permite el argumento del desconocimiento de la materia, porque llevamos muchos años insistiendo con cuestiones como el Esquema Nacional de Seguridad, la ciberseguridad, y por supuesto la LOPD (actual Ley Orgánica 3/2018, de 5 de diciembre, de Protección de Datos Personales y garantía de los derechos digitales (LA LEY 19303/2018)).
- 7. Capacitación y reciclaje laboral. Ante los cambios provocados por la IA, la organización debe ofrecer programas de capacitación y reciclaje laboral para que los empleados adquieran las habilidades necesarias para adaptarse a los nuevos roles, funciones y tecnologías. En este escenario pueden quedarse cortos los citados planes de alfabetización y formación, presentando especial interés mecanismos como los de reskilling y upskilling, en cuyo desarrollo no entramos por razones de extensión del presente artículo, pero que a nuestro juicio encajan perfectamente en la parte «de Recursos Humanos» afectada (y mucho), por la implantación de la IA.
- 8. Ética y responsabilidad. Aunque por lo general somos críticos con la doctrina más radical que denuncia la falta de «ética algorítmica», no cabe duda de que la IA debe utilizarse de manera ética y responsable, evitando sesgos y discriminaciones, y garantizando la equidad en el acceso a servicios y oportunidades. Los algoritmos no son buenos ni malos desde el punto de vista de las emociones, ni por supuesto tienen interés alguno en perseguir algún tipo de beneficio o perjuicio a un particular, pero sí es cierto que una hipotética programación defectuosa o un entrenamiento a partir de datos incorrectos o erróneos (los cuales sí contienen sesgos), contaminaría la objetividad de los resultados. Los organismos públicos deben establecer políticas claras de uso ético de la IA y ser transparentes en sus procesos y decisiones.
- 9. Colaboración interinstitucional. La implementación efectiva de la IA en el servicio público requiere de la colaboración entre diferentes instituciones y organismos gubernamentales, y también a nivel europeo e internacional, tanto desde el punto de vista técnico como financiero. Es importante establecer mecanismos de cooperación, tanto administrativos como técnicos (interoperabilidad, reutilización), compartiendo recursos para evitar duplicidades. Ni que decir tiene que, cuando hablamos de Ayuntamientos, la ayuda provincial a la que ya nos hemos referido resulta fundamental, casi imprescindible.
- 10. Transparencia y rendición de cuentas. A fin de evitar la desconfianza ciudadana, la adopción de la IA en el sector público debe ir acompañada de una mayor transparencia y rendición de cuentas, precisamente aprovechando que la propia IA facilita estos procesos. Resulta crucial que la ciudadanía comprenda cómo se utiliza la IA en la toma de decisiones y que se establezcan mecanismos para cuestionar y revisar los procesos automatizados, como medida preventiva o, llegado el caso, reactiva, en los supuestos en que se produzcan los posibles perjuicios, errores o sesgos a los que nos hemos referido.
VI. Conclusiones
«Nuestra inteligencia es lo que nos hace humanos, y la IA es una extensión de esa cualidad». (Yann LeCun)
Las organizaciones públicas nos hallamos inmersas en un proceso de transformación que se prolonga ya varias décadas y que ha conocido varios nombres o, si se nos permite la crítica, «varias modas»: procedimiento electrónico, administración electrónica, Smart City, digitalización, innovación pública, y ahora inteligencia artificial (IA). En efecto, la etapa actual de dicho proceso no puede ser otra que la necesaria incorporación e integración de la IA tanto en los procesos administrativos como en los servicios públicos, a fin de simplificar los primeros y mejorar los segundos, objetivos no solo deseables sino necesarios. Pero dicha implantación no es sencilla. A grandes rasgos, tenemos un marco jurídico muy exigente que aplicar, ahora protagonizado claramente por el RIA, y tenemos una serie de cuestiones internas que abordar, tanto organizativas, como funcionales, como de servicio público, en este último caso ya de forma mucho más orientada a la ciudadanía, cuyos derechos debemos al mismo tiempo salvaguardar en un ejercicio que roza el equilibrismo.
Vale la pena. Junto con el rigor que siempre exige el análisis de una nueva norma, al que hemos dedicado la primera parte del presente artículo, también hemos querido dar una visión práctica posibilista que nos permite resaltar el potencial transformador de la IA en el sector público, apuntando algunas mejoras concretas y muy significativas en cuanto a transparencia, objetividad, legalidad, eficacia, eficiencia y calidad en la prestación de servicios esenciales para el bienestar de las personas. La aplicación de la IA en áreas como la automatización, la toma de decisiones y la personalización de servicios, se presenta como una oportunidad para llevar a cabo avances muy tangibles e inéditos hasta la fecha, y que nos acercan a la quimérica excelencia de los servicios públicos, un objetivo realista y sobre todo exigible por parte de unos contribuyentes que nunca han dejado de pagar impuestos a cambio de que lo hagamos lo mejor posible.
La necesidad de garantizar un despliegue responsable y equitativo de la IA se convierte en un elemento esencial para asegurar el éxito y la aceptación de esta tecnología en el ámbito público
No obstante, también subrayamos la importancia de abordar algunos retos y puntos clave críticos que acompañan a la implementación de la IA en el sector público, como los diferentes aspectos jurídicos, éticos y de privacidad, empezando por el mapa de riesgos que define el RIA, y cuyo incumplimiento no va a quedar impune. En todo caso, la necesidad de garantizar un despliegue responsable y equitativo de la IA, alineado con principios legalmente establecidos, se convierte en un elemento esencial para asegurar el éxito y la aceptación de esta tecnología en el ámbito público. Si lo hacemos bien, se aceptará este cambio como algo natural. En este sentido, además de la consabida evaluación de riesgos, queremos destacar el necesario cumplimiento de principios legales que rigen la organización y actuación de las administraciones públicas, como son la racionalización y agilidad de los procedimientos, la eficacia en el cumplimiento de objetivos, la economía en el uso de recursos y la eficiencia en la asignación de los mismos. La aplicación de la IA no solo busca mejorar los servicios públicos, sino cumplir con estos principios esenciales. La protección de datos, aunque importantísima, no puede utilizarse, una vez más, como un freno a los proyectos de mejora. Simplemente es un aspecto más a tener en cuenta.
Por otra parte, y aunque en el presente artículo solo podemos mencionar la cuestión de soslayo, no podemos dejar de apuntar que la adaptación de las estructuras organizativas a las demandas de la era de la IA se presenta como una necesidad urgente. La creación de nuevos puestos, como los de programación o gestión de datos, debería convertirse en una prioridad. Hemos aludido a los «puestos STEM» (Science, Technology, Engineering and Mathematics). ¿Para cuándo un prompt engineer en la Administración? Simultáneamente, proponemos una reorganización hacia estructuras más horizontales y transversales, que funcione a través de equipos multidisciplinares que trabajen en equipo, por proyectos y por objetivos, y algún día desde casa, por qué no, huyendo de la antigua departamentalización y de la absurda y anticuada creencia de que el fichaje o el presencialismo tienen algo que ver con el rendimiento.
La automatización de procesos emerge como otra pieza importante en esta transformación, invitando a una segunda gran reingeniería de procesos con impacto directo en la redefinición de las funciones asignadas a los puestos. La etapa de la legendaria lentitud de la Administración puede verse por fin superada por un sistema que aplica la automatización no solo de trámites y procedimientos, sino también del resto de procesos funcionales que componen el trabajo diario. Una buena programación, ex lege, y el establecimiento de sistemas estándar o puntuales de supervisión (humana) y control de calidad, dan toda la legitimidad a estos procesos.
La IA no es el enemigo. Al contrario. El futuro pasa por la colaboración entre humanos y máquinas. Esta es la nueva inteligencia colectiva. Cuando la creatividad humana se fusione con la velocidad de procesamiento de datos de la IA, se abrirán nuevas fronteras en la prevención de problemas a través de modelos predictivos, en la rápida y certera resolución de aquellos si pese a todo se producen, y en la precisión, objetividad y calidad de las decisiones, impulsando además la innovación de una manera inédita hasta la fecha, con la importancia que ello tiene también para la economía. En última instancia decide el ser humano, por supuesto (así lo indica la Ley (4) ), pero la gestión basada en los datos debe desplazar de una vez a la que surge de las ocurrencias y los caprichos, muchas veces erróneos y en alguna ocasión claras muestras de desviación de poder (por mucho que se intente camuflar). Paradójicamente, en estas lides no suelen aparecer los escrupulosos de los sesgos algorítmicos. Pero el dato vence al relato.
En última instancia, se precisa de un liderazgo facilitador para impulsar todos estos cambios, empezando por los organizativos. Abracemos este cambio. No se trata de la revolución de las máquinas, sino la de las personas que utilizan máquinas. Existe la inteligencia artificial, no la conciencia artificial. Los robots no quieren sustituir a las personas, y mucho menos ser personas, pero parece que algunas personas sí quieren seguir siendo robots, como en la Revolución Industrial, donde los trabajadores no eran ni más ni menos que las piezas de un engranaje, dentro del cual desempeñaban un papel mecánico. La nueva Revolución Industrial, la de la IA, no solo ofrece una serie de mejoras sin precedentes en los servicios públicos, lo cual nos beneficia como ciudadanos, sino que como trabajadores nos permite ser reflexivos, estratégicos, ingeniosos, creativos, sociables y comunicativos… ¿Acaso no es esto mucho más «humano»?
Y en esta tormenta perfecta irrumpe el RIA. Es una norma importante, exigente como decíamos, y que por supuesto debemos cumplir. Podemos verlo como una nueva obligación legal compleja y desagradable, pero también podemos integrarlo en los proyectos vivos que se supone que estamos desplegando desde hace años. En este sentido, se trataría simplemente de una norma más (aunque trascendental) que pasa a formar parte del marco jurídico de referencia.
En todo caso, los Ayuntamientos, como Administraciones Públicas, también deben cumplir una serie de principios aplicables a su organización y actuación. En este sentido, la integración de la IA en la prestación de servicios públicos por parte de los Ayuntamientos acerca a estos a ser precisamente el tipo de Administración que deben ser, más transparente, eficiente y proactiva, y más cercana al ciudadano. Bienvenidos a la siguiente etapa, a los tiempos de lo que algunos denominan gobernanza algorítmica o de los datos, si bien a nosotros nos agrada más la expresión «gestión inteligente», quizá porque nos recuerda a nuestros proyectos Smart City, cuyo apellido «city, ciudad», deberíamos ir sustituyendo definitivamente por municipio. Lo importante es que ni la gestión pública ni los servicios públicos volverán a basarse en decisiones caprichosas y poco técnicas. Lo celebramos los devotos de los principios de objetividad, igualdad e integridad; y del interés general. Excélsior.