Por Carlos B. Fernández.- Los pasados días 14 a 16 de junio, tuvo lugar, en la sede de Laboral-Ciudad de la Cultura de Gijón, el DATAfórum JUSTICIA 2023, un evento organizado por el Ministerio de Justicia y el Principado de Asturias, dedicado a divulgar y analizar el uso del dato en el mundo del Derecho, con respeto a los derechos fundamentales de las personas.
El congreso permitió escuchar a representantes de la administración, de la abogacía, de la procura, de la academia, de la industria y de la empresa, ofreciendo una visión singularmente completa de la práctica del uso del dato en estos ámbitos relacionados con la Justicia.
Fue de destacar la implicación del Ministerio en el impulso y dinamización del evento, dotándole de un alcance y profundidad poco comunes. Un simple dato: Aitor Cubo Contreras, Director General de Transformación Digital del Ministerio de Justicia, intervino en diferentes sesiones a lo largo de los tres días, alguno de ellos haciendo incluso doblete.
Dada la envergadura del evento, organizado en tres escenarios paralelos a lo largo de los tres días, resulta imposible resumir lo allí tratado, si no es acudiendo a algunos de sus principales destacados, tal como haremos a continuación. Además, en este enlace podrás acceder a la grabación íntegra de todas las ponencias y mesas del DATAfórum JUSTICIA 2023.
14 de junio: EL RETO TECNOLÓGICO DE LOS SERVICIOS PÚBLICOS
España debe asumir la gestión inteligente del dato para mejorar la Justicia
La sesión inaugural del congreso corrió a cargo de Encarnación Vicente, Viceconsejera de Justicia del Principado de Asturias y Tontxu Rodríguez, Secretario de Estado de Justicia.
Rodríguez expuso los objetivos del congreso, centrado, según explicó, en divulgar las grandes ventajas que la tecnología ofrece al mundo del derecho y en situar al dato como eje y guía para lograr una sociedad más eficiente e inclusiva que permita superar las diferentes brechas que existen en este ámbito, unas brechas que generan una gran desigualdad pero que, destacó, se pueden superar gracias a la tecnología.
Todo ello desde un enfoque humanista, basado en la importancia del papel de la persona como protagonista y destinataria de la acción.
El primer paso de esta transformación es pasar de una Justicia orientada al documento a una Justicia orientada al dato, de forma que, por medio de la transparencia, el análisis y su explotación, se pueda generar conocimiento y mejorar la toma de decisiones que permitan aplicar políticas de calidad, más eficientes y próximas.
Es decir, se trata de considerar al dato como un valor tecnológico necesario para obtener la información precisa que permita afrontar los retos de la sociedad de hoy y de la de mañana.
Por ello, continuó, la obtención y gestión de datos públicos es una necesidad de la sociedad digital para implementar políticas públicas más eficaces.
Este trabajo, iniciado ya, ha ido dando sus frutos, situando a España en cabeza de la digitalización de la Justicia a nivel europeo y mundial. Prueba de ello son los avances, que se analizarán en el congreso, de Carpeta Justicia, la digitalización del Registro Civil y de la Oficina Judicial y la Fiscalía, sin olvidar las áreas de Medicina legal y la toxicología.
Unos avances, destacó, que no habrían sido posibles sin el desarrollo de una política de cogobernanza con las Comunidades Autónomas, orientada a la disposición de servicios equivalentes entre todos los territorios, por medio de una cooperación de trescientos sesenta grados que ha permitido la mejora de la coordinación y la cooperación.
Y en este proyecto no se debe perder de vista la importancia de Europa como marco de referencia en materias tan relevantes como la inteligencia artificial que, sin duda, será otra de las protagonistas del congreso, dada la relevancia de su capacidad para mejorar el servicio público de la Justicia.
Abogacía y procura apoyan la transformación digital de la justicia, al servicio de los ciudadanos
Dentro de este bloque institucional, destacamos también las intervenciones de Victoria Ortega, presidenta del Consejo General de la Abogacía Española, y de Juan Carlos Estévez, presidente del Consejo General de Procuradores.
Ortega destacó el reto que supone para su colectivo tanto la explotación del dato como la automatización de tareas. La primera, orientada a la personalización de soluciones, la gestión de riesgos, la predicción de resultados y la rentabilidad de los productos. La segunda como tendencia que está marcando el futuro, con su impacto en la gestión de documentos, el uso de chatbots para la atención a tareas sencillas o la automatización de tareas repetitivas.
Unos retos que plantean a su vez la necesidad de asegurar la privacidad y seguridad de los datos, base de la confidencialidad a que están obligados estos profesionales, la deontología, con su exigencia de responsabilidad y la evitación del conflicto de intereses. Todo ello, relacionado, a su vez, con la necesidad de invertir en recursos digitales y en la formación de los profesionales.
Por su parte, Estévez, destacó el papel de la procura como pionera en el impulso de la digitalización de la justicia desde principios de los años 90 del siglo pasado, incluyendo su papel «como conejillo de indias» en la implantación de LexNet.
Hoy, la tecnología forma parte de la procura, destacó Estévez, quien añadió que «los procuradores son los reyes del dato, porque digitalizamos, clasificamos y revisamos todos los documentos que se envían a los tribunales, ahorrando con ello mucho dinero a la administración de Justicia, contribuyendo, junto con los abogados, a su agilización».
Los procuradores, concluyó, están en el centro del sistema de Justicia, relacionándose con todos sus actores, por eso es necesario contar con unos sistemas de gestión procesal interoperables y que se hablen entre sí, algo de lo que cada vez estamos más cerca, gracias al entendimiento que se está produciendo entre las diferentes partes implicadas.
15 de junio: LA COGOBERNANZA EN EL DATO Y LA COLABORACIÓN PÚBLICO-PRIVADA COMO FACTOR DE ÉXITO DE LA JUSTICIA Y EL DERECHO
España a la cabeza de la digitalización de la Justicia en Europa
De la segunda jornada, comenzamos destacando la ponencia de Aitor Cubo Contreras, Director General de Transformación Digital de Justicia del Ministerio de Justicia, quien destacó el papel de España como país líder en Justicia digital, «en el que somos un referente reconocido internacionalmente».
Según el DESI (Índice de Economía y Sociedad Digital) somos el núm. 5 de Europa, por delante de otros grandes. Y estamos liderando proyectos en la CEPEJ (Comisión Europea para la Eficacia de la Justicia del Consejo de Europa) y el Banco Interamericano de desarrollo, además de posicionarnos con la OCDE.
Se trata de un proyecto país de transformación digital de la justicia, que está centrado en las personas, en particular en los profesionales de la justicia, por eso también se va a mejorar Carpeta Judicial.
En este proceso, destacó, la interoperabidad es esencial. «No es malo que haya distintas soluciones, porque ello implica competencia e innovación, permitiendo que cada territorio diseñe su mejor solución técnica, lo importante es que ésta se hable con las demás, que interopere con soluciones externas y que todas ellas estén centradas en el dato».
En esta línea señaló que LexNet ha sido muy denostado y necesita muchas mejoras (de hecho, se está preparando la beta de una nueva versión que se espera que esté pronto en el mercado), pero ha permitido gestionar más de 134 millones de notificaciones electrónicas, lo que no tiene parangón en el mundo.
Además, añadió, con las reformas procesales en marcha se quiere mejorar la Administración de Justicia con el foco puesto en los ciudadanos. Así, el proyecto de Ley de Eficiencia Procesal (LA LEY 8039/2022) desarrollará la Oficina de Justica que acerque la justicia a los ciudadanos desde los propios municipios, para permitir la realización de gestiones sin obligar a los ciudadanos a desplazarse, haciendo cercana la justicia a los ciudadanos con funcionarios a los que conocen.
Todo ello con una orientación al dato que es fundamental para seguir transformando la justicia.
La propiedad de los datos. ¿Una cuestión resuelta?
Alberto Tornero, Abogado Socio del Área de Empresas de Alto Potencial y emprendimiento en PwC España y Profesor, puso de relieve el valor de los datos como un activo.
Los datos permiten aprender muchas cosas, «pero tener datos en tus servidores no implica que puedas hacer cualquier cosa con ellos, las presunciones no funcionan en el mundo digital y pueden llegar a ser contraintuitivas».
Tendemos a pensar que una cosa es de quien la lleva puesta o la tiene, pero en el mundo digital eso no es así, en el mundo digital la posesión no genera propiedad o justo título para poseer.
Por ello, «no apliquemos el sentido común cuando trabajemos con activos digitales y por ello intangibles, porque no existe una norma que determine de quien es la propiedad de los datos no personales. Y este problema surge continuamente».
De esta manera, cuando trabajemos con datos no personales hay que preguntarse de quien son. Si no se sabe, conviene diseñar una estrategia para no trabajar sin ser conscientes de que corremos un riesgo.
La visión de la industria IT
La mesa «Imaginando el futuro» permitió conocer la visión de las industrias más relevantes en el ámbito de la digitalización de la Justicia. Moderada por Miguel Ángel de la Pisam, de Ametic, contó con la intervención de Julia Molina, Strategic & Business Development Executive de SALESFORCE; Patricia Úrbez, Directora General de Sector Público FUJITSU; Paco Lova, Director de Sector Público de PEGA y Luis Maria Bautista Ortega, Director de Consultoría para Sector Público y Gobierno de EY.
De sus opiniones destacamos que el futuro de la administración de Justicia pasa porque se conciencie al sector de que la digitalización ayuda a generar confianza. En este proceso, lo fundamental es poner al ciudadano en el medio, acompañándole y diseñando una justicia adaptada a las necesidades de los ciudadanos, personalizada y contextual, más simple y automatizada, que funcione en tiempo real.
Por fortuna, una de las tendencias dominantes en la actualidad son tecnologías que permiten desarrollar procedimientos administrativos sin necesidad de programar desde cero. Lo cual es muy útil porque faltan perfiles tecnológicos, y estos sistemas permiten dar más servicio con la misma gente, de forma más ágil, de forma que el usuario pueda obtener resultados más rápidamente.
Contar con datos de calidad permite avanzar en la minería de procesos, para analizar la organización y ver cómo se están organizando los procesos y los tiempos que se dedica a cada uno, para identificar carencias y necesidades y, a la vez, automatizar tareas. Se trata de un proceso regular en el tiempo, fundamental para las organizaciones para gestionar sus recursos y automatizarlos por medio de la robotización y la IA (por ejemplo, la textualización en la Justicia), manteniendo que las tareas de valor añadido se realicen por las personas adecuadas. Pero para ello hacen falta equipos multidisciplinares, que combinen técnica y negocio, además de los aspectos puramente técnico-jurídicos. Necesitamos que todos los integrantes del ecosistema digital estén formados en competencias digitales.
Todo ello teniendo en cuenta que la IA no va a sustituir a los jueces, pero los jueces que utilicen la IA van a sustituir a los que no la utilicen.
Aplicando la tecnología al sector jurídico. New Law & LegalTech
En la mesa redonda moderada por Belén Arribas Sánchez, Abogada y Vicepresidenta de ENATIC, Pablo Fernández Burgueño, Senior manager de NewLaw en PwC Tax & Legal, y Albert Ferré, Vicepresidente de Global LegalTech Hub, abordaron, desde un punto de vista muy innovador, los principales aspectos que afectan a la implantación de la tecnología, particularmente en el sector de la abogacía.
Pablo Fernández Burgueño explicó que Legal Tech son las herramientas de apoyo al trabajo del jurista, en tanto que el New Law son todas las ramas de derecho con proyección tecnológica. Para aprovechar estos recursos hace falta profesionales que vayan más allá, con capacidades multidisciplinares, que hablen el lenguaje del cliente, pero también el de todas las áreas del derecho.
Lo importante es pensar en nuevas y mejores formas de prestar el servicio al cliente y, en este sentido, la diferencia entre usar y no usar Legal Tech es abismal, explicó. El ordenamiento cambia mucho y muy deprisa, no es posible seguir el ciclo de vida de los contratos, o la gestión de los trabajos contratados por un cliente complejo, sin herramientas adecuadas. Hay que automatizar todo lo automatizable y usar la tecnología para todo lo que puedas ofrecer de más, como valor añadido, con una mentalidad abierta a la mejora continua.
¿Qué otras cosas podemos hacer los juristas con la LegalTech por los clientes? Ayudarle en la toma de decisiones por medio del análisis predictivo de la normativa y de los contratos que le afectan. Podemos hacer labores de consultoría que antes eran impensables, diseñando el mejor servicio jurídico para la persona que necesita una solución, y que esta lo entienda y la desee (legal design y legal tech para transformar cualquier tipo de servicio jurídico, en los despachos, las empresas y la administración).
El que esté abierto a esa mejora tiene el futuro prácticamente asegurado.
Pero hay que tener en cuenta la ética. El Reglamento de IA pone mucho énfasis en ello. La ética va por delante y a partir de ahí hay que elegir la tecnología.
Por su parte, Albert Ferré destacó que los casos de éxito que ya se han conocido ayudan a pensar que todo va a ir bien en la relación entre la tecnología y el derecho. Se trata, añadió, de que perdure lo bueno que hacemos. Para ello, lo primero es identificar lo que necesita el cliente y saber qué tecnología está disponible para satisfacer esa necesidad.
Con una perspectiva global como la que ofrece el GLTH (Global LegalTech Hub), se ve que hay profesionales con esta misma perspectiva en todo el mundo, y otros experimentan problemas que aquí no hemos conocido. La tecnología es una herramienta que no conoce fronteras, como un martillo. En cambio otros preguntan por problemas que ya hemos resuelto. La resistencia al cambio, la prohibición de la administración de utilizar determinadas herramientas o sistemas. La tecnología ayuda a ser mejores, aunque los problemas son los mismos.
Pero no se trata de vender miedo, porque cuando este desaparece también puede hacerlo el producto o servicio que se basa en él. Hay que vender ilusión por hacer algo nuevo y mejor. Utilizada mal, la tecnología es fatal.
El principio del cambio es la cultura, por eso a menudo hay que entrar en las organizaciones por la oportunidad, por ejemplo, la usabilidad de las plataformas pero también de los productos y servicios, entendiendo cual es la necesidad a satisfacer. Hay que dirigirse a cada uno según sus necesidades. Por eso hay que desaprender todo lo anterior, para entender lo nuevo que se puede utilizar.
Estamos viviendo un momento histórico de cambio regulatorio. Pero la IA act puede suponer una carga regulatoria que desplace a las empresas menos capaces a otros entornos. No hay que ser tan purista que expulsemos a competidores del mercado.
Hoy se puede microsegmentar de una forma impensable hace años ¿por qué no pensar en normas microsegmentadas? Para la ley todos somos iguales, pero ese es un mal enfoque. Pero, como advirtió Belén Arribas, aunque un enfoque muy vertical puede facilitar el enforcement, también puede favorecer el fraude.
Los datos al servicio de la lucha contra la violencia de Género y Sexual
En una sesión cargada de información y pasión, Arancha Indurria y Ana Dehesa, jefa del departamento y de área, respectivamente, de los registros administrativos de apoyo a la administración de Justicia del ministerio de Justicia, aportaron numerosos datos para entender la dimensión real del problema.
Así, estas expertas destacaron que la violencia de género empieza por los micromachismos, el humor sexista y el control, que es una base muy amplia, para luego ir agravándose.
La situación en España, hoy, es que de 2012 a 2022 hay 295.000 asunto, que dieron lugar a 221.000 condenas, con 228.000 víctimas, de ellos 1.368 hijos. Ello supone, enfatizaron, más de 50.000 años de vida robados.
Por otra parte, desde 2016 han aumentado el número de condenas, alcanzándose el pico en 2021-22. Los autores son muchas veces muy jóvenes. Sobre todo en la franja de los 16 años. Y su porcentaje aumenta mucho más deprisa que el de los mayores de edad, que avanza más lentamente. Casi un 20% son reincidentes, de ellos cerca de la mitad con diferentes víctimas. Un 35% de las víctimas lo han sido con diferentes autores. El 52% de los condenados también lo han sido por otros delitos (seguridad del tráfico, lesiones, patrimonio, administración de justicia…).
A destacar que un 3% de las víctimas son mujeres menores de edad, y aunque este porcentaje puede parecer pequeño, hay que tener en cuenta que representa a unas 6.500 mujeres víctimas de estos delitos, en los que, en general, se detectan primero conductas de violencia de género y, después, las de violencia sexual.
Datos e independencia judicial
Uno de los debates más interesantes del congreso fue el mantenido entre Ana del Ser (Presidenta de la Audiencia Provincial de León) y Guillermo de Blas (Abogado del Estado), moderados por Jorge Luengo, presentador de esta jornada.
Ana del Ser se mostró partidaria de la transparencia de la información elaborada por los tribunales, pero situando la línea roja en el derecho a la independencia del juez y en los derechos fundamentales de los ciudadanos.
Por eso, considera que los datos que deben ofrecerse son los relevantes, por ello no es partidaria del acceso libre al expediente judicial ni del procedimiento en su totalidad, además hay procedimientos sobre temas muy sensibles.
En su opinión, se publican 8,5 millones de sentencias al año, así como todos los datos sobre la actividad jurisdiccional, por tanto, aun asumiendo que todavía se puede mejorar, se preguntó ¿qué más se puede ofrecer?
Se mostró igualmente contraria al perfilado de los jueces, considerando que puede suponer un paso atrás en la transparencia, y al acceso telemático masivo a las vistas judiciales, aunque, matizó, que dependiendo del interés público de cada caso. La justicia no debe ser un espectáculo televisivo, advirtió.
Por su parte Guillermo de Blas apuntó que independencia judicial y acceso al dato y transparencia no constituyen límites entre sí.
La independencia del juez, explicó, lo es respecto del ejecutivo y el legislativo, no respecto de la sociedad, implica una forma de rendición de cuentas ante la sociedad.
Por ello considera que puede darse más transparencia, incluyendo, por ejemplo, las pretensiones deducidas por las partes, pues, en su opinión, el carácter de relevante o no relevante de un asunto depende de la sociedad, no del poder judicial, este no debe tratar a la sociedad como menor de edad.
En consecuencia, entiende que debería hacerse pública la información sobre todo el iter y documentos de un procedimiento, porque la no revelación de la información de un expediente judicial es contraria al derecho de defensa o puede ser contraria al derecho a la intimidad. Eso sí, añadió, haría falta una buena anonimización y ponderar qué información incluida en un expediente puede difundirse.
Finalmente, se mostró favorable de la analítica judicial predictiva, pues la sociedad está con ello y ahora no tiene sentido una vuelta atrás. La carta de derechos de los ciudadanos ante la justicia reconoce ese derecho de los ciudadanos, por ello, el límite de acceso no puede ser la regla general, sino la excepción
Además, se declaró favorable a que la sociedad pueda asistir telemáticamente a cualquier juicio, pues, como demostró el caso del procés, evita el cuestionamiento de la decisión judicial de fondo, al permitir un acercamiento inmediato y directo a las actuaciones.
Nuestra hoja de vida en datos. El nuevo modelo de Registro Civil digital
En su ponencia, Nimia Rodríguez, Directora de la División de servicios digitales departamentales del Ministerio de Justicia, destacó que el Registro Civil, como tal, es el proyecto país por excelencia, y «sin él no somos nada, es la base fundamental de nuestro derecho».
Y dado que el RC español de hoy procede del siglo XIX, cuando ya contaba con una estructura, a lo largo de los últimos años se ha impulsado el proceso de su digitalización, porque ya resultaba necesario.
Así, con la Ley 20/2011 (LA LEY 15320/2011) se transformó el Registro Civil del siglo XIX, haciendo desaparecer los libros para poner el centro en la persona, a la que se asigna un código único. Pero todavía tiene que convivir el mundo de papel con el digital, la interoperabilidad, que es fundamental a largo plazo y que va a tardar en llegar. Se trata de una situación que afecta a todos, desde el Estado a los pequeños ayuntamientos, incluyendo el registro de nacimientos desde el propio hospital, o el registro de matrimonios o adquisiciones de nacionalidad notariales. Incluso, más recientemente, se está probando que las inscripciones de defunción se puedan hacer desde la propia funeraria, sin tener que pasar por el Registro.
Y, al revés, se está trabajando para que a partir de la inscripción de un nacimiento, los padres reciban las prestaciones que les correspondan.
El proceso de digitalización cubre ya a un 23% de la población española, y se espera llegar al 75% en 2024. Luego habrá que pasar todo lo que está en libros al formato electrónico.
A continuación, Alberto del Val Bohórquez, Director del proyecto de registros civiles en CAPGEMINI, explicó los retos a que hubo de hacer frente su empresa en este proceso: hubo que hacerlo en un año, y pasar del libro y firma manustcrito a un registro puramente electrónico. Para ello se fijaron 150 requisitos iniciales que se acabaron convirtiendo en más de 1000, agrupando los paquetes de trabajo en proyectos, con el objetivo de generar el menor número posible de fallos. Luego, se trabajó y se sigue haciendo en cómo orientarlo al dato tasado y guardable en un sistema accesible y seguro a nivel alto. Se diseñaron formularios dinámicos con un cuadro de mandos muy potente.
Posicionar a España como un referente en digitalización de la Justicia
Igualmente interesante resultó el diálogo mantenido entre Aitor Cubo, Director General de Transformación Digital del Ministerio de Justicia, en su segunda intervención del día, con Pedro Mier, presidente de Ametic, la patronal de la empresa tecnológica española.
Aitor Cubo volvió a poner de relieve que tenemos un país líder en transformación digital y un ejemplo en colaboración público-privada
La tecnología es competitividad, alto valor añadido y exportación. España está en superávit en materia de intercambios internacionales y uno de sus puntales es la tecnología.
Hay que tener en cuenta que en tecnología los plazos de licitación son fatales, porque la tecnología avanza muy deprisa, por eso hay que replantearse ese aspecto de la contratación pública, aunque sea un tema que viene de Bruselas, lo que complica la cosa.
Piensan que desde el Ministerio de Justicia tienen la responsabilidad de que los procedimientos que ellos han aplicado y desarrollado y funcionan, se apliquen en otras administraciones, lo que deberían explorar en conjunto.
«Ahora tenemos el reto de los ejes europeos para sostenibilidad y economía verde y la digitalización. Europa ha puesto sobre la mesa la que puede ser la gran oportunidad de avance de la innovación. Por eso es muy importante que todos aprovechemos esta oportunidad para llevar a cabo una digitalización a la europea pero más competitiva, también en la regulación», remató.
Por su parte, Pedro Mier declaró que en su asociación son muy partidarios de la colaboración público-privada y la cocreación. En este sentido se mostró satisfecho con el ambiente detectado en el Ministerio de Justicia, al que considera muy profesional y un ejemplo para el resto de administraciones. «Si se ha podido avanzar en la Justicia, se debería poder avanzar en todo».
Mier destacó igualmente que en España estamos mejor de lo que nos creemos pero peor de lo que podríamos estar. Para ello es bueno que la Administración se pregunte qué puede hacer. Las dos cosas claves son, por una parte, que las políticas de demanda son las que de verdad traccionan la economía, pues la Administración es el mayor comprador, así que una utilización inteligente de esa condición sería muy buena, siempre que se evitara la práctica de elegir siempre solo el precio más bajo, pues ello condena a precios de hora-trabajada de miseria; además sería muy importante que en los procesos de compra y adjudicación de las administraciones públicas se valorase el impacto positivo que una decisión puede tener.
Por otra parte, Mier abogó por simplificar los procedimientos, que están diseñados para evitar el fraude, pero eso paraliza.
En otro sentido, destacó que con los fondos europeos tenemos una oportunidad de oro que tenemos que aprovechar, pero las dificultades están surgiendo por la normativa, pues es fácil transferir fondos entre administraciones, pero muy difícil que luego lleguen a las empresas, que son las verdaderas destinatarias. Para ello, considera que hay que cambiar las estructuras jurídicas del Estado, pues la seguridad jurídica es importante, pero también, la liberación de recursos.
Finalmente, señaló que «en Ametic somos muy partidarios de los pactos de estado para avanzar, y en este sentido hemos propuesto tres: uno, por la educación, desde la escuela a la gente que trabaja; otro, por la industria, que ya está en marcha (y a ver si puede continuar después de las elecciones) y un tercero por la innovación (no por la ciencia), que es la que tiene arraigo en el territorio y se desarrolla en las empresas.
16 de junio: NATIVOS DEL DATO
La IA, los derechos y los jóvenes
La tercera jornada de Datafórum se inició con una ponencia de Ibán García del Blanco, europarlamentario, miembro del Comité de Asuntos Jurídicos de la Cámara, donde ha sido ponente del informe sobre los aspectos éticos de la IA.
García del Blanco repasó los últimos avances regulatorios europeos, destacando de inicio que ya se están culminando los trílogos de la Ley de Datos (Data Act), que todavía podría ser aprobada durante la presidencia sueca, en especial si se resuelve el problema con la protección de secretos comerciales.
Todo ello apunta a que estamos asistiendo a cambios legislativos acelerados que afectan a mucho de nuestra vida. Por eso Europa se propone aumentar la autonomía estratégica, invertir en la transición verde y el desarrollo de los derechos sociales. Se trata, subrayó, de contar con «la mejor Europa con la mayor solidaridad».
Además, la Cámara acaba de aprobar la propuesta de Reglamento de IA. Con ella el Parlamento europeo persigue una IA ética y responsable, centrada en el ser humano. El objetivo es alcanzar un equilibrio entre la innovación y los riesgos, generando confianza, con un enfoque basado en el riesgo y con un claro respeto a los principios de la democracia y el Estado de Derecho. Para ello se obliga a controlar todo el ciclo de vida del producto.
En la versión del Parlamento se han incluido los modelos fundacionales, base de ChatGPT, para controlarlos desde el diseño a través de metodologías y auditorías adecuadas. Se obliga a controles previos desde la misma génesis del sistema. Además, cuando se usen para generar imágenes audios o videos se deberán respetar derechos de autor.
Del Blanco destacó también las medidas de apoyo a la innovación introducidas, como los sandboxes o entornos de prueba controlados, que deberán estar operativos cuando la norma entre en vigor. España ha sido pionera en esto, impulsando un sandbox pionero en Europa.
Igualmente, el Parlamento ha mejorado la gobernanza y creado una oficina europea de IA independiente para homogeneizar la aplicación de la norma en toda la Unión.
Como otras prioridades, el Parlamento ha propugnado que haya unos principios generales aplicables a toda la IA para que esté centrada en el ser humano; que se realice una evaluación de riesgos sobre los derechos fundamentales y la protección de los derechos de los trabajadores, que deberán ser consultados antes de ser puesto en marcha un sistema de IA en el lugar de trabajo, sobre lo que se deberá informar a los trabajadores.
Y, finalmente, destacó la importancia concedida por la Cámara a la formación y alfabetización digital, o ilustración, como le gusta decir, acudiendo a este concepto clásico para que Europa pueda liderar el desarrollo de la IA, protegiendo nuestros datos. 2023 es el año de las competencias para desarrollar una sociedad competitiva, justa e inclusiva. Tenemos que escuchar más a los jóvenes, por eso en la propuesta se ha incluido un plan de alfabetización digital para jóvenes y también para los usuarios y personas implicadas por parte de las empresas.
Tenemos que afrontar el futuro de una manera optimista. Se dice que la IA puede aumentar mucho la productividad, pero el mundo nos mira y está esperando ver qué soluciones vamos a dar.
La relación con el Consejo de Europa y la Unesco es el siguiente paso, incluso con países poco dispuestos, como China, ya que hay que mucho interés económico después, igual que con EEUU y LatAm.
IA y Justicia: ¿qué podemos esperar? ¿qué debemos evitar?
Alejandro Huergo, Catedrático de Derecho Administrativo de la Universidad de Oviedo, impartió una muy interesante charla en la que planteó abordar con realismo saber qué puede hacer la IA en cada campo.
En este sentido, conviene subrayar, de entrada, frente a los temores generados, que la lA es un instrumento, nada más.
Se lleva hablando de digitalización de la Justicia hace tiempo y España es relativamente pionera en este ámbito, pero eso implica problemas como el disponer de datos, además, la automatización de procesos, que en muchos casos no son IA.
Por otra parte, continuó, el hecho de que se use un programa en la actuación judicial no supone un condicionamiento en la decisión. Hay muchos temores sobre la transparencia, cuando a veces se trata de cuestiones puramente regladas que no dependen de un algoritmo. Automatización no es IA. La automatización se ciñe a un procedimiento reglado, aplica una regla.
Sin embargo, la IA es otra cosa totalmente distinta: supone un margen de actuación sobre la decisión a adoptar, facilita un criterio para tomar una decisión que antes se tomaba de otra manera, no implica tomar una decisión, sino realizar un análisis de datos para facilitar una toma de decisión. El momento importante es la creación del modelo, a partir de la definición de cual es la decisión que se quiere adoptar. La IA es creadora de reglas, pero siempre de forma aproximativa, no exactamente precisa. Por eso es complejo aplicarla a la Justicia, sobre todo para decisiones individuales.
¿Qué ventajas plantea? eficiencia en el uso de recursos; aprovechar el conocimiento que ofrecen los datos, poder distinguir mejor, superando los límites del conocimiento humano, sin perder tiempo en tareas sencillas.
Se ha hablado antes de los problemas; algoritmos mal hechos, uso de datos erróneos o anticuados; solo se predice sobre el pasado, problemas con el Estado Social; sesgos que producen discriminación o lesionan el Derecho a la protección de datos; Problemas de oscuridad y falta de transparencia.
Lo importante es que la IA es algo instrumental, los problemas de los sesgos se traducen en que la IA puede reemplazar a personas que, en realidad, tienen muchos más sesgos. Y jurídicamente se pueden justificar diferentes posiciones, pero las razones de la decisión se deben al criterio de una persona. ¿Por qué pedir más a las máquinas que lo que se pide a las personas? Por ejemplo, las inspecciones administrativas no se motivan previamente, es un mecanismo para el ejercicio de un poder que ya existe, el problema son los límites de ese poder y los criterios a utilizar para ello.
En la utilización de un sistema como ChatGPT para elaborar un documento jurídico, lo relevante es su ajuste al ordenamiento jurídico, no el uso de la herramienta como tal.
Finalmente Huergo concluyó señalando que, en su opinión, el proyecto de convenio del Consejo de Europa incluye a USA e Israel y UK, por lo que seguramente será bastante aguado.
El AIA (agente inteligente) es también muy genérico en muchos casos, pero es difícil que sea de otra manera, y convive difícilmente con las reglas de seguridad industrial. El problema principal es que el proveedor deberá asegurar que las garantías que ha adoptado son suficientes, lo que es una medida ex post, cuando el daño ya se haya producido, lo que plantea sus problemas desde el punto de vista de la seguridad jurídica.
Mesa de la Academia
La última mesa de la jornada corrió a cargo de Susana Irene Díaz Rodríguez, Catedrática de Ciencia de la Computación e Inteligencia Artificial; Roger Campione, Catedrático de Filosofía del Derecho y Miguel Presno Linera, Catedrático de Derecho Constitucional.
Díaz destacó que un sistema de IA bien entrenado no solo tiene en cuenta lo que conoce una persona, sino lo que conocen millones de personas, pero eso no significa que supere el conocimiento de todas ellas.
La IA nos sitúa frente al espejo de plantear problemas que son ajenos a las características humanas, por eso nos tiene que ayudar a colocarnos frente a la realidad en la que estamos.
Y la propuesta de Reglamento europeo, se centra mucho en los datos que se utilizan, pero en la IA hay muchas más cosas que pueden ser relevantes más allá. Los sistemas de la IA no son magia, precisan de datos, pero una vez asegurada la privacidad y la ausencia de sesgos, está el problema de los controles sobre dispositivos como los sensores que se puedan utilizar, o el diseño de los algoritmos utilizados. Según que algoritmo se utilice se puede jugar con los datos. También las matemáticas que están detrás de los algoritmos. Es preciso entenderlas porque no es lo mismo que se utilice una fórmula o estructura matemática que otra. También la metodología utilizada para entrenar a los algoritmos. Todas son cuestiones muy relevantes a la hora de decidir si un sistema de IA es de alto riesgo o no.
De hecho, los LLM (grandes modelos lingüísticos), que ahora se considera casi de alto riesgo, por lo que se les somete a variadas obligaciones, supone también ciertas restricciones sobre los datos que se utilicen y sus metodologías de entrenamiento. Por eso no basta con hablar con los sistemas de caja negra, hay que hacer esfuerzos por explicar los resultados.
El uso de la IA en el ámbito jurídico es muy atractivo, sobre todo por el proceso del lenguaje natural, lo que puede permitir agilizar los procesos judiciales, también para la búsqueda de jurisprudencia porque ofrece resultados tremendamente llamativos. Además, permiten encontrar contradicciones en la jurisprudencia, a partir de hechos similares. Pero no debe ser la máquina quien tome la decisión, sino una aliada que la haga más eficaz. Lo que habría que regular es que todos los individuos estén en igualdad de condiciones en cualquier litigio.
Por su parte, Roger Campione puso énfasis en que es muy importante saber exactamente de qué estamos hablando cuando hablamos de IA.
Esta es un mecanismo de superación de los límites naturales del ser humano, mientras que el derecho lo que hace es poner límites a las capacidades humanas, a partir del supuesto de que no todo lo que es técnicamente posible es jurídicamente aceptable. Pero hoy la base es que todo lo que sea técnicamente posible, se hará. Es algo que siempre ha caracterizado a la historia humana. El desarrollo tecnológico siempre ha estado vinculado al sentido de lo correcto.
Las dos cuestiones básicas de la relación entre IA y Derecho son, el uso de IA para la toma de decisiones, lo que supone una forma de delegación de nuestra autonomía funcional, lo que plantea el problema de si las decisiones jurídicas dependen solo de la aportación de conocimientos que posee el operador/decisor, sino de agregaciones de datos en forma de bits. Esto obliga a poner en relación ciencias muy diferentes como la IA y el derecho, y otras como las neurociencias. Pero si la decisión no es trazable, ¿cómo confiar en el sistema? Además, es verdad que los humanos tienen sus sesgos.
Pero la motivación es la apología de la decisión a posteriori (Calamandrei). En Italia, la motivación judicial se puede exponer después de anunciar la decisión. Es decir, la motivación última del juez no se conoce, es personal, y lo que debe hacer es justificarla conforme a derecho, de forma que puede ser controlada a posteriori.
Por ello hay que distinguir motivación y explicabilidad o transparencia. Teniendo en cuenta que a la IA se le van a exigir en este aspecto cosas que jamás se exigiría a un ser humano.
El otro punto es la atribución de responsabilidad. Solo cabe o convertir en responsable al propio sistema de IA, atribuyéndole personalidad, o buscar otra manera por otra vía.
Concluyó Miguel Presno planteando, de entrada, que el reto del Derecho frente a la IA es no ser la tortuga que es habitualmente.
Además, añadió, el derecho no puede ir por su cuenta en estos temas, debe ser un trabajo interdisciplinar, sobre todo, dependiendo del tipo de sistema que se pretenda desarrollar.
La ley no lo puede resolver todo, es necesaria la cooperación entre estados. Y aunque parece difícil exportar la tecnología jurídica europea a USA o China, pero sí se pueden poner condiciones a su importación a la UE, en forma de un control previo sobre su desarrollo, estando presente la IA en ese proceso, también debe haber un control a posteriori, con supervisión humana y una posibilidad de recurso.
Presno considera también que la dificultad de identificar algunas formas de IA probablemente exigirá nuevas reformas.
Y, finalmente, no se mostró partidario de reconocer nuevos derechos, pues la mayoría ya están en la CE, sino de desarrollar los que ya tenemos.
Clausura
La despedida a los asistentes tras el fin de la tercera jornada corrió a cargo de Javier Hernández Díez, Subdirector General de Impulso e Innovación de Servicios Digitales de Justicia del Ministerio de Justicia, quien, tras agradecer a los asistentes, ponentes y patrocinadores su participación, y a modo de anécdota, leyó a los presentes el discurso de clausura que había preparado el ChatGPT. Previamente se habían entregado los premios del Datathon en el que participaron 33 personas y que se desarrolló en paralelo durante los tres días que duró el evento.
Así se puso fin al DataFórum Justicia 2023 en el que participaron más de 120 ponentes, con una audiencia en las sesiones que superó los 800 asistentes y más de 2.000 visualizaciones durante el streaming en Teatro y DataCampus, todo ello gracias al apoyo de 29 patrocinadores. Y que también contó con un Focus Group dedicado a analizar y probar el piloto de Carpeta Justicia, un espacio online que unifica el acceso a los servicios de la Administración de Justicia en el que participaron 12 abogados y procuradores.
La grabación de todas las mesas y ponencias que tuvieron lugar durante los tres días de DATAfórum JUSTICIA 2023 están disponibles en este enlace.