¿Qué aportarán estas Jornadas Internacionales un año después del nacimiento de ChatGPT como una herramienta disruptiva en el ámbito de la IA?
El objetivo de estas jornadas es reflexionar sobre los retos y oportunidades que la inteligencia artificial plantea para el ámbito jurídico, desde una perspectiva multidisciplinar y crítica y para una formación para jueces y magistrados españoles de todos los órdenes jurisdiccionales.
Creemos que quizás lo que nos diferencia de los muchos eventos jurídicos que se están organizando en torno a la IA es que las jornadas contarán con la participación de expertos nacionales e internacionales en diferentes campos relacionados con la IA y el derecho, creando un espacio de reflexión e interacción técnico-jurídico de carácter transversal.
Asimismo, si bien abordaremos algunas temáticas más “tradicionales” dentro de la IA jurídica como ética, la regulación, la responsabilidad, la privacidad, la seguridad o la protección de datos. Hablaremos además de un tema que como jueces y garantes de los derechos y libertades de los ciudadanos nos afecta especialmente, como son los algoritmos públicos. No obstante, también se expondrán materias muy desconocidas como la gobernanza, compliance y accountability en IA o la sostenibilidad medioambiental de la IA.
Por último, nos diferencia realizar el evento en la maravillosa ciudad de Granada, organizarlo la Fundación para la Magistratura y la Universidad de Granada, siendo el primer acto de un convenio de colaboración recientemente firmado y que esperemos que sea muy fructífero y hacerlo de la mano de patrocinadores como Microsoft e Iberdrola y con la colaboración de la Facultad de la Derecho, Instituto DaSCI, Cátedra de privacidad y Transformación Digital Microsoft-Universitat de Valencia, Aranzadi-La Ley, o Ayuntamiento de Granada.
Les pedimos que hagan un poco de spoiler y que nos adelanten los que, a su entender, son los principales desafíos jurídicos que presenta la IA
La Inteligencia Artificial (IA) será la cuarta Revolución Industrial, y una transformación digital sin precedentes que, por supuesto, afectará al mundo jurídico y judicial. En este ámbito jurídico y judicial está llamada a transformar la Administración pública y ejercicio legal mejorando su eficacia.
Y es que eso supone no solo que debemos conocer, no sólo qué es la IA, sino cuál debe ser su marco jurídico, qué desafíos éticos se aproximan y se nos plantean muchísimas preguntas a las que poco a poco tendremos que buscar las respuestas: ¿Deberían tener personalidad jurídica los androides o robots?; ¿Habrá que matricularlos o registrarlos?; en caso de fallo de un robot, ¿quién asume la responsabilidad civil del vehículo autónomo?; ¿cómo está evolucionando la salud y los cuidados con la robótica?; ¿cuáles son las nuevas formas delictivas a raíz de esta nueva tecnología?; ¿cómo están utilizando las fuerzas de seguridad del Estado estas herramientas?; ¿qué problemas de ciberseguridad puede tener la IA?; ¿podrían los algoritmos poner en peligro la democracia o los derechos humanos?; ¿nos dirigimos a un mundo dominado por las grandes plataformas digitales?; ¿cómo puede desarrollarse una IA ética y sostenible por las empresas?; ¿cómo modificará la IA las Administraciones Públicas y la tramitación judicial?; ¿qué tecnologías emergentes y disruptivas se están desarrollando en los Ministerios de Justicia y de Defensa?; ¿afectará de alguna manera a la actividad jurisdiccional y a la abogacía?; ¿cuáles son las herramientas que actualmente se están desarrollando sobre IA en el mundo judicial y del derecho?; ¿puede algo creado por un algoritmo tener derechos de autor?, ¿cómo afecta la IA generativa a la protección de datos o el copyright?; ¿por qué normas se va a regir la IA y cómo se ha desarrollado ese proceso legislativo?, y por último, ¿habrá jueces autómatas?
Así, además del tsunami normativo, un jurista debe aprovechar las herramientas legaltech que suponen la combinación de tecnología y software a servicios legales, específicamente diseñados para profesionales del derecho y que hagan su tarea de forma más eficiente y barata, optimizando procesos, aumentando la productividad o disminuyendo los errores. Las herramientas de automatización y predictivas ayudan a los juristas a centrarse en aquellas tareas más creativas y de mayor valor añadido para su cliente, automatizando las más monótonas, tediosas o repetitivas.
“La inteligencia artificial no sustituirá a jueces ni a abogados, pero sí se producirá una brecha digital y de productividad entre aquellos que sepan aprovechar las nuevas herramientas y los que no“
Si algo debe quedar claro a todos los profesionales del Derecho es la imposibilidad de parar una revolución tecnológica de este calado, porque, nos guste o no, ha venido para quedarse.
Lo que sí es verdad es que un buen jurista no sólo deberá formarse en derecho digital y en su normativa, sino también en aprovechar las herramientas tecnológicas para obtener una mayor productividad y eficiencia y dedicarse a las tareas de mayor valor añadido, automatizando aquellas más simples, repetitivas y menos creativas.
La inteligencia artificial no sustituirá a jueces ni a abogados, pero sí se producirá una brecha digital y de productividad entre aquellos que sepan aprovechar las nuevas herramientas y los que no.
La IA va a tener y ya tiene una enorme repercusión que requiere de un marco normativo para regular ámbitos tan críticos como la responsabilidad, la privacidad y protección de datos, la seguridad, e incluso la ética. ¿Podríamos decir que estamos asistiendo al nacimiento de una nueva área o subárea del derecho?
Si la IA supone una cuarta revolución, es preciso que vaya acompañada de un consenso mundial sobre nuevos derechos fundamentales y ciudadanos que han de ser protegidos. Seguir únicamente bajo el amparo de los formulados el siglo pasado exige una labor de adaptación de los tradicionalmente reconocidos a la nueva realidad dados los conflictos jurídicos que genera el uso de esta tecnología.
“Si la IA supone una cuarta revolución, es preciso que vaya acompañada de un consenso mundial sobre nuevos derechos fundamentales y ciudadanos que han de ser protegidos”
El derecho digital, también conocido como derecho de la tecnología, ciberderecho o derecho informático, es una rama del derecho que se enfoca en las cuestiones legales relacionadas con la tecnología de la información, la comunicación digital y la era digital en general. En materia de IA, se habla ya de una nueva disciplina jurídica, Derecho de los Robots (Robot Law).
Lo cierto es que, si bien la Protección de Datos es una subárea principal del de especialización en el ciberderecho, la IA puede convertirse en otra parecida. Ambas además, basadas principalmente en un único corpus normativos, dos reglamentos europeos, el RGDP y el RIA.
El Reglamento europeo de inteligencia artificial, publicado el pasado 12 de julio, es un avance cualitativo en la regulación de los usos de la IA para limitar los riesgos que de ellos se derivan. ¿Consideran que el plazo hasta su aplicación en 2026 le puede restar eficacia?
Aunque el RIA fue publicado en el DOUE el pasado 12 de julio de 2024, y su entrada en vigor es a los 20 días de su publicación, no obstante su aplicación se demora hasta el 2 de agosto de 2026. Se establecen además unos plazos progresivos de 6 meses para los usos prohibidos y disposiciones generales (2 de febrero de 2025), de un año y unos días (2 de agosto de 2025) para autoridades notificantes y organismos notificados, modelos de uso general, gobernanza, y disposiciones finales; y por último de un poco más de 3 años, para el cumplimiento derivado de las obligaciones de los sistemas de alto riesgo.
Está claro que plazos de aplicación de 2 y 3 años, sobre todo en el cumplimiento de las obligaciones de los sistemas de alto riesgo pueden restar eficacia a la norma, y puede provocar un efecto llamada de aprovechar el tiempo existente sin sanciones, aunque la norma esté en vigor. También, puede parecer que es mucho tiempo, y puede que se piense que ya habrá momento para preparar su aplicación por empresas y administraciones públicos. Recordemos que los usos de alto riesgo son en su mayoría para administraciones públicas y sectores regulados, y sobre todo las primeras deberían comenzar dando ejemplo y con un cumplimiento normativo voluntario, aunque no sea exigible legalmente. El Reglamento impone muchas obligaciones de compliance y gobernanza, que no son fáciles, que habría que ir preparando, solventando muchos desafíos, puesto que de lo contrario puede ocurrir que cuando se piense en preparar todo en los últimos meses, ya se llegue tarde. Y las administraciones públicas no se caracterizan por su agilidad.
La IA conversacional marca un punto de inflexión en la medida que desplaza capacidades humanas hasta hace poco inimitables ¿Se podrán regular los impactos de la IA
En eso se está. Recientemente la ONU ha instado a todos los Estados a "gobernar esta tecnología en lugar de dejar que nos gobierne". No se regula la IA en sí, sino sus impactos y usos. Y hay que decir que Europa no es la única potencia que lo está haciendo. USA aprobó la Executive Order y hay centenares de proyectos legislativos estatales allí, e incluso China fue la primera en regular hace ya años la inteligencia artificial. Está claro que la legislación siempre llega tarde, pero eso es intrínseco a la regulación. Los legisladores regulan la realidad social que se intuye o da problemas, no se dedican a inventar o desarrollar.
¿Consideran que los operadores judiciales en general y los públicos en particular están recibiendo unas directrices claras sobre el uso de sistemas de IA?
Lo cierto es que hoy en día no existe propiamente en España unas “Directrices de uso de IA Generativa”, sin embargo, sí que existen principios procesales básicos y normas procesales sobre la prueba y sí que hay dos resoluciones de la Comisión Ética Judicial sobre la búsqueda de información en internet por los jueces al margen del proceso.
“A pesar de la revolución que supone la IA, no existe mucha diferencia entre buscar en Google o Wikipedia a buscarlo en ChatGPT“
A pesar de la revolución que supone la IA, no existe mucha diferencia entre buscar en Google o Wikipedia a buscarlo en ChatGPT, es más, por lo menos si googleas, puedes distinguir la fuente, algo que no todos los grandes modelos del lenguaje facilitan, pues en ocasiones la respuesta surge de una caja negra en la que desconoces la fiabilidad.
Recientemente se encuentra en fase de consulta pública la que hemos elaborado en UNESCO y existen las que se han elaborado por poderes judiciales de otros países o colegios de abogados como la Guía de Inteligencia (IA) para titulares de cargos judiciales de 12 diciembre 2023 de la Judicatura británica, la Guía de Directrices para el uso de ChatGPT e IA Generativa de texto en Justicia en Argentina o la Guía práctica para el uso de la Inteligencia Artificial Generativa en la práctica del Colegio de Abogados de Los Ángeles.
Como vemos, parece que este camino se está recorriendo, y también en España. Este pasado junio se aprobó la Política de uso de la inteligencia artificial en la Administración de Justicia en la Secretaría General del CTEAJE destinada a todos los trabajadores de la Administración de Justicia pero que, no obstante, tiene que ser ratificada su adopción de manera específica por parte del Consejo General del Poder Judicial (CGPJ), Fiscalía General del Estado (FGE), Comunidades Autónomas con competencias en materia de Justicia y Ministerio de la Presidencia, Justicia y Relaciones con las Cortes.
En el proceso civil, como éste, rige el principio dispositivo o de aportación de parte. Son las partes las que disponen del objeto del proceso. Cuando, al tiempo de dictar sentencia o resolución semejante, el tribunal considerase dudosos unos hechos relevantes para la decisión, desestimará las pretensiones del actor o del reconviniente, o las del demandado o reconvenido, según corresponda a unos u otros la carga de probar los hechos que permanezcan inciertos y fundamenten las pretensiones (Art. 217 LEC (LA LEY 58/2000)). Los peritos deberán poseer el título oficial que corresponda a la materia objeto del dictamen y se regula la posibilidad de nombramiento de perito judicial. Pero nada se establece de la posibilidad de perito de inteligencia artificial o ilustración del juez por sí mismo.
Esto lo ha plasmado la Comisión Ética Judicial en dos dictámenes de hace ya más de 4 años, 1/19 y 7/2019. Estos principios se plasman en unas normas procesales que vinculan al juez […] salvo determinadas excepciones, la regla general es que tanto los hechos como las pruebas sean aportadas por las partes.
El juez debe evitar guiarse por la información que pudiera tener sobre la cuestión objeto de enjuiciamiento, mientras no haya sido alegado por alguna de las partes.
En tanto la ley procesal no lo permita, en ningún caso el juez puede introducir hechos distintos a los alegados por las partes.
Por lo que se refiere a los hechos probados, el juez debe hacer un esfuerzo por atenerse objetivamente al resultado de la prueba practicada.
En cualquier caso, no es aconsejable que el juez haga una búsqueda de la verdad material fuera del acervo probatorio.
Se trata de una información que, en el caso de no llegar a aportarse al proceso, puede influir en la interpretación de la prueba practicada y en el enjuiciamiento de los hechos, sin que haya podido haber contradicción al respecto.
Como excepción de estos principios, sí que, en ámbito de familia con menores, o instrucción penal, puede decirse que el juez sí busca más la verdad material y no la judicial.
Ya son varios los casos de uso de plataformas de IA en el ámbito internacional que han llegado a los tribunales por vulneración de derechos en los resultados obtenidos por los algoritmos. ¿Estamos preparados para un control judicial efectivo de dichos algoritmos?
Como dices, la IA va a llegar a los tribunales en diversas formas y no sólo con automatización de procesos o uso de IA generativa, sino también en la función jurisdiccional. Vulneraciones de propiedad intelectual por webscraping en los entrenamientos de los LLM. Impugnaciones de algoritmos de ayudas públicas o inspecciones o sanciones tributarias o de Seguridad Social. Deepfake de chicas desnudas. Software en el ámbito laboral en procesos de selección o de promoción. Reconocimiento facial bajo autorización judicial. Uso de IA para reconocimiento de emociones en fronteras, los sistemas ya existentes de determinación probabilística de reincidencia criminal… Descendiendo a la tarea de administrar justicia, el poder judicial en su función de aplicar las normas, está comprometido con dar cumplimiento al principio de alfabetización en IA que inspira el Reglamento y con este curso queremos contribuir a la formación de los más de 1400 jueces y magistrados asociados a la Asociación Profesional de la Magistratura.