El responsable de producto de soluciones online de Aranzadi LA LEY, Jaime Barbero Bajo, intervino el pasado martes 21 de enero en la sesión «El uso de la Inteligencia Artificial en la Administración y en la Justicia», celebrada en la sede de la Real Academia de Jurisprudencia y Legislación de España y organizada por la Sección de Derecho de las Tecnologías de la Información y de la Comunicación de dicha entidad.
Durante el encuentro se analizaron las perspectivas de futuro del uso de la inteligencia artificial (IA) por parte de los poderes públicos y, en especial, en el ámbito de la Administración de Justicia.
Tras la bienvenida y presentación por parte de la Encarnación Roca Trías, presidenta de la Sección, se sucedieron diversas intervenciones moderadas por la Ana Fernández Tresguerres, presidenta adjunta de la Sección. Además de Jaime Barbero, también intervinieron Mª Corazón Mira Ros (vocal de la Sección y profesora titular de Derecho Procesal en servicios especiales en el Tribunal de Cuentas) y Javier Torre de Silva (vocal de la Sección, socio responsable de TMC en CMS Albiñana y Suarez de Lezo y letrado del Consejo de Estado en excedencia) que abordaron las exigencias legales y las perspectivas de futuro del uso de la inteligencia artificial por parte de los poderes públicos.
Puedes acceder a la grabación de la sesión a través de este enlace.
Aplicación práctica de la inteligencia artificial
Barbero centró su exposición en la aplicación práctica de la inteligencia artificial en soluciones Legaltech.
En la actualidad y «como proveedores líderes del mercado en soluciones tecnológicas, desde Aranzadi LA LEY, nos enfrentamos al difícil reto de aplicar la IA a soluciones útiles y eficientes. En realidad, llevamos muchos años trabajando con IA». El reto es cómo llevar al usuario final las capacidades de la IA. A tal fin «trabajamos sobre la base de cinco principios: seguridad jurídica, conocimiento humano, protección de datos y propiedad intelectual, transparencia e IA ética y reducción de sesgos».
Barbero recordó que «no hay casos más sensibles que la aplicación de la IA en un universo tan complejo como es el jurídico» ya que «no es lo mismo usar la IA para programar un viaje por el sur de Francia, que hacerlo para un informe jurídico, el asesoramiento a un cliente o una localización de precedentes sobre los que se va a basar una estrategia procesal».
Con arreglo a lo anterior recordó que «hay que tener muy en cuenta los riesgos asociados». Ya que «la IA no comprende las respuestas que ofrece ni tiene un control sobre el origen de los datos; siempre responde». Por eso «la clave está en la fuente de los datos; en el universo abierto de Internet la fuente es infinita y por tanto los riesgos asociados también lo son». Ante esta situación la pregunta es: ¿debemos usar la IA generativa en procesos legales? «La respuesta es rotundamente sí, pero siempre que se base y opere sobre un fondo amplio, pero controlado y fiable, con seguridad de que se basa en fuentes actualizadas y tenga una supervisión especializada», afirmó Jaime Barbero.
Para evitar todos estos riesgos asociados a un mal uso de esta tecnología, «desde Aranzadi LA LEY estamos abordando la aplicación de la IA acotando el terreno sobre el que opera para evitar traer respuestas desactualizadas o las famosas alucinaciones». Por eso es necesario que «la fuente sobre la que operan los promts sean de un ámbito controlado y actualizado para evitar el riesgo de ofrecer respuestas incorrectas».
Barbero se refirió también al uso de la IA en los modelos predictivos, en el que Aranzadi LA LEY es también líder, «por ejemplo con combinaciones de datos objetivos más aportaciones de analistas de prestigio o, en función de lo que quiera encontrar, puedo irme a modelos predictivos que me orienten acerca de cómo están posicionándose los tribunales en relación con una materia determinada y en el que forma parte del proceso un organismo público concreto para obtener los posicionamientos a favor y en contra». Advirtió no obstante que «esto no pretende sustituir a la manera tradicional de acercarse a la información ni a la materia gris del usuario final (magistrado, letrado…) que tiene que interpretar esa información».
Jaime Barbero se refirió por último a la tecnología de machine learning con procedimientos de aprendizaje supervisado para, por ejemplo, «ayudar a los abogados con la clasificación e interpretación de la información que viene en los correos electrónicos con información de notificaciones judiciales que luego tienen que llevar a expedientes». Sobre este particular, «lo que proporcionamos desde Aranzadi LA LEY es intentar minimizar esa labor administrativa para que haya una preidentificación de los datos clave de las notificaciones para indicar el tipo de procedimiento, el señalamiento, las partes, e incluso recibir sugerencias de una anotación de agenda en caso de un vencimiento y así minimizar en la medida de lo posible la labor administrativa».
Afirmó por último que todo esto «debe enmarcarse en un ámbito de seguridad, no solo de rigor jurídico, que es algo a lo que estamos obligados, sino también desde el punto de vista de seguridad de plataforma tecnológica».
Diferenciación entre distintos tipos de IA
Por su parte, Torre de Silva, durante su intervención sobre el contexto de la inteligencia artificial (IA) aplicada a la Administración y la Justicia establece una diferenciación entre distintos tipos de IA. En primer lugar, distingue la IA simbólica, que se fundamenta en reglas lógicas y razonamientos sin cálculos estadísticos, lo que garantiza que sus resultados sean 100% precisos. En contraste, se refiere a la IA conexionista, que es más contemporánea y generativa, aunque presenta márgenes de error y plantea desafíos en su implementación en el ámbito legal.
En relación con la IA simbólica, Torre sostiene que «no hay margen de error porque es pura lógica», lo que la convierte en «plenamente transparente y comprensible». Como ejemplo de su utilidad, menciona su aplicación en el triaje de pacientes en hospitales o en situaciones de emergencia, dado que opera de manera lógica y exacta. Asimismo, destaca el surgimiento de sistemas híbridos que integran ambos tipos de IA —simbólica y conexionista—, a los que se refiere como IA recursiva, como el Auto GPT.
Torre también destaca que, aunque la IA puede ser de gran ayuda en tareas administrativas repetitivas, como establecer plazos o resumir documentos, su función en la emisión de sentencias judiciales es más compleja y exige una consideración cuidadosa.
Creciente interés por los datos judiciales
Por otro lado, Mira Ros subraya que la IA ha desencadenado una revolución que ha afectado a todos los aspectos de la vida. «La IA parecía restringida solo a la ciencia ficción, y hoy en día está transformando nuestras vidas en todos los ámbitos».
En este contexto, Mira hizo hincapié en el creciente interés por los datos judiciales en diversos sectores, así como en la evolución de las bases de datos automatizadas, las cuales se han vuelto esenciales para los sistemas de inteligencia artificial. Estas bases de datos son el consumo principal para los algoritmos, que son capaces de analizar patrones y extraer conclusiones, como por ejemplo el programa del Ministerio del Interior, VioGén, que evalúa riesgos de reincidencia en casos de violencia de género.
Asimismo, enfatiza la importancia de que los datos judiciales almacenados sean de alta calidad, fiables y transparentes. «La construcción de una justicia verdaderamente automatizada va a depender de que estos sistemas de datos estén alimentados por información precisa y accesible, respetando siempre los estándares de protección de datos personales». Aunque reconoce que, en la actualidad, estas herramientas desempeñan un papel meramente auxiliar al asistir a los operadores judiciales en tareas administrativas o en la redacción de borradores de resoluciones.
La experta también consideró que, si bien el Reglamento de la IA del 13 de junio de 2024 establece un marco regulador sólido en lo que respecta al régimen general de autorización, prohibición y obligaciones administrativas para el uso de sistemas de IA, «adolece en realidad de una importante carencia cuando se trata de regular aspectos sustantivos relacionados con la justicia». Por ello, este desarrollo subraya la importancia de la calidad, la fiabilidad y la transparencia que deben tener los datos judiciales almacenados.
Finalmente, señaló que la automatización opera principalmente como un «instrumento asistencial diseñado para auxiliar a los jueces», y no para sustituirlos. Este tipo de tecnología genera borradores, organiza información y optimiza tareas mecánicas o repetitivas, pero no toma decisiones finales de manera autónoma.