Volver a página de inicio

Por Carlos B Fernández.-«DataFórum 2023», el gran evento anual sobre justicia y datos, se celebrará en Gijón del 14 al 16 de junio. Durante tres jornadas, un plantel de expertos de diferentes perfiles debatirá sobre las posibilidades de la digitalización de los tribunales y de cómo pueden contribuir los datos a conseguir ofrecer a la ciudadanía un servicio público más cercano, transparente, innovador y eficaz.

El científico de datos Manuel Souto intervendrá en la primera jornada del «Data Forum 2023» con una ponencia dedicada a esclarecer «Cómo funciona la IA, explicada para que lo entienda todo el mundo».

En esta entrevista anticipa varios de los temas de mayor interés en relación con este tema.

Su ponencia se va a dedicar a presentar las características y capacidades de la IA ¿cree que existe un conocimiento adecuado de esta tecnología por parte de los profesionales del Derecho?

Antes de nada, me gustaría empezar resaltando mi posición personal sobre el papel de la IA en todos los ámbitos, no únicamente en el sector de la justicia. La IA es un campo en desarrollo desde finales del siglo pasado, pero ha sido un gran desconocido hasta hace unos 10 años con la llegada de ordenadores mucho más potentes que han afianzado todo el desarrollo y permitido hacer cosas que antes parecían imposibles.

La IA es una herramienta a disposición de la sociedad y los profesionales, que nos complementa eliminando tareas manuales y repetitivas que aportan poco valor, liberando valioso tiempo que podemos dedicar en tareas con mayor retorno y que estos modelos no pueden hacer. Por supuesto, al contar también con una gran capacidad de procesamiento, pueden realizar tareas que un humano tardaría demasiado tiempo en realizar, o directamente sería imposible por el volumen necesario para su gestión. Por tanto, su principal objetivo es la eficiencia, no la sustitución.

Sin embargo, gran parte de la población aún desconoce sus capacidades y lo que realmente puede y no hacer; esto no sólo afecta a los profesionales del derecho, sino en prácticamente todos los ámbitos donde la tecnología y la digitalización no es un valor principal de la compañía o institución. En cualquier caso, el conocimiento que la sociedad debería tener sobre estos modelos es sobre sus capacidades generales, su uso, y las implicaciones de ello; no necesariamente sobre la parte técnica de su desarrollo e implementación. Por supuesto esto es una generalización, existen profesionales muy preparados y con conocimiento sobre la IA, como se puede ver en las regulaciones que la UE está promoviendo para generar un marco de actuación de los sistemas de IA.

En mi opinión, el alarmismo que rodea a estos modelos es entendible dado que se trata de un campo «esotérico» para profesionales que no son del sector, pero como persona dedicada a ello puedo afirmar que no nos dirigimos hacia el fin del mundo (al puro estilo Terminator) donde estos modelos dirigirán todo lo que hagamos y nos matarán a todos. El propio nombre de Inteligencia Artificial no es muy acertado: como la palabra «Inteligencia» está en el propio nombre asumimos que son inteligentes de verdad, cuando en realidad se asemejan más a una calculadora o diccionario con esteroides y tienen una capacidad de razonamiento menor a la de un niño de 3 años. Mientras que ganar una partida de ajedrez es una tarea «simple» para un modelo de IA, el hecho de asociar que al ver un coche rojo, entonces un camión puede ser rojo también aunque nunca haya visto uno, no es una tarea sencilla.

En definitiva, la IA es una gran herramienta al servicio de las personas, que les permite ser más eficientes en tareas de carácter más monótono y repetitivo, o que lidian con un gran volumen de datos hasta el punto de ser inmanejables. Por ello, debería usarse como ayuda para generar valor a posteriori usando los resultados que nos da, y no como un sustitutivo de las personas.

¿Cuáles de dichas características cree que son más relevantes para el trabajo de los juristas y, en particular, para el ámbito de la Justicia?

El uso directo de estas tecnologías como herramienta es el ejemplo claro en que la IA afectará a los profesionales de Justicia. Entre las posibles aplicaciones podemos encontrar, entre otros:

• • Modelos para la digitalización de documentos (Optical Character Recognition, OCR por sus siglas en inglés)
• • Generación de plantillas de documentos de forma automática empleando ChatGPT o tecnologías similares
• • Crear marcos de investigación y desarrollo para un caso concreto de derecho civil/mercantil o de otra tipología en base al histórico de casos del mismo tipo, que permita a los abogados dirigir el caso con mayor rapidez y facilitar la consulta de referencias pasadas

El otro punto importante donde la IA tendrá gran influencia sobre el sector y la sociedad es la regulación y el conocimiento de los sesgos y capacidades que estos modelos tienen. El sector de Justicia tiene una posición tanto privilegiada como difícil, dado que deben ser los profesionales más en sintonía con lo que estos modelos pueden hacer (y, por tanto, lo que deben y no deben hacer). Un ejemplo es que un sistema de reconocimiento de imágenes puede usarse para detectar defectos con un dron, o para identificar minorías por sus rasgos faciales (como es el caso de China con la minoría Uyghur); otro ejemplo es la creación y dispersión de fake news, o también el uso de perfiles sociodemográficos para predecir robos o asaltos, llevando a claros sesgos raciales. En estos momentos actuales de vorágine de descubrimientos y «tierra de nadie» debido a regulaciones dispares entre países, los juristas deben rodearse de perfiles diversos (sector público, privado, centros de investigación, universidades) que sean expertos en IA e imparciales, que les ayuden a gestionar estos cambios y asegurar que la privacidad y derechos de las personas están debidamente protegidos.

Hoy en día parece identificarse la IA con el Deep Learning ¿existen otras herramientas «inteligentes» que no se basen en esa tecnología específica y que sean igualmente útiles para los profesionales del Derecho?

¡Desde luego! Es otro ejemplo del afán del sector en poner nombres rimbombantes a todo. En esencia, el Deep Learning (DL) son modelos que se «entrenan» utilizando cantidades masivas de datos, con el objetivo final de generar una mayor complejidad en el «razonamiento» (de nuevo, estos modelos no son inteligentes, pero cada vez simulan más como si lo fueran) que les permita realizar tareas más complejas; el ejemplo claro que todo el mundo conoce son los LLMs (large language models) como ChatGPT. Sin embargo, existen más aplicaciones de la IA como el Data Science/ML (de nuevo, más nombres rimbombantes) o la estadística clásica, que en muchos casos son suficientes para las necesidades de la industria. Muchas veces no es necesario aplicar IA, basta con saber usar mejor Excel.

¿Cuáles considera los aspectos más relevantes a tener en cuenta por un jurista que se proponga utilizar la IA?

Por un lado, los juristas deben conocer las distintas soluciones que la IA ofrece, las opciones posibles a escoger, las capacidades de estos modelos y sus limitaciones. De hecho, esto es algo que todos los profesionales a lo largo de las industrias deben adquirir como capacidad, ya que cada vez más estos modelos formarán parte de nuestro día a día. Un jurista, sin embargo, debe tener especial cuidado con las implicaciones éticas y los posibles sesgos que la tecnología que está empleando tiene. Las decisiones tomadas por estos profesionales tienen repercusiones importantes en las personas, al igual que la aplicación de estos modelos en otros sectores críticos como salud o seguridad, por lo que las tecnologías usadas deben estar correctamente auditadas y validadas por los organismos pertinentes antes de su uso.

La IA basada en Deep Learning tiene una alta dependencia de los datos, tanto en volumen como en calidad ¿cree que los abogados disponen de datos suficientes para entrenar estos sistemas?

La administración cuenta con una gran cantidad de datos en distintos ámbitos jurídicos y legales, por lo que el volumen no es un problema. Sin embargo, y como nosotros desde Bedrock asesoramos a nuestros clientes, disponer de esos datos no implica directamente que haya que entrenar modelos de IA. Como en una empresa privada, debe existir antes un objetivo claro y un camino a seguir en el desarrollo, realizarse un estudio de las necesidades concretas y las tecnologías disponibles, y si la solución a ello es la IA, en ese caso se implementa.

Esto no es algo simple, ya que tanto la administración como compañías cuyo modelo de negocio es «tradicional» ven complicada la variación y adaptación del mismo hacia un modelo conectado y digital; y por supuesto la gestión del cambio en las propias personas que forman parte de la organización, y deben entender el valor de realizar este proceso. Para realizar este trabajo, en Bedrock nos apoyamos en metodologías de diseño estratégico que permiten tener una visión holística y unificada de cómo llevar adelante este cambio.

Como regla de oro en la ciencia, siempre se debe optar por la opción más simple que resuelva la necesidad inicial, ya que: es más económica, requiere menor tiempo de desarrollo e implementación, puede cambiarse o virarse su rumbo de forma simple, se pueden ver sus retornos de forma más rápida y puede mejorarse de forma incremental.

Y, en el mismo sentido ¿Dispone la administración de Justicia española de datos de calidad adecuados para emprender proyectos de IA?

La calidad de los datos es algo que afecta a la administración en su conjunto, no sólo en Justicia, e incluso en una gran parte de las empresas del sector privado. Desde datos almacenados en distintos lugares y no unificados, a documentos físicos no digitalizados, un esfuerzo adicional debe de hacerse para asegurar que no sólo la administración y las empresas están preparadas para el futuro de la IA, sino que su digitalización les permita usar sus datos para tener una mayor trazabilidad y conocimiento de su operativa.

Como se ha comentado en apartados anteriores, la existencia de soluciones de IA no implica directamente que todas las compañías deban comenzar a implementar o entrenar modelos. Existe mucho trabajo en áreas de datos paralelas, como pueden ser la analítica de datos o la ingeniería de datos, que forma las bases sólidas dentro de las compañías e instituciones para poder acometer este proceso de cambio y comenzar el uso de la IA a futuro.