Carlos B Fernández. La tecnología ha experimentado a lo largo de los últimos meses unos avances tan notables, que hemos llegado a un momento de inflexión, en el que lo importante será saber valorar su impacto a corto plazo. En esta tarea, el papel de la abogacía es ser una roca sólida desde la que impartir una opinión solvente al respecto.
Esta fue una de las principales ideas lanzadas por Manuel Fernández Condearena, socio de Legal Management Consulting de Deloitte Legal, en un evento celebrado en la sede de esta firma en Madrid, con motivo de la presentación de la segunda edición de la obra "LegalTech. La transformación digital de la abogacía", editada por LA LEY.
En la primera parte del acto, este experto compartió mesa redonda con Rodrigo González Ruiz, socio de Deloitte Legal y Moisés Barrio Andrés, letrado del Consejo de Estado, experto en Derecho y director de la obra presentada, debatiendo sobre algoritmos y abogacía. Un tema especialmente relevante en un tiempo en el que la inteligencia artificial (IA), en su expresión de ChatGPT, parece dominar todos los temas de conversación del sector.
Como explicó Moisés Barrio, ChatGPT es una aplicación del aprendizaje profundo de máquinas, o Deep learning, que soporta un ejemplo de los conocidos como grandes modelos de lenguaje, o LLM por su abreviatura en inglés. Se trata de unos sistemas optimizados para elaborar respuestas a preguntas formuladas por un humano. Su problema: se trata de modelos alimentados por medio del contenido almacenado en la internet abierta, pero sin jerarquizar la relevancia de las fuentes utilizadas, ni supervisión humana de los resultados, por lo que estos pueden ser incorrectos, inexactos o, directamente falsos y, con ello, provocar un perjuicio tanto a quienes los utilizan, como a otros posibles terceros afectados por esos resultados.
De ahí, subrayó Barrio, la importancia de que se regule esta figura. Algo que ya se prevé en la versión del Reglamento de IA que está tramitando el Parlamento Europeo, un texto que, con un enfoque basado en el riesgo, pretende extender a esta materia el conocido como "efecto Bruselas", es decir, que sus principios rectores se apliquen a escala global, tal como ha acabado sucediendo con el Reglamento General de Protección de Datos, ofreciendo una respuesta proporcionada a los riesgos que plantea esta tecnología.
Estos sistemas, añadió Rodrigo González, se caracterizan por ser complacientes y pacientes con sus usuarios, pero también por "alucinar", en el sentido de invertar el contenido de sus respuestas, como anteriormente señaló Moisés Barrio. De ahí, insitió, la importancia de una regulación que aporte seguridad jurídica, y también tecnológica, a su uso. Pero esa regulación debe ser la apropiada para evitar que las empresas tecnológicas puedan sentir la tentación de alejarse del marco europeo, en busca de mercados con mayor libertad o menos control.
En esta línea regulatoria, destacó el papel que puede jugar el futuro Reglamento de IA, que deberá resolver aspectos tan críticos como el propio concepto de IA, la clasificación de los sistemas prohibidos y de los sistemas de alto riesgo. Todo ello en un marco que requiere un análisis de riesgos muy en línea con el diseñado por el RGPD, la exigencia de un certificado de conformidad previa, el respeto al principio de intervención humana y la relevancia del principio de transparencia. Una serie de factores para los que el futuro entorno de pruebas controlado, o sandbox, en el que actualmente está trabajando la UE, bajo el impulso de la SEDAI española y con el asesoramiento de Deloitte, puede ser fundamental.
En este contexto, recalcó Manuel Fernández, la regulación, el respeto a la protección de datos y no convertirse en stoppers de la innovación, deben ser los principios que guíen la actuación de los profesionales del Derecho. Para esta tarea, ChatGPT puede ser considerado como un asisente junior muy listo, capaz de elaborar primeros borradores de contratos, o de realizar un primer mapeo de la regulación aplicable a clientes con presencia global. Pero para ello, destacó, va a ser esencial contar con datos de calidad, debidamente depurados, y tener en cuenta que la rápida evolución de estos sistemas está provocando que la explicación sobre los criterios utilizados en su funcionamiento, resulta cada vez.
Todos estos factores, concluyó Barrio, demuestran la importancia de contar con un jurista desde los primeros momentos del desarrollo de estos sistemas.
Desing thinking y la rueda del futuro
A continuación, Laura Fauqueur y Sara Molina, dos de las principales referencias de nuestro país en el design thinking, esa metodología que utiliza herramientas y técnicas específicas para ayudar a descubrir los insights o «hallazgos» necesarios para realizar con éxito un proyecto, potenciando la creatividad al mismo tiempo que el análisis, hicieron una demostración práctica de la potencia de esta técnica para avanzar en la identificación de los riesgos asociados a la implementación de una herramienta como ChatGPT.
El ejercicio, llevado a cabo con la participación de todos los asistentes a la sesión, puso de relieve el impacto de esta tecnología en aspectos como la perpetuación de sesgos, la protección de datos personales, los derechos de autor, el empleo o la responsabilidad civil, así como en otras cuestiones menos jurídicas, como la reducción de la cultura del esfuerzo o el empleo.
Por medio de esta práctica se pudieron avanzar la forma en que se concretan estos riesgos y las prácticas necesarias para mitigarlos.
Un muy interesante ejercicio que puso una vez más de relieve la importancia de pensar "fuera de la caja", para encontrar nuevas y mejores formas de afrontar nuevos problemas o supuestos.
"Legal Tech. La transformación digital de la abogacía"
Finalmente, Moisés Barrio hizo referencia a esta nueva obra, editada por LA LEY, en la que un amplio grupo de expertos analizan los principales aspectos relacionados con la aplicación de la tecnología en el ámbito legal. Barrio centró su presentación en dos citas de relieve. La primera de Charles Darwing, quien afirmó que en la historia de la evolución, sobreviven mejor los individuos que mejor se adaptan al cambio. Y otra, extraida del epílogo del libro, de mano de Markus Hartung, quien pone de relieve que la tecnología no va a sustituir a los abogados, pero que los abogados que usen apropiadamente la tecnología, serán los que, sin duda, sustituyan a aquellos que no la utilicen.