Carlos B Fernández. La presentación, el pasado 30 de noviembre, del ChatGPT ha generado la avalancha de reacciones que eran de esperar, en un mundo permanentemente alerta ante la innovación tecnológica.
De entre ellas, una de las más interesantes ha sido la sesión organizada el pasado día 24 de enero por el Observatorio Legal Tech & New Law Garrigues-Icade, titulada “ChatGPT y su potencial impacto en las profesiones legales”. Este foro, dedicado al análisis del impacto de la transformación digital en el Derecho y la práctica profesional, reunió en la sede de Garrigues a Natalia Rodríguez, Ingeniera de telecomunicaciones y fundadora y CEO de Saturno Labs; César Rosales, Project Manager de fAIr LAC (Banco Interamericano de Desarrollo-LAB) y Moisés Barrio, Profesor de Derecho digital, Asesor internacional en regulación y Letrado del Consejo de Estado.
En la presentación del evento, Albi Rodríguez Jaramillo, abogado del Departamento de Transformación Digital de Garrigues, explicó que ChatGPT ha supuesto un terremoto inesperado para el sector legal, basado en el proceso del lenguaje natural.
Su impacto se puede apreciar en reacciones como el estudio realizado por los profesores Katz y Bommarito, según el cual, el Chat era capaz de alcanzar una tasa del 62% de acierto en el test que forma parte del examen de acceso a la abogacía norteamericana (Multistate Multiple Choice (MBE) section).
Además, añadió, el hecho de que OpenAI esté participado por empresas muy potentes, como MS, permite anticipar que pronto se incorporarán sus funcionalidades a herramientas como el entorno Office o Teams.
Sin embargo, advirtió también, su utilización plantea también no pocas cautelas, como se podrá ver a continuación.
Para empezar, Natalia Rodríguez, explicó las características de esta tecnología: ChatGPT es un asistente conversacional al que se le pueden encargar tareas, dando opción a generar un diálogo con el usuario. Por sus características, supone una disrupción con respecto a otras tecnologías.
Pero, advirtió, hay que tener cuidado con estas herramientas, porque tiene fallos. Fallos derivados de que utiliza un modelo de aprendizaje por refuerzo, en el que unos humanos han indicado a la máquina si los resultados que iba proporcionando era buenos o no, permitiéndola optimizar el algoritmo para que su funcionamiento en el largo plazo le permita obtener la mayor gratificación posible. El problema es que en el manejo de grandes cantidades de información puede colarse información falsa o incorrecta. Cuando una IA intenta replicar el comportamiento humano, intenta maximizar la probabilidad de comportarse como un ser humano, no sabe lo que dice, sino actuar intentando imitar o replicar lo que ha visto, pero no va más allá.
Por otra parte, indicó, esta herramienta se basa en el proceso de lenguaje natural o LNP, por su abreviatura en inglés, un proceso orientado a la comprensión del lenguaje humano y permitir la comunicación entre el humano y la máquina. Pero su entrenamiento requiere muchos datos de calidad en nuestro idioma, lo que hasta ahora estaba bastante limitado.
Por último, señaló, ChatGPT maneja muy bien información del pasado, y esa limitación hay que tenerla claro cuando se le formula una pregunta.
Cómo combatir los sesgos y los contenidos tóxicos
En relación con este tema, César Rosales, Project Manager de FairLac (una iniciativa del Banco Interamericano de Desarrollo para promover el uso ético de la IA, enfocándose al sector público y en el ecosistema de emprendimiento, con un enfoque en las poblaciones en situación de pobreza o exclusión), destacó que en relación con ChatGPT los primeros problemas que se aprecian son los de sesgos y toxicidad.
Hay muchos tipos de sesgos, que se combaten estableciendo niveles de aceptación y precisión sobre los resultados. En cuanto a la toxicidad, que se refiere a la generación de un daño hacia determinados colectivos por el funcionamiento del algoritmo, como los discursos de odio o el acoso, para evitarlo, hay que entrenar al modelo diciéndole qué es tóxico y qué no lo es.
Pero esta tarea no es sencilla ya que el etiquetado plantea dudas ante fenómenos de ambigüedad. Y también ante contenidos ilegales. Por ello, un concepto muy relevante en este contexto es el de confianza digital, que supone que la tecnología sea robusta y fiable, que se pueda confiar en ella.
Con ese objetivo, añadió que desde su organización elaboraron un esquema que se basa en el análisis de la solución desde el punto de vista de la gobernanza, análisis que va seguido del análisis del funcionamiento de los algoritmos y de su análisis sobre cómo impacta todo ello en la sociedad.
El marco jurídico europeo y español regulador de la Inteligencia artificial
Destacó para empezar Moisés Barrio, que las normas éticas suponen un paso muy relevante para regular y equilibrar la IA, pero no son suficientes, porque su incumplimiento no genera consecuencias jurídicas y porque no existen incentivos para su implantación voluntaria. Además de que falta una supervisión pública de las mismas.
Ello ha dado pie a la figura del Estado regulador y garante. La función de regulación vincula la normativa con los riesgos derivados del uso de la tecnología, en una función en continua adaptación, fruto de la responsabilidad proactiva diseñada por el art. 5.2 del Reglamento General de Protección de Datos (LA LEY 6637/2016). Todo ello buscando un equilibrio entre los derechos de los ciudadanos y los de las empresas.
A continuación, añadió que el Reglamento europeo de Inteligencia Artificial actualmente en tramitación es la primera norma jurídica sobre la materia y tendrá un alcance mundial. Su finalidad es doble: abordar los riesgos que generan determinados usos de la IA y lograr una IA fiable (que es uno de los principales problemas de ChatGPT). Por ello, su contenido se orienta a identificar los sistemas que plantean un riesgo inaceptable, para prohibir su uso, y de regular el diseño, comercialización y puesta en servicio de los sistemas considerados de alto riesgo, entre otros aspectos. Se trata de que la legislación marque los límites de lo que se puede y no se puede hacer con la tecnología.
Utilización de ChatGPT en el trabajo jurídico
Barrio destacó que esta herramienta supone un avance muy importante para la democratización de la IA, pero su utilización plantea numerosos interrogantes. En particular, y por lo que se refiere al ámbito jurídico, que combina fragmentos de diferentes orígenes sin identificar las fuentes. Por ello considera que será un complemento del trabajo de los profesionales, ayudando a definir estrategias y a encontrar información, “pero poco más”.
Natalia Rodríguez añadió, por su parte, que ChatGPT puede ser un complemento del abogado, pero dado el actual nivel de desarrollo de la tecnología, hace falta que haya un humano controlando sus resultados. Con todo, se mostró convencida de que muchos profesionales acabarán usándolo, ya que es un buen complemento para la búsqueda de información. Pero su uso obligará a evaluar los resultados que proporciona.
Los retos que plantea el uso de la tecnología a los juristas
Sobre este punto, Natalia Rodríguez explicó que para sacarle todo el partido posible a la tecnología hay que entenderla, de ahí la importancia de los perfiles híbridos que combinen el conocimiento tecnológico con el jurídico. Y si ya es difícil encontrar buenos programadores, encontrar a los que además añaden ese plus, lo es aun más. Lo ideal para llegar a alcanzar esos perfiles es formarse desde cero y practicar. A lo que añadió César Rosales la importancia del pensamiento crítico y de pensar “fuera de la caja”, saliendo de la zona de confort del profesional.
Por ello, añadió también Moisés Barrio, resulta tan fundamental que los juristas entiendan la tecnología, como que los tecnólogos entiendan el Derecho. Para ello, destacó, el punto de partida es la escuela. En este sentido, recordó que la Ley Orgánica de protección de datos apostó fuerte por el desarrollo de competencias digitales. La realidad, hoy, pone de manifiesto que vamos a una convergencia de mundos y de regulaciones, por ello una persona no se va a poder dedicar al Derecho si no conoce la tecnología.
Nuevos modelos de negocio
Otro de los grandes retos que plantea esta tecnología son los modelos de negocio que puede llegar a permitir desarrollar. Los ponentes se refirieron a algunos situados fuera del ámbito jurídico, como la posibilidad de elaborar dietas veganas que incluyan las listas de ingredientes necesarios para ello.
Pero, aparte los problemas de propiedad intelectual que ello puede plantear, Moisés Barrio alertó del riesgo de que podamos estar ante una nueva burbuja .com, porque esta tecnología trastoca el modelo de búsqueda de contenidos y el negocio basado en publicidad. Con todo, los ponentes coincidieron en que el impacto de la tecnología se suele apreciar a medio plazo, por lo que todavía habrá que esperar y los juristas, añadió Barrio, deberán concentrarse en las tareas que pueden realizar aportando un valor añadido a sus clientes.