Carlos B Fernández. El uso imprudente por parte de un abogado norteamericano del ChatGPT para elaborar un documento procesal, empieza a tener consecuencias en el sistema judicial del país: dos jueces federales han emitido ya sendas órdenes (certifications) exigiendo a los abogados que actúen en su jurisdicción una declaración explícita sobre si han utilizado herramientas de inteligencia artificial generativa para la elaboración de los documentos y escritos procesales que les presenten.
Así, por una parte, el juez del Distrito Norte de Texas, Brently Starr, emitió una orden permanente (standing order) por la que exige a los abogados que dirijan escritos a su tribunal que presenten una certificación obligatoria (mandatory certification) que atestigüe que no utilizaron para su elaboración una IA generativa, como ChatGPT de OpenAI o Bard de Google, o que, si la utilizaron, que su resultado "fue verificado por un ser humano para comprobar su exactitud, utilizando repositorios impresos o bases de datos jurídicas tradicionales".
El juez Starr fundamenta esta decisión en que la IA generativa no es adecuada para redactar escritos jurídicos debido a: 1) su propensión a "inventarse cosas, incluso citas" y, 2) la posibilidad de que incorpore algún tipo de sesgo desconocido o imprevisto.
Además, añade este juez: "en tanto que los abogados han jurado dejar a un lado sus prejuicios, predisposiciones y creencias personales para defender fielmente la ley y representar a sus clientes, la inteligencia artificial generativa es el producto de una programación ideada por seres humanos que no tuvieron que prestar tal juramento". En consecuencia, "estos sistemas no guardan lealtad a ningún cliente, al Estado de Derecho o a las leyes y la Constitución de los Estados Unidos (o, como se ha indicado anteriormente, a la verdad)".
Pocos días después, el juez del Distrito Norte de Illinois, Gabriel Fuentes, hizo lo propio para exigir a toda parte que utilice IA --no necesariamente generativa-- para la elaboración de los documentos que luego presente ante el tribunal, que informe al mismo al respecto.
Así, en su "Standing order for civil cases", este magistrado señala que, a la vista de la rápida expansión de uso de la inteligencia artificial generativa "y su utilización en el ejercicio de la abogacía", procede establecer un nuevo requisito para los abogados que actúen ante su tribunalen el ámbito. Este requisito es el siguiente: Toda parte que utilice una herramienta de IA generativa para realizar investigaciones jurídicas o para redactar documentos para su presentación ante el Tribunal, deberá indicar en el momento de la presentación si utilizó para ello una IA y, en su caso, la herramienta de IA específica que se ha utilizado y la forma en que se utilizó.
Todo ello si perjuicio de lo previsto en la Regla 11 de las Reglas Federales de Procedimiento Civil (Rule 11 of the Federal Rules of Civil Procedure), y en particular la Regla 11(b)(2), según la cual, con la presentación ante el tribunal de un escrito, moción escrita u otro documento --ya sea firmándolo, presentándolo, sometiéndolo o defendiéndolo posteriormente-- el abogado certifica que, según su leal saber y entender, formado tras una investigación razonable en función de las circunstancias concurrentes, las alegaciones y argumentos jurídicos presentados están justificados por una ley existente o por un argumento no frívolo para ampliar, modificar o revocar una norma existente o para establecer una nueva ley ("a nonfrivolous argument for extending, modifying, or reversing existing law or for establishing new law").
Resulta particularemente llamativa a este respecto la declaración de este magistrado en el sentido de que "Las partes no deben dar por sentado que la mera confianza en una herramienta de IA constituirá una indagación [que se considere] razonable", porque, citando la famosa frase de la película "2001: Una odisea del espacio", "Lo siento, Dave, me temo que no puedo hacer eso ... Esta misión es demasiado importante para mí como para permitir que la pongas en peligro".
Añadiendo que "Una forma de poner en peligro la misión de los tribunales federales es utilizar una herramienta de IA para realizar búsquedas jurídicas que citen decisiones judiciales falsas en relación con cuestiones de derecho sustantivo".
Por ello, el Tribunal concluye que, al igual que ya hizo antes de la llegada de la IA como herramienta para la investigación jurídica y la redacción, seguirá presumiendo, de acuerdo con la citada Regla 11, que cualquier escrito que se le presente es una declaración de los litigantes, "como seres humanos vivos, que respiran y piensan" y que estos "han leído y analizado todas las referencias citadas para asegurarse de que las mismas existen realmente".
Según destaca Isha Marathe en Law.com, para los profesionales del derecho, estas normas son un arma de doble filo pues, por un lado, permiten explícitamente el uso de la IA en el trabajo de los abogados pero, por otro, imponen el requisito adicional de examinar las herramientas que utilizan, lo que puede plantear nuevos problemas.