Carlos B Fernández. Con todo el ruido mediático en torno a la inteligencia artificial generativa, los sistemas como ChatGPT y su utilidad para la abogacía, sigue sucediendo lo que era de temer: se suceden nuevos casos de abogados que recurren a estos productos para elaborar sus escritos procesales, sin verificar la exactitud de los resultados que aquellos generan. Con muy malos resultados, hay que decirlo.
Tras el conocido caso Mata v. Avianca, que dio lugar a la primera sanción a un abogado por este motivo, y otros posteriores que le siguieron, nos llega noticia de otros casos similares en Estados Unidos. Según explica Bob Ambrogi en su blog Lawnext, uno en el Estado de Missouri y el otro en el de Massachusetts.
En concreto, en el primer caso se trató de un litigante que actuaba en nombre propio o pro se, no propiamente un abogado, que presentó un escrito de apelación en el que 22 de 24 precedentes invocados eran ficticios. Y no solo eso, sino que, como adviertió el tribunal, eran ficticios en una forma que debería haber levantado sospechas, por sus denominaciones tan genércias, como Smith v. ABC Corporation y Jones v. XYZ Corporation. Ese litigante afirmó haber obtenido las referencias de un abogado que contrató a través de Internet. Pero esta excusa no le libró del reproche del tribunal, de perder el caso y de ser sancionado.
El caso de Massachusetts involucró a un abogado que presentó tres escritos procesales distintos que citaban y se basaban en casos ficticios. Culpó del error a su propia ignorancia sobre la IA y atribuyó la inclusión de los casos a sus colaboradores, dos pasantes y un abogado asistente, cuyo trabajo no supervisó adecuadamente. La consecuencia: pérdida del caso y sanción económica.
Antes de entrar a analizar con mayor detalle estos casos, anticipemos nuestra opinión de que tales sucesos no solo deben servir para alertar nuevamente a los profesionales del Derecho sobre los peligros de utilizar sin supervisión los sistemas genéricos de IA generativa. También están permitiendo a los tribunales, si bien hasta ahora solo los norteamericanos, establecer algunos interesantes criterios jurisprudenciales al respecto que bien podrían considerarse aplicables en nuestro país. Del mismo modo, algunos colegios profesionales del país han comenzado a emitir recomendaciones de buenas prácticas al respecto.
La presentación de un escrito procesal que contiene precedentes falsos constituye una violación flagrante del deber de lealtad debido al Tribunal, que no puede tolerarse
En su sentencia de 13 de febrero de 2024, Kruse v. Karlen, el Tribunal de Apelaciones del Distrito Este de Missouri (Missouri Court of Appeals Eastern District), resuelve el caso de un litigante en nombre propio que presentó una apelación pro se, invocando unos precedentes inexistentes.
Y a este respecto, el Tribuna establece, en primer lugar, que las partes que comparecen pro se, como la recurrente, están "sujetas a las mismas normas procesales que las partes representadas por un abogado, incluidas las normas que especifican el contenido requerido de los escritos de apelación". Por tanto, estos apelantes pro se "no tienen derecho a excepciones que no recibirían si estuvieran representados por un abogado." Y aunque el Tribunal reconoce “los problemas que enfrentan los litigantes pro se, no por ello podemos relajar nuestros estándares para los no abogados". "Nuestra aplicación de las reglas no proviene de una falta de simpatía, sino de una necesidad de imparcialidad judicial, economía judicial y justicia para todas las partes".
A continuación, el tribunal aborda lo que considera más escandaloso (more egregiously) de la conducta del actor; el hecho de que presentó un escrito en el que “la inmensa mayoría de las citas [de precedentes jurisprudenciales]no sólo son inexactas, sino totalmente ficticias”.
En concreto, “sólo dos de las veinticuatro citas contenidas en el escrito de la recurrente son auténticas”. Algunas de estas citas se refieren a casos y a partes que no existen (frecuente utilizando nombres muy comunes, como “Smith v. ABC Corporation” o “Brown v. Smith”). Otras ofrecen nombres de casos potencialmente reales –“presumiblemente producto de la serendipia algorítmica” indica correctamente el Tribunal- pero que no sostienen las proposiciones afirmadas por el recurrente.
Además, destaca el tribunal, las citas incorrectas no se limitan a la jurisprudencia, también alcanzan a la legislación aplicable: o bien se citan erróneamente leyes y normas de Missouri, que o bien se refieren a una cuestión jurídica completamente distinta de la que alega el recurrente o bien expresan erróneamente el contenido de la ley.
En su descargo, el recurrente se disculpó por citar casos ficticios, diciendo que le habían sido facilitados por un consultor en línea que contrató para escribir el escrito y que afirmaba ser un abogado con licencia en California. Dijo que no sabía que esa persona utilizaría “alucinaciones frtuo de la inteligencia artificial” y negó cualquier intención de engañar al tribunal.
Pero el tribunal se mostró terminante: "Lamentamos que el apelante nos haya brindado nuestra primera oportunidad de considerar el impacto de los casos ficticios que se nos presentan, una cuestión que ha atraído la atención nacional debido a la creciente disponibilidad de IA generativa".
“La presentación ante este Tribunal de un escrito de apelación que, por la razón que sea, incluye citas falsas, no puede tolerarse y representa una violación flagrante de los deberes de lealtad que el apelante debe a este Tribunal”.
Y citando el precedente establecido por un Juzgado de Nueva York en el caso Mata vs. Avianca, y las obligaciones establecidas en las Reglas de Conducta Profesional de la American Bar Association (ABA Model Rules of Professional Conduct, Rule 3.3), que impone el deber ético de actuar con honestidad ante los tribunales y prohíbe hacer declaraciones falsas sobre hechos materiales o sobre la ley, recuerda que “Un intento de persuadir a un tribunal o de oponerse a un adversario basándose en opiniones falsas es un abuso del sistema de defensa”.
Para proteger la integridad del sistema judicial, los tribunales de todo el país han estado considerando y/o promulgando normas locales específicamente orientadas a prohibir o revelar el uso de I.A. generativa en los escritos judiciales. Las citas ficticias del recurrente nos alertaron a nosotros y a los recurridos de la probabilidad de que la I.A. generativa estuviera implicada incluso antes de que el recurrente la revelara después de los hechos.
Por lo que concluye: “Instamos a todas las partes que ejercen ante este Tribunal, ya sean abogados o procuradores, a que sepan que somos conscientes de la cuestión y que no permitiremos que se cometa fraude contra este Tribunal en violación de nuestras normas.”
Por todo ello, el tribunal concluyó que la presentación de casos ficticios por parte de actor en en este caso constituía "un abuso del sistema judicial" y, además de desestimar su recurso, le condenó a pagar 10.000 dólares en concepto de daños y perjuicios por los honorarios de los abogados de su oponente.
"Consideramos que la indemnización por daños y perjuicios... es un mensaje necesario y apropiado en este caso, que subraya la importancia de seguir las reglas judiciales y presentar de argumentos respaldados por una autoridad judicial real y precisa", concluye.
Está justificada la imposición de una sanción al abogado que no tomó las precauciones básicas y necesarias en la preparación de la demanda
En su sentencia de 12 de febrero de 2024, en el caso Smith v. Farwell, el Tribunal Superior de Massachusetts (Massachusetts Superior Court) explica que, una vez recibida la de demanda, de la parte actora, tuvo que pasar varias horas investigando las citas de antecedentes jurisprudenciales incluidas en el mismo, sin poder encontrar tres de los casos citados.
Celebrada audiencia sobre las mociones de desestimación, el juez comenzó informando al abogado del demandante sobre los casos ficticios que había encontrado, preguntándole cómo se habían incluido. Cuando el abogado dijo que no tenía idea, el juez le ordenó presentar una explicación por escrito del origen de los casos.
En su escrito, el abogado reconoció que había incluido “sin darse cuenta” citas de múltiples casos que “no existen en la realidad”, atribuyendo su origen a un “sistema de inteligencia artificial” no identificado, que alguien de su bufete había utilizado para “localizar a las citas legales pertinentes para respaldar nuestros argumentos”. Se disculpó ante el juez por las citaciones falsas y lamentó no haber “ejercido la debida diligencia para verificar la autenticidad de todas las referencias de jurisprudencia proporcionadas por el sistema [AI]”.
Cuando el juez revisó más a fondo los antecedentes invocados por el demandante, encontró un caso adicional inexistente.
En la audiencia, el abogado volvió a disculparse, diciendo que las alegaciones habían sido preparadas por tres personas de su oficina: dos recién graduados de la facultad de derecho y un abogado asociado. Y si bien el abogado había revisado los escritos elaborados por estos colaboradores, en cuanto a estilo, gramática y fluidez, le dijo al tribunal que no había verificado la exactitud de las citas.
El juez admitió que "El abogado del demandante no está familiarizado con los sistemas de IA y no sabía, antes de que presentara sus escritos, que los sistemas de IA pueden generar información falsa o engañosa", así como que "tampoco sabía que su socio había utilizado un sistema de inteligencia artificial para redactar documentos judiciales en este caso hasta que salieron a la luz las citaciones de casos ficticios".
Sin embargo, aunque acepta que la explicación del abogado era veraz y precisa y que no presentó las citaciones a sabiendas y que la expresión de contrición del abogado era sincera, considera que "Estos hechos no exoneran de toda culpa al abogado del demandante, ni obvian la necesidad de que el Tribunal adopte medidas de respuesta para garantizar que el problema encontrado en este caso no vuelva a ocurrir en el futuro".
Por ello, considera que está justificada la imposición de una sanción porque el abogado del demandante no tomó las precauciones básicas y necesarias que probablemente habrían evitado la presentación de la demanda incluyendo citas de casos ficticios. Su fracaso en este sentido es categóricamente inaceptable”.
“El hecho de que el Abogado de los Demandantes, conscientemente, no revisó las citas del caso en las Oposiciones para verificar su exactitud, o al menos se aseguró de que alguien más en su oficina lo hiciera, antes de que las Oposiciones fueran presentadas ante este Tribunal violó su deber bajo la Regla 11 de realizar una 'investigación razonable'. ”, Dijo el juez Davis. "En pocas palabras, ninguna investigación no es una investigación razonable".
Por esa razón, el juez decidió imponerle una sanción al abogado de $2.000 (a pagar al tribunal, no a la parte contraria).
Resulta particularmente interesante la reflexión que introduce el juez del caso en lo que describe como la “lección más amplia” que se puede extraer de este caso para los abogados en general:
“Es imperativo que todos los abogados que ejercen [ante esta jurisdicción] comprendan que están obligados según la Regla Civ. de Massachusetts. P. 11 y 7 a saber si se está utilizando tecnología de IA en la preparación de los documentos judiciales que planean presentar en sus casos y, si es así, a garantizar que se estén tomando las medidas adecuadas para verificar la veracidad y precisión de cualquier contenido generado por dicho sistema antes de presentar sus escritos".
“La aceptación ciega del contenido generado por IA por parte de los abogados sin duda conducirá a otras audiencias de sanción en el futuro, pero una defensa basada en la ignorancia será menos creíble y probablemente menos exitosa, a medida que los peligros asociados con el uso de sistemas de IA generativa se vuelvan cada vez más más conocido”.
Quizás la conclusión de todo esto sea, como indica Bob Ambrogi, una de las respuestas a la pregunta de cómo va a afectar la IA generativa a la abogacía sea que eliminará a los abogados perezosos e incompetentes.