Carlos B Fernández. Si bien los jueces brasileños están autorizado a utilizar la inteligencia artificial para la realización de su trabajo, tal como autoriza la Resolución 332/2020 del Conselho Nacional de Justiça (CNJ), este uso debe hacerse con las debidas garantías y bajo la responsabilidad del magistrado que la utilice sin aplicar las garantías establecidas.
Por ello, el CNJ va a abrir investigación a un juez federal de la 1ª Región del país, que dictó una sentencia al parecer redactada utilizando ChatGPT, en la que se citaba, como precedente para fundamentar la resolución del caso, una sentencia del Superior Tribunal de Justiça regional, que resultó inexistente.
Según informa la publicación brasileña Consultor Jurídico, esta circunstancia fue advertida por el abogado cuya pretensión resultó desestimada, quien advirtió de esa circunstancia al Departamento Regional de Asuntos Internos de la Justicia Federal de la 1ª Región (Corregedoria Regional de Justiça Federal da 1ª Região).
Abierta la pertinente investigación, el juez que dictó la sentencia consideró el caso como un "mero error" debido a la sobrecarga de trabajo y a que parte de la sentencia había sido redactada por un empleado del Juzgado. Esta investigación fue inicialmente archivada por el Departamento de Asuntos Internos de la 1ª Región, pero el caso será analizado ahora por el CNJ.
En tanto se resuelve la cuestión, el Tribunal Regional Federal de la 1ª Regiao, ha emitido la Circular Coger 33/2023 en la que se recuerda que el CNJ autorizó el uso de inteligencia artificial por parte de los órganos de la Justicia a través de la Resolución 332/2020, pero que esta disposición establece una serie de pautas éticas para garantizar que el uso de dicha tecnología cumpla con el objetivo de promover "el bienestar de los tribunales y la prestación equitativa" de la jurisdicción, por lo que estas herramientas pueden, a lo sumo, asistir a los jueces en su trabajo.
Además, se recomienda a los jueces que "no se utilicen herramientas generativas de IA abiertas y no aprobadas por los órganos de control del Poder Judicial para la búsqueda de precedentes jurisprudenciales", y que el uso indiscriminado de la inteligencia artificial conlleva "la responsabilidad del magistrado competente".
La Resolução do Conselho Nacional de Justiça 332/2020
La Resolución sobre a ética, a transparência e a governança na produção e no uso de Inteligência Artificial no Poder Judiciário e dá outras providências, de de 21 de agosto de 2020, autoriza el uso de la inteligencia artificial en la actividad de los jueces brasileños, con la finalidad de promover y profundizar la comprensión de la ley y el comportamiento humano, entre la libertad y las instituciones judiciales ("O conhecimento associado à Inteligência Artificial e a sua implementação estarão à disposição da Justiça, no sentido de promover e aprofundar maior compreensão entre a lei e o agir humano, entre a liberdade e as instituições judiciais") y el objetivo de promover el bienestar de las personas sometidas a la jurisdicción y el ejercicio equitativo de la jurisdicción, así como descubrir métodos y prácticas que permitan el logro de estos objetivos.
Este uso debe buscar en todo caso la seguridad juridica y, para ello, está sometido a diversas obligaciones, como el respeto a los derechos fundamentales de los ciudadanos, en particular la no discriminación, la publicidad y transparencia, la seguridad, la gobernanza, la calidad y la intervención humana.
Finalmente, el artículo 24 de esta Resolución establece que cualquier solución computacional del Poder Judicial que utilice modelos de Inteligencia Artificial debe asegurar total transparencia en la rendición de cuentas, a fin de garantizar un impacto positivo para los usuarios finales y la sociedad. Y, según su artículo 26, el desarrollo o uso de un sistema inteligente que no cumpla con los principios y reglas establecidos en esta Resolución será objeto de investigación y, en su caso, sanción de los responsables. Para ello, art. 27, los órganos del Poder Judicial informarán al Consejo Nacional de Justicia de todos los eventos adversos producidos con motivo del uso de la Inteligencia Artificial.