Cargando. Por favor, espere

Los expertos destacan la importancia de la colaboración interdisciplinaria del derecho y de la tecnología

Jornadas Internacionales «Desafíos jurídicos de la IA»

Los expertos destacan la importancia de la colaboración interdisciplinaria del derecho y de la tecnología

  • 2-10-2024 | Aranzadi La Ley. Karnov Group
  • La primera sesión de las Jornadas Internacionales «Desafíos jurídicos de la IA» que se han celebrado recientemente en Granada, puso el foco en uno de los grandes retos a los que se enfrenta la IA: los algoritmos sesgados.
Portada

Por María José Fernández Rivas.- La Facultad de Derecho de la Universidad de Granada acogió el pasado lunes, la primera sesión de las Jornadas Internacionales «Desafíos jurídicos de la IA», organizadas por la Fundación para la Magistratura y la Universidad de Granada con el respaldo de Aranzadi LA LEY. Estas jornadas, que van a tener lugar durante tres días, van a reunir a profesionales y expertos, nacionales e internacionales, del sector legal para abordar aspectos clave de la IA desde las perspectivas jurídica.

La apertura de las Jornadas contó con la intervención de Ana María Rivas Velasco, vicerrectora de Calidad, Innovación Docente y Estudios de Grado, quien agradeció la presencia de los asistentes, de los ponentes y de los patrocinadores. En la bienvenida estuvo acompañada por el vocal del Consejo General del Poder Judicial, José María Páez Martínez-Virel, por el presidente del Tribunal Superior de Justicia de Andalucía, Lorenzo del Río Fernández, por el concejal de Recursos Humanos, Organización, Ciudad Inteligente, Digitalización e Innovación, Vito Rafael Epíscolo Solís, y por el magistrado y director General de la Fundación para la Magistratura, Juan Ángel Moreno García.

En sus palabras de bienvenidas, Ana María Rivas, recalcó la importancia de la colaboración interdisciplinaria del derecho y de la tecnología. En esta dirección, Lorenzo del Río destacó los beneficios que aportan la inteligencia artificial en la agilización de los procesos jurídicos y la necesidad de atender a los desafíos tanto jurídicos como éticos y sociales que conlleva el uso de esta tecnología.

La conferencia inaugural, «Inteligencia artificial y Derecho: un necesario y urgente diálogo», corrió a cargo de Moisés Barrio Andrés, letrado del Consejo de Estado. Durante su intervención hizo un breve repaso del origen y el desarrollo de la Inteligencia artificial, considerándola como uno de los pilares fundamentales estructurales de la sociedad actual. Así pues, el letrado sentó como fuente del problema la falta de razonamiento con sentido común de la inteligencia artificial y la ausencia de comprensión real en sus actuaciones.

No obstante, para Barrio «la IA es una pieza indispensable en el ámbito de las relaciones jurídicas, en especial en la búsqueda de información jurídica, pero requiere de un mecanismo de control, gobierno y supervisión».

Introducción conceptual a la Inteligencia Artificial

Durante la sesión de la tarde tuvo lugar la mesa redonda «Introducción conceptual a la Inteligencia Artificia, IA confiable», en la que intervinieron dos catedráticos de Ciencias de la Computación e Inteligencia Artificial de la Universidad de Jaén e investigadores del Instituto DaSCI, María José de Jesús Díaz y Cristóbal José Carmona del Jesús.

María José de Jesús enfocó su intervención en definir conceptos claves de la inteligencia artificial como: aprendizaje automático, aprendizaje profundo, IA generativa y modelos fundacionales. En opinión de la ponente, se necesitan unos sistemas de inteligencia artificial entrenados con datos fiables que sean precisos y robustos y, que estos sistemas estén diseñados a raíz de un proceso serio de ajustes finos especializados en el ámbito en el que se vaya a aplicar.

Por su parte, Cristóbal José Carmona expuso los grandes riesgos que suponen el uso de la inteligencia artificial, entre los que destacó; la falta de transparencia, la discriminación, el dilema ético, el aumento de la dependencia, la manipulación y la desinformación.

El catedrático señaló que «es necesario construir sistemas supervisados por personas que trabajen con datos que garanticen la transparencia, privacidad, y que sean equitativos, sostenibles, auditables y seguros». Además, concluyó puntualizando que «el mayor reto de la IA son los algoritmos sesgados».

Añadir comentario1Comentarios
Fernando Gomez Moreno|03/10/2024 3:40:03
LA IA GENERATIVA – EL SISTEMA JUDICIAL Y SUS PARADOJAS . “Tobe or not tobe, that is the Question” Para los que aun no apoyamos, compartimos o nos provoca muchas dudas y temor la utilización de la IA Generativa en el Sistema Judicial y en la actividad de los Jueces. Hasta que nos ocupemos de lo mas importante, de manera seria y detenida: EL ser Humano en su carácter de Justiciable Comparto estas breves reflexiones producto de una Filosofía mas doméstica, como la llamaba Michel Foucault a aquella que genera preguntas, cuestionamientos últimos, dudas fundamentales sobre la tensión entre nuestra existencia y la realidad. Donde no es necesario ser Filósofo en el sentido que todos vulgarmente conocemos, como así lo enseñaba en sus clases en el Collège de France para crear sinergia con sus alumnos. Reflexiones y preguntas que han sido movilizadas incuestionablemente por lo que he venido leyendo en publicaciones académicas y periodísticas, noticias, sentencias, reglamentaciones, leyes del Derecho Internacional, comentarios, como también escuchado en congresos, clases magistrales, etc, acerca de la IA Generativa en el ámbito del Sistema Judicial. Es evidente que mi ignorancia en lo que se refiere a la IA en sus aspectos científicos, tecnológicos y aplicaciones en distintas áreas, impide que tales apreciaciones formen parte de esta modesta publicación, por lo que me referiré particularmente a los Derechos y Garantías Fundamentales de las personas, como los son El Derecho de Defensa en Juicio, Debido proceso, Juez imparcial, y sentencia justa frente a la utilización de la IA Generativa por parte del sistema Judicial y la actividad Jurisdiccional. Que es en definitiva lo que generó tensión en mi sistema 2, como nos explica Daniel Kahneman y llama las áreas del cerebro cuando nos habla de Facilidad Cognitiva. Esta tensión se convierte en una preocupación que hace preguntas, busca respuestas y soluciones despertando todo mi interés y actividad analítica cuando advertimos que algo esta mal, o que está faltando algo importante, pues no lograba entender el por que de demandas, cuestionamientos, denuncias y demás oposiciones de carácter tanto legal como extrajudicial a Jueces que habrían utilizado IA Generativa en sus sentencias o demás actividades jurisdiccionales, vale decir, que el conocimiento de su utilización llega después, al momento de la parte final de un proceso es decir en “La Sentencia”, sin que antes se lo informe para que pueda ejercer estos derechos fundamentales a los que me referiré en los supuestos en los que tales hechos o circunstancias dentro del proceso le provocan temor, dudas o inseguridades con las que no está de acuerdo forme parte del ámbito en el se que dirá del derecho del Justiciable. Es necesario una explicación y respuesta contundentes y argumentadas jurídicamente donde solo había en aquellas lecturas vacíos y lagunas que llenar. La Teoría de la Creatividad de Jorge Wagensberg afirma que “solo es el Ser Humano el que tiene conciencia para detenerse a considerar que método científico será el escogidoy como este avanza a partir del descubrimiento de incoherencias, errores y paradojas en la observación de la realidad. Que las paradojas no se buscan sino que aparecen y lasencontramos, cuando vemos que algo esta faltandoo lo existente es contradictorio. Así encuentro una primera paradoja en la IA Generativa y el Sistema Judicial que no se ha abordado de la manera en la que debe hacérselo, pues recordemos que estamos hablando de los Derechos y Garantías Fundamentales del Ser Humano. Acaso no es este el centro de todo lo que se reglamenta, declara, sanciona, comenta, escribe, publica, en el derecho internacional (Europeo) , en los sistemas legales latinoamericanos y en todo lo que tenga que ver y relacionarse con esta nueva Tecnología Disruptiva? Evidentemente no !. Al menos de la manera que le permita realmente pasar a ser el centro de todo y el foco principal frente a la utilización de la IA. Estamos frenteaunodelosdilemasexistenciales mas importantesenla Historiadela Humanidad,dondenohaytiempoparapostergacionesuolvidos.Semevinoalamemoriainconscientementelapregunta; Tobe,ornot tobe, that is thequestion? Que seencuentra enlaobradeteatro H amlet,príncipede Dinamarca,escrita por WilliamShakespearehacemásde 5siglos enel ActoIIIescenaI“Seronoser,esaes lacuestión"seha ubicadoenlaescenaprimeradel terceractode Hamlet: querecreaal príncipede Dinamarca hijodel Reyquehasidoasesinadoporsupropioher manoyesconsecuenciadelconflictointeriorqueatraviesaelpersonajeantelafatalidaddeloshechosdelarealidad ylasdudasqueleasaltan.Perovamasallá,queunasimplepregunta. Encierra,entiendo,unsentidodilemáticodelaexistenciahumanaylas inquietudesantelavida. Eldrama Hamletdeprofundaidentidad humanistanoshacereflexionarqueel serhumanoes másqueel rol olugarquelehatocadoensuhistoriaoalcualhasido"destinado"por losdeveniresdeesta. Estaenlarazónporquelahecitadoaestaobray mi intenciónapuntaarecordarquesomos lo ssereshumanos losúnicos quepodemos deliberarsobrenuestrofuturoydestino. Siasínofuerasoloseremos testigosdeloqueaconteceyquedaremosatrapadosenladuda Así,entoncesestafamosapreguntaofrasenoes soloontológicasinotambiénética. Delocontrario,noexistiríalapregunta. Esedilemaexistenciales muysemejantealdilemaqueconsiderounodelos más importantesenlahistoriadelahumanidad.Sintetizadoenlasiguientepregunta: Hastadon depermitiremosquelaIA ingreseenel sistemajudicialyenlaactividadjurisdiccional,estoesenunaporción muycaraparanuestrasvidas,comoloeselámbitodela AdministracióndeJusticia. Y atodoeventoserá–estimo- imprescindiblequesenos informedesdeuninicioqueel Juezaquienc onfío misderechos ygarantías meinspireconfianza, loquehoyenestecontextonoestádado UNA REGULACION MÁS ESPECIFICA, CONCRETA, DETALLADA Y OMNICOMPRENSIVA DE LOS DERECHOS DEL SER HUMANO YA NO TAN GENERICA ES LA NECESIDAD ULTIMA Y FUNDAMENTAL, PARA QUE -RECIEN LUEGO- PODAMOS SEGUIR HABLANDO DE LA IA EN EL SISTEMA JUDICIAL Y LA ACTIVIDAD DE LOS JUECES En mi modesta manera de ver dado que no advierto que se estén respetando los derechos fundamentales de toda persona humana, de manera concreta y cabal digo. Las expresiones de que “sea el hombre y sus derechos fundamentales lo más importante frente a este nuevo desafío”, que “el ser humano sea el foco”, “que no afecte a sus derechos”, que “la razón última para que esta tecnología disruptiva ingrese sin afectarlos es que haga mas fácil la vida de las personas, que la mejore” todas tan reiteradamente leídas, escritas, invocadas, legisladas e incorporada en todas las nuevas leyes, reglamentaciones, acuerdos globales, marco acuerdo y ahora incluso también en una sentencia, no dejan de ser solo dispositivosgenéricos. Y no debe ser así, este escenario nos impone una regulación especifica, concreta y desarrollada cabalmente . Mis razones por las que no estoy de acuerdo o apoyo que se utilice IA en la labor del sistema Judicial, específicamente en la actividad de los Jueces son varias,pero ante la necesidad de lograr que este sea un ámbito de aprender, compartir y discutir señalaré solo una. Reedito y transcribo frases, expresiones, palabras y conceptos coincidentes y reincidentes de este último año relativo a la IA GENERATIVA y el ser Humano, que fueron extraídas de publicaciones periodísticas, reglamentaciones internacionales, leyes, acuerdos, sentencias, ponencias, Congresos, charlas, comentarios en ámbitos distintos (académicos, no académicos, gubernamentales,), sin que haya sido necesario el uso de la coincidencia de patrones para compilar algoritmos basados en tipos y datos: #Peligro para la Humanidad, #Protección de datos y privacidad #Daños al derecho de Autor #Afectación de derechos fundamentales del hombre #Perjudicial a los derechos y garantías del ser humano #Daños a los derechos y garantías de las personas. #Fallas y alucinaciones #Desconfianza #Sesgos #Datos incorrectos #Datos escasos y limitados #Datos sintéticos #Alto riesgo #La IA Generativa dará más eficacia a la Justicia #La IA Generativa beneficiara al sistema Judicial y dará más eficiencia # El uso de la IA Generativa ya está dando sus primeros resultados en el sistema Judicial # Ya se está implementado en muchos Tribunales el uso de la IA generativa para mejorar el sistema de la administración de Justicia. Entre otras tantas, que seguramente habrá pero que por la limitación que me genera mi actividad profesional me impide dedicarme con mayor extensión a esta otra actividad que forma parte de mi ADN y de mi vida cotidiana producto de mi formación humanista y desarrollada mediante una filosofía mas casera. Aun así, ellono impide que sean suficientes para invitar a la a la reflexión y discusión. Pero lo que no encontré han sido publicaciones, reglamentaciones, leyes, sentencias, comentarios que contengan frases o expresiones, palabras en los dispositivos normativos con igual intensidad que me hubieran permitido identificar algún patrón con igual método, acerca del cuidado y amparo concreto de los derechos y garantías fundamentales del Hombre de manera específica, particular, extensa y cabal frente a la utilización de la IA generativa en el sistema Judicial. Cito algunas de ellas: Dadas las importantes repercusiones que la IA puede tener en la sociedad y la necesidad de generar confianza, es fundamental que la IA y su marco reglamentario se desarrollen de conformidad con los valores de la Unión consagrados en el artículo 2 del Tratado de la Unión Europea (TUE), los derechos y libertades fundamentales consagrados en los Tratados y, de con”1 1. “”Dadas las importantes repercusiones que la IA puede tener en la sociedad y la necesidad de generar confianza, es fundamental que la IA y su marco reglamentario se desarrollen de conformidad con los valores de la Unión consagrados en el artículo 2 del Tratado de la Unión Europea (TUE), los derechos y libertades fundamentales consagrados en los Tratados y, de conformidad con el articulo 6 del TUE, la Carta. Como requisito previo, la IA debe ser una tecnología centrada en el ser humano. Además, debe ser una herramienta para las personas y tener por objetivo ultimo aumentar el bienestar humano.” Estados Unidos (California) primer fallo frente a una demanda por la utilización de IA Generativa por parte de un Tribunal, en la argumentación del fallo (de parte de la primera sentencia en la materia) ”… La utilización de IA Generativa por el Tribunal demandado entiendo que podrían beneficiar.. , ???? ?????????? ??? “??? ???”. ?? ?????”( Utilización del verbo condicional, tercera persona plural no son conceptos puros, es decir, más bien ficciones convencionales, con fines de designación, de entendimiento, pero no de explicación.) Mas actual ;“UNESCO Consulta Publica que expira el 25 de sep. sobre talleres de consulta “ propone un Borrador de las directrices en las que aborda conceptos generales sobre la ética y los derechos fundamentales, sin más. Me llamó la atención que en esta inciativa global no se encuentra Argentina : “The followingexperts contributedtothe consultative workshops and thedrafts of the Guidelines:Dr. Catherine Regis (Professor, FacultyofLaw, Universityof Montreal), Judge Jean Aloise Ndiaye (Supreme Court of Senegal), AmeenJauhar (Team Lead, Centrefor AppliedLaw & Tech, Vidhi Centre forLegal Policy), Karine Caunes (Global Program Director, EULaw, Center for AI and Digital Policy), Alfonso Peralta Gutiérrez (Judgeof the First Instanceand Criminal Investigation, Granada, Spain), Anthony Wong (President of IFIP, International Federationfor Information Processing), Amanda Leal (AssociatAI Governanceat The Future Society), Dr.Krishna Ravi Srinivas (Adjunct Professor at NALSAR UniversityofLaw), Anca Radu(Researcher, European University Institute, Department ofLaw), Dr. Dory Reiling(RetiredSenior Judge, International Court and ICT expert), Carolina Villadiego (Legal Counsel forLatin America, International Commissionof Jurists), Grace Mutung’u(Researcher and Advocateof the High Court of Kenya), Matthieu Quinou(Doctor of PrivateLaw and Attorneyat Law at the Paris Bar, France), Martin Okumu Masiga(Secretary 3General, AfricaJurists and Judges Forum), Colin van Noordt (Researcher), Felipe Guzmán (Consultant onregulatory instruments for thedigital transformationof the Judicial Branch, Superior Council of the Judiciaryof Colombia), Agneris Sampieri (Mexican Attorney), Dr. Miriam Stankovich(Principal Digital PolicySpecialist, Center for Digital Acceleration, UnitedStates), KalliopiTerzidou(Doctoral Researcher, Facultyof Law, Universityof Luxembourg), Giulia Gentile (Assistant Professor, Essex Law School,United Kingdom” . Finalmente , en todas las cartas de entendimiento, Acuerdos para Reglamentaciones Globales, Leyes y demás reglamentos en Latino América, no he encontrado una respuesta a la paradoja que resalto. Sin embargo se han multiplicado las publicaciones, informes, postgrados, congresos, charlas, comentarios sobre la IA y La Justicia, cuando aun no tenemos lo mas importante, como lo señalado de una regulaciones especifica y particular sobre la temática. Seguramente, sin temor a equivocarme, se necesitará una reforma Constitucional, como lo fue cuando se incorporó el Derecho Ambiental como subsistema a nuestro sistema jurídico, una reforma en los códigos Civiles y por supuesto también en los Códigos Procesales Civiles de La Nación Y Provincias. Ante todo este caos, lo llamo así por que existe demasiada información pero nada concreto, pensé simplemente en una Solución que me dio la respuesta a lo que estaba faltando. La presento brevemente. Reglar los derechos y garantías fundamentales del ser Humano no de manera genérica sino especifica y concreta. A la pregunta de ¿como es posible que una persona tome conocimiento que el Tribunal o Juez que dictó la sentencia lo hizo recién al momento en que se anoticia de ella.? Pero acaso no somos el centro, foco, lo más importante a considerar, proteger y amparar frente a la utilización de IA? Así por ejemplo, yendo a una de las razones que al inicio apuntara como la solución tan sencilla y simple para que aceptemos o no una sentencia donde un Juez utillizaría, por las razones y de la manera que fueran a IA Generativa en la construcción de una sentencia, debemos partir de la garantía de juez imparcial, que no son más que los llamados derechos implícitos del art. 33 de la Constitución Nacional y que derivan de las garantías de debido proceso y de la defensa en juicio establecidas en el art. 18 de la Constitución Nacional. También consagrada expresamente en los artículos 26 dla Declaración Americana de los Derechos y Deberes del Hombre, 14.1 del Pacto Internacional de Derechos Civiles y Políticos, 8.1 de la Convención Americana sobre Derechos Humanos, 10 de la Declaración Universal de Derechos en virtud de la incorporación expresa que efectúa el art. 75, inc22 de la Constitución Nacional). Así por ejemplo el artículo 8 de la Convención Americana estipula, en lo pertinente, que “Toda persona tiene derecho a ser oída por un juez o tribunal competente, independiente imparcial”. Ara Los jueces son personas que han sido designados conforme a un procedimiento establecido en nuestra Constitución Nacional, que han sido propuestos por sus antecedentes, formación, capacidad, valores y un proceso de selección específico donde también cuenta la salud y estado psicológico. Soa ellos a quienes, conforme a nuestro sistema de derecho constitucional, recurrimos reclamandouna tutela efectiva en una contienda, conflicto o para poder ejercer un derecho o garantía y serán quienes digan a quien finalmente asiste la razón, debiendo velar para que los derechos y garantías constitucional de todo ser humano dentro del proceso donde se ha puesto en marcha la contienda sean respetados y garantizadosdurante su ejercicio. Entiendo que los sistemas jurídicos de nuestros hermanos de los Países Latino americanos, Perú, Colombia, Chile, Ecuador, México, Uruguay, Paraguay Brasil, Bolivia, etc., disponen de los mismos dispositivos normativos que legislan los derechos y garantías constitucionales a los que hago mención. Tener el Derecho a que un Juez sea imparcial es uno de los pilares en el que se construyó nuestro sistema de garantías, como de defensa en juicio y debido proceso Y ampara a todas las personas cuando tememos que la imparcialidad de una decisión Jurisdiccional pueda ser afectada por hechos objetivos que pueden aparecer o se encuentran dentro del procedimiento, sin cuestionar la personalidad, la honorabilidad, ni la labor particular del magistrado. Algunos sistemas jurídicos lo prevén en las normas procesales en cualquier etapa del proceso, algunos otros ni bien se inicia el proceso. Vayamos de lo general a lo particular. Veremos entonces que aparece el instituto de la recusación, que es justamente un instrumento que esta´dirigido a asegurar la imparcialidad y garantizar un adecuado ejercicio del derecho de defensa –en los términos del art. 18 de la Constitución Nacional; arts. 8.1 de la CADH y 14.1 del PIDCP–, cuando exista temor del Justiciable. Demas esta decir que frente a un subsistema disruptivo como IA, y de lo que se legisle o reglamente con relación a su implementación en el sistema judicial, será necesario de una vez por todas ir de la mano a sancionar dispositivos normativos desde una Visión Económica del Derecho que regulara la IA en la Justicia, recurriendo a las herramientas de la Economía conductual o del comportamiento para predecir o analizar como se conducen las personas cuando tomen decisiones frente a la implementación de la IA Generativa en el sistema Judicial, Por lo que entiendo, que deberá sancionarse en forma conjunta, normas de incentivos para analizar como esta funcionando este subsistema, de manera interdisciplinaria por supuesto integrándola con ideas de la psicología, neurociencia y microeconomía. Solo así, de esta manera se podría abordar seria y científicamente a la IA Generativa en la Justicia, por que los destinatarios son seres humanos. *”Edgar Morin, nos deja aun con sus 102 años, conceptos eternos “La tecnología progresa, el pensamiento retrocede “ “El mundo parece incapaz de avanzar en otro dominio que no sea el científico-técnico. “ Seguramente con la IA aplicada al sistema judicial habrá más cantidad, pero menos calidad. “El Espíritu humano, CUYO único lugar en donde habita ES EN EL SER HUMANO, conciencia de la conciencia, la conciencia del pensamiento, del error, de la incertidumbre, del riesgo, del miedo. Conciencia De las emociones. No se encuentra en otro lugar sino en el Hombre”. (Edgar Morin) Final: En fin, como hace poco leí una publicación, que hasta diría se me viene a la memoria de manera recurrente, tan creativa y ocurrente pero tan reflexiva del doctor Fernando Tome, que me tomo el atrevimiento de reproducirla ….”Yo te avise y vos no me escuchaste.” Doctor Fernando Gómez MorenoNotificar comentario inapropiado
Queremos saber tu opiniónNombreE-mail (no será publicado)ComentarioLA LEY no se hace responsable de las opiniones vertidas en los comentarios. Los comentarios en esta página están moderados, no aparecerán inmediatamente en la página al ser enviados. Evita, por favor, las descalificaciones personales, los comentarios maleducados, los ataques directos o ridiculizaciones personales, o los calificativos insultantes de cualquier tipo, sean dirigidos al autor de la página o a cualquier otro comentarista.
Introduce el código que aparece en la imagencaptcha
Enviar
Scroll