Carlos B Fernández. El grupo de trabajo sobre Inteligencia Artificial del Colegio de Abogados de Nueva York (NYSBA Task Force on Artificial Intelligence) ha presentado recientemente un informe con recomendaciones sobre impacto legal, social y ético de la Inteligencia Artificial y la Inteligencia Artificial generativa en el ejercicio profesional (Report and Recommendations of the New York State Bar Association Task Force on Artificial Intelligence).
Este documento se suma a los ya publicados por otras instituciones sobre el mismo tema, de los que podemos destacar los publicados por el Colegio de Abogados de California; por la Task Force sobre Uso Responsable de la IA Generativa AI y sobre casos y políticas de uso de la IA generativa por abogados, del MIT Law y la Guía "A Supervisory AI Agent Approach to Responsible Use of GenAI in the Legal Profession" del Centro CodEX de la Stanford Law School.
Este informe se estructura en cinco partes: 1) la evolución de la IA y la IA generativa; 2) los beneficios y riesgos del uso de la IA y la IA generativa; 3) el impacto de la tecnología en la profesión jurídica; 4) recomendaciones legislativas y, 5) propuesta de directrices.
Su idea de partida es que la IA y, en particular, la IA generativa, han tenido un profundo impacto en múltiples sectores de nuestra sociedad, revolucionando nuestra forma de abordar la creatividad, la resolución de problemas y la automatización. Desde el arte y el entretenimiento hasta la sanidad y la educación, la IA está reconfigurando las industrias, la creatividad y la sociedad de múltiples maneras. Aunque la IA y la IA generativa ofrecen un inmenso potencial de innovación y eficiencia, también presenta retos que requieren una gestión cuidadosa, como consideraciones éticas, problemas de privacidad e impacto laboral. La continua evolución de la IA generativa promete seguir influyendo en el mundo de formas sin precedentes.
Teniendo en cuenta el continuo impacto revolucionario de la tecnología, el Grupo de Trabajo asumió el reto de evaluar su evolución, beneficios y riesgos, así como su impacto en la profesión jurídica.
De forma intencionada, el informe no ofrece "conclusiones" definitivas. Su propuesta es que, a medida que la IA siga evolucionando, también lo hará el trabajo de la Task Force y de los grupos encargados de la supervisión continua de las directrices que se proponen. En este sentido, señalan, “Comparamos este viaje con la mentalidad de los antiguos exploradores: ser cautelosos, curiosos, vigilantes y valientes”.
CONCLUSIONES
Con todo, sus principales conclusiones ejecutivas se resumen como sigue:
1. Necesidad de adoptar unas directrices sobre el uso de la IA
El Grupo de Trabajo recomienda que la NYSBA adopte las directrices de IA/AI Generativa descritas en este informe y encargue a una sección o comité permanente la supervisión de la actualización periódica de dichas directrices.
2. Centrarse en la formación de los profesionales
El Grupo de Trabajo recomienda que la NYSBA priorice la formación y no solo la regulación, centrándose en formar a jueces, abogados, estudiantes de derecho y reguladores para que entiendan la tecnología y puedan aplicar la ley que se elabore para regularla.
3. Identificar los riesgos para una nueva regulación
Los órganos reguladores deben identificar los riesgos asociados con esta tecnología que no se abordan en las leyes ya existentes, lo que probablemente implicará extensas audiencias y estudios con la participación de expertos en IA, y según sea necesario, adoptar una normativa específica para hacer frente a esos riesgos.
4. Examinar la función de la regulación en la gobernanza de la IA
El rápido avance de la IA lleva a examinar la función de la ley como herramienta de gobernanza. En este contexto, algunas de las funciones que se identifican como clave del Derecho en el contexto de la IA son: i) expresar los valores sociales y reforzar los principios fundamentales de la sociedad; ii) proteger frente a los riesgos que se planteen para dichos valores y principios; y iii) estabilizar la sociedad y aumentar la seguridad jurídica.
BENEFICIOS Y RIESGOS DEL USO DE LA AI Y LA AI GENERATIVA
En documento realiza un amplio análisis de los beneficios y riesgos que plantea el uso de la IA y de la IA generativa, en particular en el ámbito legal.
1. Beneficios
En cuanto a los beneficios, se subraya que la IA ha hecho proliferar una amplia gama de tareas y experiencias humanas en los últimos 70 años. Desde que John McCarthy acuñó el término en 1956, el concepto de inteligencia artificial ha evolucionado desde la reproducción y sustitución de la cognición humana hasta la "inteligencia aumentada", que amplifica y optimiza el intelecto humano.
Utilizada para estos fines (es decir, para amplificar y optimizar la inteligencia humana), el aprendizaje automático y la IA ayudan a poner orden en el caótico caudal de información al que se enfrentan las personas hoy en día. En teoría, esto permite a los humanos dedicar más tiempo a tareas creativas y de gran valor.
De esta manera, hoy en día, casi todos los aspectos de la existencia humana se ven afectados de alguna manera por el aprendizaje automático o la IA. Desde la forma en que compramos o interactuamos como humanos hasta el tratamiento médico y la logística de la cadena de suministro, es difícil exagerar la amplitud del impacto de la IA en la existencia humana, que puede estar oculta a plena vista. Una gran parte de esta proliferación está impulsada por la riqueza de beneficios en términos de precisión, velocidad y capacidad que ofrece la tecnología impulsada por la IA.
En términos generales, se puede apreciar un considerable número de beneficios generales aportados por la IA, y la lista crece día a día. Entre ellos cabe destacar que la IA: i) realiza eficazmente tareas repetitivas; ii) reduce los errores humanos; iii) aumenta la eficiencia; y iv) aumenta la inteligencia humana.
En lo que respecta específicamente al sector jurídico, la IA tiene el potencial de facilitar un mayor acceso a la justicia. La representación legal en un asunto civil está fuera del alcance del 92% de los 50 millones de estadounidenses que viven por debajo del 125% del umbral de pobreza.48 En todo el mundo, se calcula que hay 5.000 millones de personas con necesidades de justicia insatisfechas. La brecha de la justicia entre el acceso a los servicios jurídicos y las necesidades legales insatisfechas constituye dos tercios de la población mundial, y estas necesidades de justicia abarcan desde asuntos legales menores hasta injusticias más graves. La tecnología impulsada por la IA ha bajado el listón para que muchas comunidades desatendidas puedan acceder a la orientación jurídica. Además, la IA se ha anunciado como una solución para cerrar la "brecha de la justicia". El aumento de la eficiencia, la precisión y la capacidad de las poblaciones desfavorecidas para aprovechar los recursos jurídicos de autoservicio contribuyen a este beneficio. Las tecnologías impulsadas por la IA pueden permitir a la población desatendida con acceso a Internet o a las personas con fondos limitados acceder a guías de bajo coste o gratuitas para navegar por las complejidades del sistema judicial. Los bots de chat generativos impulsados por la IA se sitúan ahora en la línea del ejercicio no autorizado de la abogacía, ofreciendo servicios jurídicos de gran volumen y bajo coste sin intervención humana en ámbitos como los tribunales de tráfico e inmigración, entre otros.
2. Riesgos
Como contrapunto a los beneficios transformadores de la IA, la prensa y los medios de comunicación afirman de forma igualmente dramática que la IA plantea importantes riesgos económicos, éticos y existenciales.
Algunos ejemplos clave de los riesgos que plantea la aplicación de la IA en el ámbito jurídico son:
- Ampliación de la brecha de la justicia
Mientras que muchos proclaman que la IA es la solución para la democratización de la justicia, un contingente igualmente poderoso afirma que la IA puede crear un "sistema jurídico de dos niveles". Algunos anticipan que las personas de comunidades desatendidas o con medios económicos limitados se verán relegadas a una tecnología inferior impulsada por la IA.
Además, el desarrollo de dicha tecnología debería reconocer que muchas poblaciones actualmente desatendidas por la representación legal pueden tener obstáculos agravados para acceder a los beneficios que la IA puede aportar a otros, entre los que se incluyen:
- Falta de acceso a ordenadores/Internet
- Limitada facilidad/alfabetización en el uso de la IA
- Un alto nivel de desconfianza en las instituciones gubernamentales, en la ley como herramienta que opera para protegerles, en la aplicación de la ley como influencia positiva y/o en los profesionales del derecho como personas disponibles para ayudar.
Otros riesgos identificados son los relativos a la privacidad de los datos; la seguridad de la información; aspectos sociales y éticos, como que los algoritmos de IA se utilicen para perpetuar y amplificar los prejuicios sociales; la elaboración y difusión de desinformación; el impacto económico y los retos legales y normativos, incluyendo la pérdida de control humano sobre la toma de decisiones que afecten a las personas.
DIRECTRICES SOBRE EL USO DE LA IA Y LA IA GENERATIVA POR LOS PROFESIONALES DE LA ABOGACÍA
El informe asocia estas directrices a diferentes posibles cuestiones relacionadas con el uso de la tecnología, como sigue:
1. Exigencia de competencia del profesional
El abogado debe ofrecer un asesoramiento competente a su cliente. Esto implica el deber de entender los beneficios, riesgos e implicaciones éticas asociadas a la utilización de estas herramientas, incluyendo su uso para las comunicaciones, la publicidad, la búsqueda y redacción jurídicas.
2. Alcance del asesoramiento
El abogado está vinculado por la voluntad del cliente en cuanto al objeto del asesoramiento que recaba, por lo que debe consultar con el mismo los medios por los que dicho asesoramiento deberá ser prestado.
Por ello se aconseja incluir en la hoja de encargo profesional la declaración de que para la realización del trabajo encomendado se podrá recurrir al uso de estas tecnologías, y obtener el el consentimiento del cliente para ello.
3. Deber de diligencia
El abogado debe actuar con una diligencia y una prontitud razonables en el asesoramiento de su cliente.
Por ello, se aconseja que el profesional valore si el uso de estas herramientas va a contribuir al logro de esa exigencia.
4. Deber de información
El abogado debe facilitar al cliente, con la amplitud razonablemente necesaria, la información que le permita adoptar una decisión informada en relación con el asesoramiento solicitado.
Aunque las herramientas inteligentes pueden ayudar al profesional a la generación de documentos o respuestas en su comunicación con el cliente, el abogado se debe asegurar de mantener una comunicación directa y efectiva con el cliente, sin confiar esta exclusivamente a dichas herramientas.
5. Honorarios
El abogado no debe establecer honorarios, o repercutir a su cliente gastos, excesivos o ilegales por la prestación de sus servicios.
Si estas herramientas van a hacer sustancialmente más eficiente el trabajo realizado por el profesional para su cliente, su uso (o no uso), debe ser tenido en cuenta para valorar la razonabilidad de los honorarios aplicados al cliente. En caso de que se vaya a aplicar un sobreprecio por su empleo, deberá hacerse constar claramente esta circunstancia en la hoja de encargo profesional y mantener un volumen total de honorarios razonable.
6. Confidencialidad
El abogado no debe, conscientemente, revelar información confidencial de su cliente.
Siempre que se utilicen estas herramientas, el profesional debe adoptar las precauciones necesarias para proteger la información sensible facilitada por el cliente y asegurarse de que las mismas no comprometan la obligación de confidencialidad.
Incluso en el caso de que el cliente haya facilitado al abogado su consentimiento informado para la introducción de su información confidencial en alguna de estas herramientas, el profesional se debe asegurar de que el proveedor de la herramienta va a proteger esa información y que va a mantener separada la información de cada cliente. Adicionalmente, el profesional deberá mantenerse regularmente informado de cualquier cambio que pueda comprometer dicha confidencialidad.
7. Conflictos de intereses
El abogado no debe asesorar a un cliente si puede concluir razonablemente que dicho asesoramiento puede obligarle a defender intereses contrapuestos.
El uso de herramientas inteligentes en algunos asuntos concretos puede implicar el riesgo potencial de comprometer el deber de lealtad con el cliente, creando un conflicto de intereses con otro. Por ello, el abogado tiene el deber de identificar esta circunstancia y, si es necesario, cuidarse de obtener el consentimiento del cliente, en relación con los conflictos de intereses que puedan plantearse por la utilización de este tipo de herramientas.
8. Deber de supervisión de otros abogados
El abogado que tenga competencias de supervisión sobre el trabajo de otro abogado, debe realizar un esfuerzo razonable para asegurarse de que este último cumple con las normas éticas de la profesión cuando utilice este tipo de herramientas.
9. Deber de cumplimiento de los abogados dependientes
El abogado está legalmente obligado a respetar las normas éticas de la profesión también cuando actúe bajo la dirección de otro y utilice estas herramientas, ya que todas las reglas establecidas por estas directrices le son igualmente aplicables.
10. Responsabilidad sobre el trabajo del personal auxiliar
Un despacho profesional debe asegurarse de que el trabajo del personal no jurídico que trabaja para la firma y utiliza estas herramientas (o que las herramientas utilizadas son consideradas en sí mismos como paralegales) es debidamente supervisado y validado.
En particular, se debe comprobar que el contenido generado por esas herramientas es preciso y completo, y no revela o genera el riesgo de que se revele información confidencial de un cliente, sin el consentimiento informado de este.
11. Independencia profesional
El abogado no debe permitir a otros dirigir o controlar su criterio profesional en la prestación de su asesoramiento.
Aunque estas herramientas no pueden ser consideradas estrictamente como tercero a estos efectos, el profesional debe abstenerse de confiar exclusivamente en ellas, o en el resultado ofrecido por las mismas, para proporcionar un asesoramiento jurídico, debiendo mantener su independencia de criterio al respecto.
12. Intrusismo profesional
Un abogado no puede ayudar a quien no ostente esa condición en la práctica intrusiva del Derecho, por medio del uso de estas herramientas. Estas podrán mejorar, pero no sustituir, el trabajo de un profesional.
13. Prestación voluntaria de servicios pro bono
Se anima fuertemente a los abogados a aumentar su oferta de servicios pro bono en beneficio de personas carentes de recursos, por medio del uso de estas herramientas.
14. Publicidad
Un abogado o despacho profesional no debe utilizar, participar o colaborar en la difusión de publicidad que: 1) realiza afirmaciones o anuncios de contenido falso, engañoso o equívocos, o 2) que violen una obligación ética.
El profesional es responsable de todos los contenidos que se publiciten, incluido el generado por este tipo de herramientas.
En particular, se debe velar por respetar las normas éticas en relación para evitar la publicidad engañosa.
15. Búsqueda o recomendaciones de empleo
Un abogado no debe implicarse, ni en persona ni mediante comunicación telefónica, ni por medio de comunicaciones interactivas automatizadas, en la captación de clientes o la búsqueda de trabajo.
No se deben utilizar estas herramientas para generar automatizadamente llamadas telefónicas publicitarias, ni envíos de otras comunicaciones publicitarias automatizadas, ni se debe contratar a terceros para que las realicen.