Cargando. Por favor, espere

Portada

Carlos B Fernández. El Consejo de Europa ha adoptado el “Convenio Marco del Consejo de Europa sobre Inteligencia Artificial y derechos humanos, democracia y Estado de derecho”, se trata del primer tratado internacional jurídicamente vinculante destinado a garantizar el respeto de los derechos humanos, del Estado de derecho y las normas jurídicas democráticas en el uso de los sistemas de inteligencia artificial (IA).

El Convenio ha sido adoptado en Estrasburgo durante la reunión ministerial anual del Comité de Ministros del Consejo de Europa, que reúne a los ministros de Asuntos Exteriores de los 46 Estados miembros del Consejo de Europa.

El tratado, que también está abierto a países no europeos, establece un marco jurídico que abarca todo el ciclo de vida de los sistemas de IA y que se ocupa de los riesgos que pueden plantear, a la vez que promueve la innovación responsable. El convenio adopta un enfoque basado en el riesgo para diseñar, desarrollar, usar y decomisar sistemas de IA, que exige considerar cuidadosamente cualquier posible consecuencia negativa del uso de sistemas de IA.

El convenio es el resultado de dos años de trabajo de un órgano intergubernamental, el Comité sobre Inteligencia Artificial (CAI por sus siglas en inglés), que reunió para redactar el tratado a los 46 Estados miembros del Consejo de Europa, la Unión Europea y 11 Estados no miembros (Argentina, Australia, Canadá, Costa Rica, Estados Unidos, Israel, Japón, México, Perú, la Santa Sede y Uruguay), así como a representantes del sector privado, la sociedad civil y el mundo académico, que participaron como observadores.

El tratado cubre el uso de sistemas de Inteligencia Artificial en el sector público -incluidas las compañías que actúan en su nombre- y en el sector privado. El convenio ofrece a las partes dos formas de cumplir sus principios y obligaciones a la hora de regular el sector privado: las partes pueden optar por quedar obligadas directamente por las disposiciones pertinentes del convenio o, como alternativa, adoptar otras medidas para cumplir con las disposiciones del tratado a la vez que se respetan plenamente sus obligaciones en materia de derechos humanos, democracia y Estado de derecho. Este enfoque es necesario dadas las diferencias entre los sistemas jurídicos de todo el mundo.

El convenio establece requisitos de transparencia y supervisión adaptados a contextos y riesgos específicos, incluida la identificación de contenidos generados por sistemas de IA. Las partes tendrán que adoptar medidas para identificar, evaluar, prevenir y mitigar posibles riesgos y evaluar la necesidad de una moratoria, una prohibición u otras medidas apropiadas en relación con el uso de sistemas de IA, cuando sus riesgos puedan ser incompatibles con las normas de los derechos humanos. También tendrán que garantizar la rendición de cuentas y la responsabilidad por el impacto negativo, y que los sistemas de IA respeten la igualdad, incluida la igualdad de género, la prohibición de la discriminación y el derecho a la intimidad.

Además, las partes del tratado tendrán que garantizar la disponibilidad de recursos legales para las víctimas de violaciones de los derechos humanos relacionadas con el uso de sistemas de IA y de garantías procesales, incluida la notificación a todas las personas que interactúen con sistemas de IA de que están interactuando con estos sistemas. En cuanto a los riesgos para la democracia, el tratado requiere a las partes que adopten medidas para garantizar que los sistemas de IA no se utilicen para minar las instituciones y procesos democráticos, incluido el principio de separación de poderes, el respeto de la independencia judicial y el acceso a la justicia.

Las partes del convenio no estarán obligadas a aplicar las disposiciones del tratado a las actividades relacionadas con la protección de los intereses de la seguridad nacional, pero sí a garantizar que estas actividades respetan el derecho internacional y las instituciones y procesos democráticos. El convenio no se aplicará a asuntos de defensa nacional ni actividades de investigación y desarrollo, excepto cuando las pruebas de los sistemas de IA puedan interferir potencialmente con los derechos humanos, la democracia o el Estado de derecho. Para garantizar su aplicación efectiva, el convenio establece un mecanismo de seguimiento en forma de Conferencia de las Partes.

Por último, el convenio exige que cada parte establezca un mecanismo de supervisión independiente para vigilar que se cumple con el convenio, que se sensibilice y estimule un debate público informado, y que se lleven a cabo consultas con múltiples partes interesadas sobre cómo debería ser utilizada la tecnología de la IA. El convenio marco se abrirá a la firma en Vilna (Lituania) el 5 de septiembre, coincidiendo con una conferencia de ministros de Justicia.

Estructura y contenido

El convenio presenta la siguiente estructura:

I. Introducción

II. Comentario al preámbulo y a las disposiciones del Convenio Marco

Preámbulo

Capítulo I. Disposiciones generales

Artículo 1. Objeto y fin

Artículo 2. Sistemas de inteligencia artificial

Artículo 3. Alcance

Capítulo II. Obligaciones generales

Artículo 4. Protección de los derechos humanos

Artículo 5. Integridad de los procesos democráticos y respeto del Estado de derecho

Capítulo III. Principios relacionados con las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial

Artículo 6. Orientación general

Artículo 7. Dignidad humana y autonomía individual

Artículo 8. Transparencia y supervisión

Artículo 9. Rendición de cuentas y responsabilidad

Artículo 10. Igualdad y no discriminación

Artículo 11. Privacidad y protección de datos personales

Artículo 12. Confiabilidad

Artículo 13. Innovación segura

Capítulo IV. Recursos

Artículo 14. Recursos

Artículo 15. Garantías procesales

Capítulo V. Evaluación y Mitigación de Riesgos e Impactos Adversos

Artículo 16. Marco de gestión de riesgos e impactos

Capítulo VI. Aplicación de la Convención

Artículo 17. No discriminación

Artículo 18. Derechos de las personas con discapacidad y de los niños

Artículo 19. Consulta pública

Artículo 20. Alfabetización y competencias digitales

Artículo 21. Salvaguardia de los derechos humanos existentes

Artículo 22. Protección más amplia

Capítulo VII. Mecanismo de seguimiento y cooperación

Artículo 23. Conferencia de las Partes

Artículo 24. Obligación de informar

Artículo 25. Cooperación internacional

Artículo 26. Mecanismos de supervisión eficaces

Capítulo VIII. Cláusulas finales

Artículo 27. Efectos del Convenio

Artículo 28. Enmiendas

Artículo 29. Solución de controversias

Artículo 30. Firma y entrada en vigor

Artículo 31. Adhesión

Artículo 32. Aplicación territorial

Artículo 33. Cláusula federal

Artículo 34. Reservas

Artículo 35. Denuncia

Artículo 36. Notificación

La secretaria general del Consejo de Europa, Marija Pejčinović, ha declarado: “el Convenio Marco sobre Inteligencia Artificial es el primer tratado mundial de este tipo que garantizará que la Inteligencia Artificial respete los derechos de las personas. Es un respuesta a la necesidad de una norma jurídica internacional, respaldada por Estados de distintos continentes que comparten los mismos valores, para aprovechar los beneficios de la Inteligencia Artificial, a la vez que se mitigan sus riesgos. Con este nuevo tratado, pretendemos garantizar un uso responsable de la IA que respete los derechos humanos, el Estado de derecho y la democracia”.

Scroll