Carlos B Fernández. El Consejo de Europa ha adoptado el “Convenio Marco del Consejo de Europa sobre Inteligencia Artificial y derechos humanos, democracia y Estado de derecho”, se trata del primer tratado internacional jurídicamente vinculante destinado a garantizar el respeto de los derechos humanos, del Estado de derecho y las normas jurídicas democráticas en el uso de los sistemas de inteligencia artificial (IA).
El Convenio ha sido adoptado en Estrasburgo durante la reunión ministerial anual del Comité de Ministros del Consejo de Europa, que reúne a los ministros de Asuntos Exteriores de los 46 Estados miembros del Consejo de Europa.
El tratado, que también está abierto a países no europeos, establece un marco jurídico que abarca todo el ciclo de vida de los sistemas de IA y que se ocupa de los riesgos que pueden plantear, a la vez que promueve la innovación responsable. El convenio adopta un enfoque basado en el riesgo para diseñar, desarrollar, usar y decomisar sistemas de IA, que exige considerar cuidadosamente cualquier posible consecuencia negativa del uso de sistemas de IA.
El convenio es el resultado de dos años de trabajo de un órgano intergubernamental, el Comité sobre Inteligencia Artificial (CAI por sus siglas en inglés), que reunió para redactar el tratado a los 46 Estados miembros del Consejo de Europa, la Unión Europea y 11 Estados no miembros (Argentina, Australia, Canadá, Costa Rica, Estados Unidos, Israel, Japón, México, Perú, la Santa Sede y Uruguay), así como a representantes del sector privado, la sociedad civil y el mundo académico, que participaron como observadores.
El tratado cubre el uso de sistemas de Inteligencia Artificial en el sector público -incluidas las compañías que actúan en su nombre- y en el sector privado. El convenio ofrece a las partes dos formas de cumplir sus principios y obligaciones a la hora de regular el sector privado: las partes pueden optar por quedar obligadas directamente por las disposiciones pertinentes del convenio o, como alternativa, adoptar otras medidas para cumplir con las disposiciones del tratado a la vez que se respetan plenamente sus obligaciones en materia de derechos humanos, democracia y Estado de derecho. Este enfoque es necesario dadas las diferencias entre los sistemas jurídicos de todo el mundo.
El convenio establece requisitos de transparencia y supervisión adaptados a contextos y riesgos específicos, incluida la identificación de contenidos generados por sistemas de IA. Las partes tendrán que adoptar medidas para identificar, evaluar, prevenir y mitigar posibles riesgos y evaluar la necesidad de una moratoria, una prohibición u otras medidas apropiadas en relación con el uso de sistemas de IA, cuando sus riesgos puedan ser incompatibles con las normas de los derechos humanos. También tendrán que garantizar la rendición de cuentas y la responsabilidad por el impacto negativo, y que los sistemas de IA respeten la igualdad, incluida la igualdad de género, la prohibición de la discriminación y el derecho a la intimidad.
Además, las partes del tratado tendrán que garantizar la disponibilidad de recursos legales para las víctimas de violaciones de los derechos humanos relacionadas con el uso de sistemas de IA y de garantías procesales, incluida la notificación a todas las personas que interactúen con sistemas de IA de que están interactuando con estos sistemas. En cuanto a los riesgos para la democracia, el tratado requiere a las partes que adopten medidas para garantizar que los sistemas de IA no se utilicen para minar las instituciones y procesos democráticos, incluido el principio de separación de poderes, el respeto de la independencia judicial y el acceso a la justicia.
Las partes del convenio no estarán obligadas a aplicar las disposiciones del tratado a las actividades relacionadas con la protección de los intereses de la seguridad nacional, pero sí a garantizar que estas actividades respetan el derecho internacional y las instituciones y procesos democráticos. El convenio no se aplicará a asuntos de defensa nacional ni actividades de investigación y desarrollo, excepto cuando las pruebas de los sistemas de IA puedan interferir potencialmente con los derechos humanos, la democracia o el Estado de derecho. Para garantizar su aplicación efectiva, el convenio establece un mecanismo de seguimiento en forma de Conferencia de las Partes.
Por último, el convenio exige que cada parte establezca un mecanismo de supervisión independiente para vigilar que se cumple con el convenio, que se sensibilice y estimule un debate público informado, y que se lleven a cabo consultas con múltiples partes interesadas sobre cómo debería ser utilizada la tecnología de la IA. El convenio marco se abrirá a la firma en Vilna (Lituania) el 5 de septiembre, coincidiendo con una conferencia de ministros de Justicia.
Estructura y contenido
El convenio presenta la siguiente estructura:
I. Introducción
II. Comentario al preámbulo y a las disposiciones del Convenio Marco
Preámbulo
Capítulo I. Disposiciones generales
Artículo 1. Objeto y fin
Artículo 2. Sistemas de inteligencia artificial
Artículo 3. Alcance
Capítulo II. Obligaciones generales
Artículo 4. Protección de los derechos humanos
Artículo 5. Integridad de los procesos democráticos y respeto del Estado de derecho
Capítulo III. Principios relacionados con las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial
Artículo 6. Orientación general
Artículo 7. Dignidad humana y autonomía individual
Artículo 8. Transparencia y supervisión
Artículo 9. Rendición de cuentas y responsabilidad
Artículo 10. Igualdad y no discriminación
Artículo 11. Privacidad y protección de datos personales
Artículo 12. Confiabilidad
Artículo 13. Innovación segura
Capítulo IV. Recursos
Artículo 14. Recursos
Artículo 15. Garantías procesales
Capítulo V. Evaluación y Mitigación de Riesgos e Impactos Adversos
Artículo 16. Marco de gestión de riesgos e impactos
Capítulo VI. Aplicación de la Convención
Artículo 17. No discriminación
Artículo 18. Derechos de las personas con discapacidad y de los niños
Artículo 19. Consulta pública
Artículo 20. Alfabetización y competencias digitales
Artículo 21. Salvaguardia de los derechos humanos existentes
Artículo 22. Protección más amplia
Capítulo VII. Mecanismo de seguimiento y cooperación
Artículo 23. Conferencia de las Partes
Artículo 24. Obligación de informar
Artículo 25. Cooperación internacional
Artículo 26. Mecanismos de supervisión eficaces
Capítulo VIII. Cláusulas finales
Artículo 27. Efectos del Convenio
Artículo 28. Enmiendas
Artículo 29. Solución de controversias
Artículo 30. Firma y entrada en vigor
Artículo 31. Adhesión
Artículo 32. Aplicación territorial
Artículo 33. Cláusula federal
Artículo 34. Reservas
Artículo 35. Denuncia
Artículo 36. Notificación
La secretaria general del Consejo de Europa, Marija Pejčinović, ha declarado: “el Convenio Marco sobre Inteligencia Artificial es el primer tratado mundial de este tipo que garantizará que la Inteligencia Artificial respete los derechos de las personas. Es un respuesta a la necesidad de una norma jurídica internacional, respaldada por Estados de distintos continentes que comparten los mismos valores, para aprovechar los beneficios de la Inteligencia Artificial, a la vez que se mitigan sus riesgos. Con este nuevo tratado, pretendemos garantizar un uso responsable de la IA que respete los derechos humanos, el Estado de derecho y la democracia”.