Asimismo, el Convenio Marco establece principios para proteger los derechos humanos, la democracia y el Estado de Derecho, promoviendo también la innovación tecnológica. Complementa las normas internacionales y cubre las lagunas legales causadas por avances tecnológicos. Este convenio se aplicará a sectores público y privado, con exenciones limitadas para seguridad nacional e investigación. Obliga a gestionar riesgos de la IA respetando marcos legales nacionales e internacionales. Además, el convenio fomenta la cooperación, incluso con Estados no ratificantes. Así pues, no es un instrumento aislado, sino un paso crucial hacia una gobernanza de la IA, buscando que todos en la sociedad se beneficien de la IA y reforzando protecciones de derechos humanos, democracia y Estado de Derecho.
Además de los 46 Estados miembros del Consejo de Europa, varios países como Argentina, Australia, Canadá, Costa Rica, Estados Unidos, Israel, Japón, México, Perú, Uruguay y la Santa Sede participaron en las negociaciones, junto con la Unión Europea También participaron otros órganos del Consejo de Europa, la OECD (Organización para la Cooperación y el Desarrollo Económico), OSCE (Organización para la Seguridad y la Cooperación en Europa), UNESCO (Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura) y representantes de la sociedad civil.
Contenido del Convenio
El objetivo del Convenio es garantizar que las actividades durante el ciclo de vida de los sistemas de IA sean plenamente coherentes con los derechos humanos, la democracia y el Estado de Derecho.
Las Partes en el Convenio tendrán que aplicarlo mediante las medidas legislativas, administrativas o de otro tipo adecuadas para dar efecto a sus disposiciones, siguiendo un enfoque gradual y diferenciado, en función de la gravedad y la probabilidad de efectos adversos. El Convenio debe aplicarse exclusivamente en la Unión a través del Reglamento de Inteligencia Artificial (LA LEY 16665/2024), que armoniza plenamente las normas para la comercialización, la puesta en servicio y la utilización de sistemas de IA, así como el acervo vigente de la Unión, cuando proceda.
El ámbito de aplicación del Convenio abarca los sistemas de IA que pueden interferir en los derechos humanos, la democracia y el Estado de Derecho, siguiendo un enfoque diferenciado. Los principios y las obligaciones previstos en el Convenio se aplicarán a las actividades dentro del ciclo de vida de los sistemas de IA realizadas por autoridades públicas o agentes privados que actúen en su nombre. En cuanto al sector privado, las Partes están obligadas a abordar los riesgos e impactos derivados de las actividades realizadas por agentes privados durante el ciclo de vida de los sistemas de IA de manera acorde con el objeto y la finalidad del Convenio, pero tienen la opción de aplicar las obligaciones del Convenio o de adoptar otras medidas adecuadas. Las Partes deberán hacer una declaración sobre la elección que hagan a este respecto en el momento de la firma del Convenio o de su adhesión al mismo. Al celebrar el Convenio, la Unión debe emitir una declaración en la que certifique que la Unión, a través del Reglamento de Inteligencia Artificial (LA LEY 16665/2024) y de otro acervo pertinente de la Unión, aplicará los principios y obligaciones establecidos en los capítulos II a VI del Convenio a las actividades de los agentes privados que comercialicen, pongan en servicio y utilicen sistemas de IA en la Unión.
Las actividades de IA relacionadas con la seguridad nacional están excluidas del ámbito de aplicación del Convenio, entendiéndose que, en cualquier caso, deben realizarse de forma coherente con el Derecho internacional aplicable en materia de derechos humanos y con el respeto de las instituciones y los procesos democráticos. El Convenio también excluye las actividades de investigación y desarrollo relativas a sistemas de IA que aún no se hayan puesto a disposición para su uso, a menos que las actividades de prueba o similares puedan interferir con los derechos humanos, la democracia y el Estado de Derecho. De conformidad con el Estatuto del Consejo de Europa, las cuestiones relativas a la defensa nacional no entran en el ámbito de aplicación del Convenio.
Por otro lado, el Convenio establece un conjunto de obligaciones generales y principios fundamentales, incluida la protección de la dignidad humana y la autonomía individual, así como la promoción de la igualdad y la no discriminación. Además, exige el respeto de la privacidad y la protección de los datos personales, junto con la transparencia y la supervisión, para garantizar la rendición de cuentas y la responsabilidad. Un principio también se dedica a la innovación segura y a la experimentación en entornos controlados.
Un capítulo específico sobre las vías de recurso también prevé un conjunto de medidas destinadas a garantizar la disponibilidad de vías de recurso accesibles y eficaces para las violaciones de los derechos humanos derivadas de las actividades durante el ciclo de vida de los sistemas de IA. También incluye garantías procesales y salvaguardias efectivas para las personas cuyos derechos se hayan visto significativamente afectados por el uso de dichos sistemas. Además, debe informarse a las personas de que están interactuando con un sistema de IA y no con un ser humano.
El Convenio también incluye un capítulo sobre medidas para la evaluación y mitigación de los riesgos y efectos adversos, que deben aplicarse con continuidad, a fin de identificar los efectos reales y potenciales sobre los derechos humanos, la democracia y el Estado de Derecho y adoptar las medidas adecuadas de prevención y mitigación.
El Convenio establece que las Partes deben evaluar la necesidad de prohibiciones o moratorias para determinadas aplicaciones de sistemas de IA considerados incompatibles con el respeto de los derechos humanos, el funcionamiento de la democracia o el Estado de Derecho.
El Convenio establece un mecanismo de seguimiento en el seno de una Conferencia de las Partes, compuesta por representantes de las Partes, que se consultarán periódicamente con el fin de facilitar el uso y la aplicación efectivos del Convenio. También prevé un mecanismo de cooperación internacional tanto entre las Partes como en las relaciones con terceros países y las partes interesadas pertinentes, a fin de alcanzar el objetivo del Convenio.
Cada Parte debe establecer o designar a nivel nacional uno o varios mecanismos eficaces para supervisar el cumplimiento de las obligaciones establecidas en el Convenio, tal como hayan sido aplicadas por las Partes.
Decisión del Consejo de la Unión Europea
De acuerdo con el Consejo
El 12 de junio de 2024, la Unión adoptó el Reglamento (UE) 2024/... (en lo sucesivo, «Reglamento de Inteligencia Artificial (LA LEY 16665/2024)») 27, principalmente sobre la base del artículo 114 del TFUE (LA LEY 6/1957), que establece normas plenamente armonizadas que regulan la comercialización, la puesta en servicio y la utilización de sistemas de IA en la Unión que sean directamente aplicables en los Estados miembros, a menos que el Reglamento disponga expresamente otra cosa. El Convenio debe aplicarse en la Unión exclusivamente a través del Reglamento sobre IA y de otro acervo pertinente de la Unión, cuando proceda.
Teniendo en cuenta que el ámbito de aplicación personal y material del Convenio coincide con el del Reglamento de Inteligencia Artificial (LA LEY 16665/2024), la celebración del Convenio puede afectar a normas comunes de la Unión o alterar su ámbito de aplicación en el sentido del artículo 3, apartado 2, del TFUE (LA LEY 6/1957). Por consiguiente, la Unión goza de competencia externa exclusiva para firmar el Convenio y, por ello, solo la Unión debe convertirse en Parte en el Convenio, a reserva de su celebración en una fecha posterior.
De conformidad con los Tratados, corresponde a la Comisión Europea garantizar la firma del Convenio, a reserva de su celebración en una fecha posterior.
Ha adoptado la presente solución:
Artículo 1
Se aprueba, en nombre de la Unión, la firma del Convenio Marco del Consejo de Europa sobre inteligencia artificial, derechos humanos, democracia y Estado de Derecho (en lo sucesivo, «el Convenio»), a reserva de la celebración de dicho Convenio.