Carlos B Fernández. Tras la primera lectura del Borrador Cero revisado de la propuesta de Convenio Internacional sobre Inteligencia Artificial (IA), el Presidente del Comité de Inteligencia Artificial (CAI) del Consejo de Europa ha preparado, con la ayuda de la Secretaría, un Borrador de Trabajo Consolidado (Consolidated working draft of the Framework Convention on artificial intelligence, human rights, democracy and the rule of law) que debe servir de base para las futuras negociaciones del Convenio Marco.
Según explica Thomas Schneider, presidente del CAI, “dado que la IA se desarrolla y utiliza más allá de las fronteras, tiene sentido desarrollar un enfoque global común sobre los principios básicos que deben regir la forma en que nosotros, como humanidad, desarrollamos y utilizamos los sistemas de IA”.
En consecuencia, el Comité de Ministros del Consejo encargó al CAI la elaboración de un instrumento jurídicamente vinculante sobre el desarrollo, el diseño y la aplicación de sistemas de IA basado en las normas del Consejo de Europa sobre derechos humanos, democracia y Estado de Derecho, a partir de dichos principios básicos. Al mismo tiempo, el instrumento deberá favorecer la innovación.
Este Convenio Marco, precisa Schneider, “se centrará en garantizar la aplicación continua y sin fisuras de los derechos humanos y del principio del Estado de Derecho en contextos en los que los sistemas de IA ayuden o sustituyan a la toma de decisiones humana o realicen otras tareas pertinentes en dichos contextos. Además, los sistemas de IA sólo se utilizarán de manera que no pongan en peligro ni socaven, directa o indirectamente, los procesos democráticos”.
El borrador consta de 34 artículos, agrupados en 8 Capítulos: Disposiciones generales; Obligaciones generales; Principios de diseño, desarrollo, uso y retirada del mercado de sistemas de IA; Recursos; Valoración y mitigación de riesgos y consecuencias adversas; Implementación del Convenio; Mecanismo de seguimiento y cooperación y Disposiciones finales.
Objeto y finalidad
Según el artículo 1 del borrador, el Convenio establece principios y obligaciones destinados a garantizar que el diseño, desarrollo, utilización y desmantelamiento de los sistemas de inteligencia artificial sean plenamente compatibles con el respeto de la dignidad humana y la autonomía individual, los derechos humanos y las libertades fundamentales, el funcionamiento de la democracia y la observancia del Estado de Derecho.
Para ello, plantea aplicar un enfoque basado en el riesgo que pueda provocar el uso de estos sistemas. De esta manera, el texto establece que, a fin de dar pleno efecto a los principios y obligaciones establecidos en el mismo, cada Parte firmante mantendrá y adoptará en su ordenamiento jurídico interno las medidas graduadas y diferenciadas que sean necesarias y apropiadas en vista de la gravedad y probabilidad de ocurrencia de impactos adversos sobre los derechos humanos y las libertades fundamentales, la democracia y la democracia y el Estado de Derecho durante el diseño, el desarrollo, la utilización y el desmantelamiento de los sistemas de inteligencia artificial.
Concepto de sistemas de inteligencia artificial
El artículo 3 del borrador, señala que, a los efectos del presente Convenio, por "sistema de inteligencia artificial" se entenderá cualquier sistema algorítmico o combinación de tales sistemas, que utilice métodos computacionales derivados de la estadística u otras técnicas matemáticas, capaces de generar textos, sonidos, imágenes u otros contenidos, o que asiste o reemplace la toma de decisiones humana.
Cuando resulte necesario, esta definición podrá ser adaptada al progreso técnico por las Partes.
Ámbito de aplicación
El Convenio se aplicará al diseño, desarrollo, utilización y desmantelamiento de sistemas de inteligencia artificial que puedan interferir en el respeto de los derechos humanos y las libertades humanos y las libertades fundamentales, el funcionamiento de la democracia y la observancia del Estado de Derecho.
El Convenio no se aplicará a las actividades de investigación y desarrollo relativas a sistemas de inteligencia artificial, a menos que estos sistemas se prueben o se utilicen de manera que puedan interferir con los derechos humanos y las libertades fundamentales, la democracia y el Estado de Derecho.
Obligaciones generales
Los artículos 5 y 6 del Convenio establecen las obligaciones generales que deberán cumplir las Partes firmantes en relación con estos sistemas.
Tales obligaciones se centran en el respeto de los derechos humanos y de las libertades fundamentales y en la necesidad de respetar la integridad de los procesos democráticos y el respeto del Estado de Derecho.
En consecuencia, cada Parte adoptará las medidas necesarias para garantizar que todas las actividades relacionadas con el diseño, el desarrollo, la utilización y el desmantelamiento de sistemas de inteligencia artificial sean compatibles con las obligaciones aplicables en materia de derechos humanos y no discriminación, asumidas por ella en virtud del Derecho internacional, o prescritas por su Derecho interno.
Igualmente, cada Parte adoptará las medidas necesarias para proteger la capacidad de cualquier persona de adoptar decisiones informadas, libres de influencias o manipulaciones indebidas mediante el uso de sistemas de IA en el contexto de un acceso equitativo y justo al debate público y a los democráticos, en particular la participación democrática, la libertad de reunión y la libertad de expresión, incluida la libertad de buscar, recibir y difundir información de todo tipo, así como la libertad de mantener opiniones sin injerencias.
En el mismo sentido, las Partes deberán adoptar las medidas necesarias para garantizar que los sistemas de inteligencia IA no se utilicen para socavar la integridad, independencia y eficacia de las instituciones y procesos democráticos, incluido el respeto a la independencia judicial y al judicial y el principio de separación de poderes.
Principios de diseño, desarrollo, utilización y desmantelamiento de los sistemas de IA
El Capítulo III del borrador detalla los principios generales comunes que cada Parte deberá aplicar al diseño, desarrollo utilización y desmantelamiento de los sistemas de IA, de una manera adecuada a su ordenamiento jurídico interno y a las obligaciones derivadas de este Convenio.
Estos principios son:
- Transparencia y supervisión (Artículo 7)
Se deberá garantizar la existencia de mecanismos adecuados de supervisión así como requisitos de transparencia adaptados a los contextos y riesgos específicos respecto el diseño, el desarrollo, la utilización y el desmantelamiento de los sistemas de inteligencia artificial.
- Rendición de cuentas y responsabilidad (Artículo 8)
Se deberá garantizar la rendición de cuentas y la responsabilidad por las violaciones de los derechos humanos y de las libertades fundamentales resultantes de la concepción, el desarrollo, la utilización y el desmantelamiento de los sistemas de inteligencia artificial.
- Igualdad y no discriminación (Artículo 9)
Cada Parte adoptará las medidas necesarias para garantizar que el diseño, desarrollo, utilización y desmantelamiento de los sistemas de inteligencia artificial respeten el principio de igualdad, incluida la igualdad de género y la no discriminación.
- Protección de la intimidad y de los datos personales (Artículo 10)
Cada Parte velará por que, en lo que respecta al diseño, desarrollo, utilización y desmantelamiento de los sistemas de inteligencia artificial
a. se proteja la intimidad de las personas, en particular mediante las leyes y normas nacionales e internacionales aplicables en materia de protección de datos personales y gobernanza de datos;
b. se establezcan garantías y salvaguardias adecuadas para los interesados, en consonancia con sus obligaciones jurídicas nacionales e internacionales aplicables.
- Seguridad, protección y robustez (Artículo 11)
Cada Parte adoptará las medidas apropiadas para garantizar que la seguridad, la protección, rendimiento, calidad de los datos, integridad de los datos, seguridad de los datos, ciberseguridad y robustez para el diseño, el desarrollo, la utilización y el desmantelamiento de los sistemas de inteligencia artificial.
- Innovación segura (Artículo 12)
Cuando se ensayen sistemas de inteligencia artificial con fines de investigación e innovación, cada Parte establecerá un entorno reglamentario controlado para ensayar sistemas de inteligencia artificial bajo la supervisión de sus autoridades competentes, con el fin de evitar que los ensayos tengan repercusiones negativas en los derechos humanos, la democracia y el Estado de Derecho.
No se permitirán otras restricciones, derogaciones ni excepciones a estos principios, que las ya permitidas por el derecho interno y las obligaciones jurídicas internacionales contraídas por la Parte en relación con la protección de la seguridad nacional, la defensa, la seguridad, la salud y la moral públicas, los intereses del Estado, la imparcialidad e independencia del poder judicial, o la prevención, investigación y persecución de desórdenes o delitos, así como la protección de los derechos y libertades de otras personas.
Recursos
Para concluir este primer análisis del borrador, destacamos que el Capítulo IV del mismo declara, en su artículo 13, que cada Parte adoptará, de manera apropiada a su ordenamiento jurídico interno y a las demás obligaciones contraídas en virtud del presente Convenio, medidas que garanticen la disponibilidad de recursos eficaces contra las violaciones de los derechos humanos y las libertades fundamentales resultantes de la utilización de sistemas de inteligencia artificial, en particular mediante
a. medidas adecuadas para garantizar que el uso que se haga del sistema de inteligencia artificial se registre, se facilite a los organismos autorizados acceder a dicha información y, cuando proceda y sea aplicable, se ponga a disposición o comunicada a la persona afectada de que se trate;
b. medidas adecuadas para garantizar que la información a que se refiere la letra a) sea suficiente y proporcionada para que las personas afectadas tengan la posibilidad efectiva de impugnar el uso del sistema y de la decisión o decisiones adoptadas o fundamentadas sustancialmente en el uso del sistema.