Carlos B Fernández. La reunión del Consejo de ministros de la OCDE celebrada el pasado 5 de mayo, aprobó la revisión de los históricos Principios de la OCDE sobre Inteligencia Artificial (IA), como respuesta a los recientes avances en las tecnologías de IA, en particular el surgimiento de la IA generativa y de propósito general. Su objetivo es que estos principios actualizados aborden más directamente los desafíos asociados a la IA que involucran a la privacidad, los derechos de propiedad intelectual y la seguridad e integridad de la información.
Con 47 países adherentes, incluida la UE, y un alcance general que garantiza la aplicabilidad a los desarrollos de la IA en todo el mundo, los Principios de la OCDE sobre la IA proporcionan un modelo para los marcos políticos sobre cómo abordar los riesgos de la IA y dar forma a las políticas de IA. Como primer estándar intergubernamental sobre IA, abogan por una IA que sea innovadora y confiable, y que defienda los derechos humanos y los valores democráticos.
Se trata, además, de un documento particularmente relevante en relación con el inminente Reglamento europeo de IA, ya que este se remite expresamente al concepto de IA establecido por la OCDE y sus principios serán con toda probabilidad la base del posible convenio internacional sobre IA que se está negociando en este organismo. Sus definiciones también sirven de base para el trabajo de las Naciones Unidas y del Consejo de Comercio y Tecnología UE-EE.UU.
Los riesgos que plantea la IA se están desarrollando a una velocidad sin precedentes
Siguiendo la evolución producida desde que se adoptaron por primera vez estos Principios, en 2019, el Observatorio de Políticas de IA de la OCDE muestra que las inversiones de capital de riesgo en nuevas empresas de IA generativa se han multiplicado por nueve, la demanda de habilidades de IA se ha disparado un 130% y la proporción de grandes empresas que utilizan IA. en promedio en la OCDE, casi se ha duplicado a más de cuatro veces el de sus contrapartes más pequeñas. Estos avances coinciden con una importante atención y acción política, como lo demuestran más de 1.000 iniciativas de IA en más de 70 países y jurisdicciones.
Por ello, la OCDE estima que resulta cada vez más imperativo desarrollar e implementar sistemas de IA para impulsar la productividad, acelerar la investigación científica, promover la sostenibilidad ambiental y mejorar la atención médica y la educación, defendiendo al mismo tiempo los derechos humanos y los valores democráticos.
En paralelo, los riesgos que plantea la IA y que afectan a la privacidad, la seguridad, la equidad y el bienestar de las personas, se están desarrollando a una velocidad y escala sin precedentes, convirtiéndose en daños en el mundo real, como la perpetuación de prejuicios y la discriminación, la creación y difusión de información errónea y la distorsión del discurso público y de los mercados.
En este contexto, señala la OCDE, los elementos clave de esta revisión se orientan a garantizar que los Principios sigan siendo relevantes, sólidos y adecuados para su propósito, e incluyen:
- Abordar las preocupaciones de seguridad, de modo que si los sistemas de IA plantean el riesgo de causar daños indebidos o exhibir un comportamiento no deseado, existan mecanismos y salvaguardas sólidos para anularlos, repararlos y/o desmantelarlos de manera segura.
- Reflejar la creciente importancia de abordar la información errónea y la desinformación, y salvaguardar la integridad de la información en el contexto de la IA generativa.
- Hacer hincapié en la importancia de mantener una conducta empresarial responsable durante todo el ciclo de vida del sistema de IA, implicando la cooperación con proveedores de conocimientos y recursos de IA, usuarios de sistemas de IA y otras partes interesadas.
- Aclarar la información sobre los sistemas de IA que constituyen transparencia y divulgación responsable
- Hacer referencia explícita a la sostenibilidad ambiental, una preocupación que ha ganado importancia considerablemente en los últimos cinco años.
Principios revisados
Por ello, la OCDE ratifica la importancia de los siguientes principios, que son complementarios y deben considerarse en su conjunto:
1. La IA debe fomentar un crecimiento integrador, un desarrollo sostenible y el bienestar de las personas, buscando resultados beneficiosos para las personas y el planeta, vigorizando así el crecimiento inclusivo, el bienestar, el desarrollo sostenible y la sostenibilidad medioambiental.
2. Respeto del Estado de Derecho, los derechos humanos y los valores democráticos, incluidas la equidad y la privacidad
Para ello, los actores de la IA deben aplicar mecanismos y salvaguardias, como la capacidad de intervención y la supervisión humanas, entre otras cosas para hacer frente a los riesgos derivados de los usos fuera de la finalidad prevista, el uso indebido intencionado o el uso indebido no intencionado, de una manera adecuada al contexto y coherente con el estado de la técnica.
3. Transparencia y explicabilidad
Los actores de la IA deben comprometerse con la transparencia y la divulgación responsable de los sistemas de IA. Para ello, deben proporcionar información significativa, adecuada al contexto y coherente con el estado de la técnica.
4. Robustez, seguridad y protección
Los sistemas de IA deben ser robustos, seguros y protegidos a lo largo de todo su ciclo de vida, de modo que, en condiciones de uso normal, uso previsible o uso indebido, u otras condiciones adversas, funcionen adecuadamente y no planteen riesgos irrazonables para la seguridad.
5. Rendición de cuentas
a) Los actores de la IA deben ser responsables del correcto funcionamiento de los sistemas de IA y del respeto de los principios anteriores, en función de sus funciones, del contexto y de acuerdo con el estado de la técnica.
b) Con este fin, los agentes de la IA deben garantizar la trazabilidad, incluso en relación con los conjuntos de datos, los procesos y las decisiones tomadas durante el ciclo de vida del sistema de IA, para permitir el análisis de los resultados del sistema de IA y las respuestas a las preguntas, de forma adecuada al contexto y coherente con el estado de la técnica.