Carlos B Fernández. La Plataforma de compras de IA (Procurement of AI Community), una sección de la Plataforma de contratación pública (Public Buyers Community) de la Comisión Europea, ha presentado a consulta un modelo de cláusulas contractuales tipo para los organismos públicos que deseen adquirir sistemas de IA, que la propuesta de Reglamento de IA considere de alto riesgo, y hayan sido desarrollados por un proveedor externo (Proposal for standard contractual clauses for the procurement of Artificial Intelligence by public organisations).
La Plataforma de Contratación Pública de la UE es una iniciativa apoyada por la Dirección General de Mercados, Industria, emprendimiento y PYMES (DG GROW), dedicada a mejorar la colaboración en la contratación pública. De esta forma, comprando juntos en lugar de individualmente, los organismos públicos pueden obtener mejores precios y bienes y servicios de mayor calidad. Además, los compradores públicos también pueden beneficiarse enormemente del intercambio de conocimientos y mejores prácticas en toda la UE, pues esta Plataforma está concebida como una estructura multinivel que combina espacios públicos y privados exclusivos para miembros, con el fin de facilitar el intercambio de conocimientos sobre contratación pública, fomentando al mismo tiempo un entorno seguro y confidencial.
Por su parte, las soluciones basadas en IA presentan una nueva gama de servicios que las entidades públicas pueden contratar. Por ello, la Plataforma de compras de IA reúne a compradores públicos para compartir conocimientos y experiencia con el fin de comprender mejor los riesgos de utilizar soluciones de IA y colaborar en los controles y equilibrios para su aplicación segura mediante el desarrollo de cláusulas de contratación estándar.
Este trabajo ha contado con el apoyo de la Dirección General de Redes de Comunicación, Contenidos y Tecnología (DG CNECT), la Dirección General de Mercado Interior, Industria, Emprendimiento y Pymes (DG GROW), Living-in.EU - un proyecto financiado por la UE, que apoya la transformación digital de las autoridades públicas en toda Europa, y Pels Riicken, un bufete de abogados holandés.
Apoyo al uso responsable y transparente de la IA
Las autoridades locales utilizan cada vez más tecnologías de IA y sistemas algorítmicos para gestionar sus territorios y prestar servicios a los ciudadanos. Dado que la IA tiene un mayor impacto en la vida de los ciudadanos, existe una creciente necesidad de instrumentos que puedan garantizar el uso de la IA de una manera responsable y segura, asegurando, por ejemplo, la transparencia sobre los procesos de toma de decisiones y la rendición de cuentas.
Los modelos de cláusulas contractuales sobre IA de la UE representan una herramienta fundamental para que las autoridades públicas la utilicen y la pongan a prueba en sus futuras adquisiciones de tecnología de IA. Las cláusulas contractuales tipo de la UE sobre la IA contienen disposiciones específicas para los sistemas de IA y sobre asuntos regulados por la futura Ley de IA, excluyendo así otras obligaciones o requisitos que puedan surgir en virtud de la legislación aplicable pertinente, como el Reglamento general de protección de datos (LA LEY 6637/2016). Además, estas cláusulas contractuales modelo de la UE no constituyen un acuerdo contractual completo. Deben adaptarse a cada contexto contractual específico. Por ejemplo, no contienen ninguna condición relativa a la propiedad intelectual, la aceptación, el pago, los plazos de entrega, la legislación aplicable o la responsabilidad. Las cláusulas contractuales tipo de la UE sobre IA están redactadas de tal manera que pueden adjuntarse como anexo a un acuerdo en el que ya se hayan establecido estas cuestiones".
Los sistemas de IA de alto riesgo en la propuesta de Reglamento de IA
La propuesta de Reglamento de IA presentado por la Comisión Europea en abril de 2021 y actualmente en fase de negociación entre el Consejo y el Parlamento, plantea que determinados sistemas de IA plantean un alto riesgo para los bienes y derechos de los ciudadanos europeos y, por ello, deben ser sometidos a una serie de requisitos estrictos.
Entre estos sistemas, se encuentran los utilizados en sectores o actividades como Identificación biométrica y categorización de personas físicas; la gestión y funcionamiento de infraestructuras esenciales, como el tráfico rodado y el suministro de agua, gas, calefacción y electricidad; los sistemas de IA destinados a utilizarse para determinar el acceso o la asignación de personas físicas a los centros de educación y formación profesional; el empleo, gestión de los trabajadores y acceso al autoempleo y los sistemas de IA destinados a ser utilizados por las autoridades públicas o en su nombre para evaluar la admisibilidad de las personas físicas para acceder a prestaciones y servicios de asistencia pública, así como para conceder, reducir, retirar o recuperar dichas prestaciones y servicios.
Estos sistemas deberán disponer de un sistema de gestión de riesgos, haber sido entrenados con datos de calidad, ofrecer información transparente y relevante sobre su funcionamiento, disponer de un sistema de registro de actividad, facilitar la intervención humana y ser precisos, sólidos y robustos.
La propuesta de cláusulas contractuales tipo
Este modelo de cláusulas contractuales tipo que ahora se presentan, se han redactado para los organismos públicos que deseen adquirir un sistema de IA desarrollado por un proveedor externo y están basadas en las cláusulas tipo para la contratación de sistemas algorítmicos desarrolladas por la Ciudad de Ámsterdam en 2018.
Las cláusulas contractuales tipo presentadas en este borrador se basan en gran medida en los requisitos y obligaciones para los sistemas de IA de alto riesgo incluidos en el Título III de la propuesta de Reglamento sobre IA. Los autores subrayan que dado que esta propuesta está sujeta a negociaciones en curso, habrá que revisar las cláusulas para tener en cuenta cualquier cambios que se introduzcan y adaptarlas plenamente al Reglamento final adoptado por el Consejo y el Parlamento Europeo.
Por tanto, teniendo en cuenta que la propuesta de Ley de IA está aún en fase de negociación, los organismos públicos que decidan utilizar estas condiciones podrán hacerlo de forma voluntaria, evaluando caso por caso si las distintas secciones de estas cláusulas contractuales tipo son suficientes y proporcionadas para la contratación de un sistema de IA concreto.
Las cláusulas contractuales tipo se dirigen en particular a los sistemas de IA clasificados como de "alto riesgo" en el sentido del artículo 6 y enumerados en uno de los ámbitos cubiertos por los anexos II y III de la propuesta de Ley de IA.
Para la IA que no sea de alto riesgo, la aplicación de estos requisitos no es obligatoria en virtud de la Ley de IA, pero se recomienda para mejorar la fiabilidad de las aplicaciones de IA adquiridas por organizaciones públicas.
Cuando proceda y se justifique en función del impacto del sistema en las personas y la sociedad, las organizaciones públicas también podrán ampliar la aplicación de estas cláusulas a otros sistemas algorítmicos que no se califiquen necesariamente como "IA" para cubrir, además, sistemas basados en reglas de software más sencillos, teniendo en cuenta que su uso en el sector público también puede requerir en determinados casos una mayor responsabilidad, control y transparencia.
Estas cláusulas contractuales tipo sólo contienen disposiciones específicas de los sistemas de IA y sobre asuntos cubiertos por la propuesta de Ley de IA, excluyendo así otras obligaciones o requisitos que puedan surgir en virtud de la legislación aplicable pertinente, como el Reglamento General de Protección de Datos (LA LEY 6637/2016).
Además, estas cláusulas contractuales tipo no constituyen un acuerdo contractual completo. Por ejemplo, estas cláusulas contractuales tipo no contienen ninguna condición relativa a la propiedad intelectual, la aceptación, el pago, los plazos de entrega, la legislación aplicable o la responsabilidad.
Las cláusulas contractuales tipo están redactadas de tal forma que pueden adjuntarse como anexo a un acuerdo en el que ya se hayan establecido dichas cuestiones.