Carlos B Fernández. El establecimiento de un marco normativo europeo para el diseño, elaboración y puesta en práctica de los sistemas de inteligencia artificial está cada vez más cerca, como ponen de manifiesto dos recientes noticias.
Por un lado, la Comisión Europea ha anunciado la presentación, el próximo 19 de febrero, de un White paper o libro blanco, con las pautas básicas de una propuesta de normativa sobre esta materia. Casi simultáneamente, la Comisión de Mercado Interior y Protección del Consumidor del Parlamento Europeo ha aprobado una resolución que urge a la Comisión a abordar un marco normativo sobre los retos derivados del rápido desarrollo de las tecnologías de inteligencia artificial (IA) y de toma de decisiones automatizada (ADM).
Libro blanco de la Comisión
Dentro de la Agenda política de la nueva presidenta de la Comisión Europea, Ursula von der Leyen, se incluye el compromiso de que “Durante mis primeros 100 días en el cargo, presentaré propuestas de legislación para un enfoque europeo coordinado sobre las implicaciones éticas y humanas de la inteligencia artificial. Asimismo, analizaremos cómo podemos utilizar los macrodatos para innovaciones que generen riqueza para nuestras sociedades y empresas.”
Aunque el plazo de 100 días puede parecer muy breve, la Comisión ya parece haberse puesto en marcha, pues el pasado día 20 de enero, el abogado y profesor Moisés Barrio informaba, a través de su perfil en LinkedIn la presentación de un primer borrador de White Paper para la regulación jurídica de la IA, que en principio estará terminado el próximo mes de febrero de 2020, en concreto, el día 19.
Según se indica en el contenido de dicho documento al que hemos podido acceder, el objetivo de este White paper es presentar un conjunto de propuestas para establecer un marco europeo para la inteligencia artificial, que promueva el desarrollo de esta tecnología en el continente, asegurando a la vez su respeto a los valores y principios de la Unión.
Para ello, se propone afrontar los principales riesgos relacionados con el uso de esta tecnología, en particular en cuanto a su gobernanza, la seguridad de su uso y la responsabilidad derivada del mismo, dadas sus características de autonomía, opacidad, aprendizaje y posibilidad de adaptar decisiones inapropiadas.
El documento está estructurado en seis secciones, de las cuales la más relevante parece ser la quinta, que incluye los elementos más relevantes de la propuesta de regulación europea, que se plasmará en una propuesta de nuevo Reglamento del Consejo sobre la computación de altas capacidades (a new Council Regulation on high performance computing).
Resolución del Parlamento Europeo
Por su parte, la Comisión de Mercado Interior y Protección del Consumidor del Parlamento Europeo acaba de aprobar una resolución sobre los sistemas automatizados de toma de decisiones, orientada a la protección de los consumidores (on Automated decision-making processes: Ensuring consumer protection, and free movement of goods and services), que aborda varios retos derivados del rápido desarrollo de las tecnologías de inteligencia artificial (IA) y de toma de decisiones automatizada (ADM).
Los ejes de esta resolución son que cuando los consumidores interactúan con un sistema de ADM, deben estar "adecuadamente informados sobre cómo funciona, sobre cómo llegar a un humano con poder de decisión sobre el sistema y sobre cómo se pueden comprobar y corregir las decisiones del sistema".
Además, para realizar sus cálculos, estos sistemas sólo deben utilizar conjuntos de datos de alta calidad e imparciales y "algoritmos explicables e imparciales", que permitan aumentar la confianza y la aceptación de los consumidores. Para ello se deben establecer estructuras de revisión que permitan remediar posibles errores en las decisiones automatizadas, incluyendo la posibilidad de una revisión humana de las decisiones automatizadas que sean definitivas y permanentes, así como la reparación de las mismas.
Los diputados miembros de la Comisión subrayan que "los seres humanos siempre deben ser los responsables últimos” del funcionamiento de estos sistemas y por tanto deben ser igualmente capaces de anular las decisiones que se tomen a través de los procesos de ADM, especialmente en relación con las profesiones médicas, legales y contables y el sector bancario.
Necesidad de adaptar la normativa actual a las nuevas tecnologías
El documento destaca igualmente que dado que los productos basados en IA pueden evolucionar y actuar de formas no previstas cuando se comercializan por primera vez, es necesario que la Comisión incluya propuestas para adaptar las actuales normas sobre seguridad de los productos existentes en el ámbito de la UE, como son las directivas sobre la seguridad de las máquinas y los juguetes, para garantizar que los consumidores estén protegidos contra los daños, que los fabricantes tengan claras sus obligaciones y que los usuarios estén informados sobre cómo utilizar esos productos.
En este sentido se destaca también que la Directiva sobre responsabilidad por productos, defectuosos adoptada hace más de 30 años, también tendría que ser actualizada para adaptar conceptos como "producto", "daño" y "defecto", así como las normas que rigen la carga de la prueba.
Además, la resolución pide un esquema de evaluación de riesgos para la IA y la GDA y un enfoque común de la UE para ayudar a asegurar los beneficios de esos procesos y mitigar los riesgos en toda la UE.
Evitar la discriminación
Por otra parte, los eurodiputados que han elaborado la resolución recuerdan que según la legislación de la UE, los comerciantes deben informar a los consumidores cuando el precio de los bienes o servicios ha sido personalizado en base a ADM, por lo que piden a la Comisión que supervise de cerca la aplicación de esas normas. También debe comprobar cómo se aplica el reglamento de la UE que prohíbe el geo-bloqueo injustificado para garantizar que ADM no se utiliza para discriminar a los consumidores en función de su nacionalidad, lugar de residencia o ubicación temporal.
Próximos pasos
La resolución, aprobada en comisión por 39 votos a favor, ninguno en contra y cuatro abstenciones, será sometida a votación por el pleno de la Cámara en una próxima sesión plenaria. A continuación, la resolución será transmitida al Consejo de la UE y a la Comisión, para que tengan en cuenta los puntos de vista de los eurodiputados sobre AI y ADM.