Antecedentes
Como parte de su estrategia digital, la UE quiere regular la inteligencia artificial (IA) para garantizar mejores condiciones de desarrollo y uso de esta tecnología innovadora. La IA puede aportar muchos beneficios, como lo son una mejor asistencia sanitaria, un transporte más seguro y limpio, una fabricación más eficiente y una energía más barata y sostenible.
Se espera que las tecnologías de IA aporten un amplio abanico de beneficios económicos y sociales a una gran variedad de sectores, como el medio ambiente y la sanidad, el sector público, las finanzas, la movilidad, los asuntos de interior y la agricultura. Son especialmente útiles para mejorar la predicción, optimizar las operaciones y la asignación de recursos y personalizar los servicios. Sin embargo, las implicaciones de los sistemas de IA para los derechos fundamentales protegidos por la Carta de los Derechos Fundamentales de la UE (LA LEY 12415/2007), así como los riesgos para la seguridad de los usuarios cuando las tecnologías de IA están integradas en productos y servicios, suscitan preocupación. En particular, los sistemas de IA pueden poner en peligro derechos fundamentales como el derecho a la no discriminación, la libertad de expresión, la dignidad humana, la protección de los datos personales y la privacidad.
Dado el rápido desarrollo de estas tecnologías, en los últimos años la regulación de la IA se ha convertido en una cuestión política central en la Unión Europea (UE). Los responsables políticos se comprometieron a desarrollar un enfoque de la IA «centrado en el ser humano» para garantizar que los europeos puedan beneficiarse de las nuevas tecnologías desarrolladas y que funcionan de acuerdo con los valores y principios de la UE. Aunque la UE aún no cuenta con un marco jurídico específico para la IA, en su Libro Blanco sobre Inteligencia Artificial, la Comisión Europea destacó la necesidad de un enfoque normativo y orientado a la inversión con el doble objetivo de promover la adopción de la IA y de abordar los riesgos asociados a determinados usos de esta nueva tecnología
Con este fin, la Comisión Europea adoptó inicialmente un enfoque de Derecho indicativo con la publicación de sus Directrices éticas no vinculantes de 2019 para una IA digna de confianza y recomendaciones sobre políticas e inversiones. Sin embargo, con la Comunicación «Fomentar un enfoque europeo de la inteligencia artificial», publicada en 2021, la Comisión cambió hacia un enfoque legislativo e instó a la adopción de un nuevo marco normativo sobre inteligencia artificial. Dado que la legislación vigente que protege los derechos fundamentales y garantiza la seguridad y los derechos de los consumidores (incluidas las leyes de protección de datos y de no discriminación) parece insuficiente para hacer frente a los riesgos que plantean las tecnologías de IA, la Comisión propuso la adopción de normas armonizadas para el desarrollo, la comercialización y el uso de los sistemas de IA. Las nuevas normas complementarían y se diseñarían siguiendo la lógica de las normas de la UE vigentes en materia de seguridad de los productos y se adoptarían junto con un nuevo Reglamento sobre máquinas, con el objetivo de adaptar las normas de seguridad a una nueva generación de productos, como las impresoras 3D.5''.
La Estrategia Europea de IA
Esta Estrategia tiene por objeto convertir a la UE en un centro de referencia mundial para la IA y garantizar que la IA se centre en el ser humano y sea fiable. Este objetivo se traduce en el enfoque europeo de la excelencia y la confianza a través de normas y acciones concretas.
En abril de 2021, la Comisión presentó su paquete de IA, que incluía:
- — Comunicación sobre el fomento de un enfoque europeo de la inteligencia artificial;
- — Actualización del Plan coordinado sobre inteligencia artificial los Estados miembros de la UE);
- — Propuesta de Reglamento por el que se establecen normas armonizadas sobre la IA (Acta de IA) y la evaluación de impacto pertinente.
El objetivo de esta última propuesta es abordar los riesgos de usos específicos de la IA, clasificándolos en 4 niveles diferentes: riesgo inaceptable, riesgo alto, riesgo limitado y riesgo mínimo. Al hacerlo, el proyectado Reglamento de IA garantizará que los europeos puedan confiar en la IA que están utilizando.
Evidentemente, este instrumento será es clave para construir un ecosistema de excelencia en IA y fortalecer la capacidad de la UE para competir a nivel mundial
Posición del Parlamento Europeo
El Parlamento Europeo adoptó el 14 de julio su posición negociadora sobre le Reglamento de Inteligencia Artificial (IA) por 499 votos a favor, 28 en contra y 93 abstenciones. Con ella irá a las conversaciones con los Estados miembros de las que saldrá el texto definitivo. La normativa deberá garantizar que la IA desarrollada y utilizada en Europa se ajuste plenamente a nuestros derechos y valores, respetando requisitos como la supervisión humana, la seguridad, la privacidad, la transparencia, la no discriminación o el bienestar social y medioambiental.
Prácticas prohibidas
Las normas están enfocadas a prevenir riesgos, y fijan unas obligaciones para los proveedores y los que despliegan herramientas basadas en IA en función del nivel de riesgo que pueda presentar la inteligencia artificial. Los sistemas de IA que presentan un nivel inaceptable para la seguridad de las personas, como los utilizados para sistemas de puntuación social (clasificar a las personas a partir de su comportamiento o características personales), quedarían totalmente prohibidos. Los eurodiputados han ampliado la lista propuesta por la Comisión Europea, añadiendo prohibiciones que se refieren a los usos intrusivos y discriminatorios de la IA, como por ejemplo:
- — los sistemas de identificación biométrica remota, en tiempo real, en espacios públicos;
- — los sistemas de identificación biométrica remota, a posteriori, con la única excepción de usos policiales en investigaciones por delitos graves y con autorización judicial;
- — los sistemas de categorización biométrica que utilicen ciertas características identitarias (por ejemplo el género, la raza, la etnia, el estatus de ciudadanía, la religión o la orientación política);
- — los sistemas policiales predictivos (basados en la elaboración de perfiles, la ubicación o el historial delictivo);
- — los sistemas de reconocimiento de emociones por las fuerzas de seguridad, en la gestión de fronteras, los lugares de trabajo o las instituciones de enseñanza; y
- — el rastreo indiscriminado de imágenes faciales sacadas de Internet o de circuitos cerrados de televisión para crear bases de datos de reconocimiento facial (que violan los derechos humanos y el derecho a la intimidad).
Inteligencia artificial de alto riesgo
Los eurodiputados se han encargado de que la clasificación de las aplicaciones de alto riesgo incluya también los sistemas de IA que puedan afectar significativamente al medio ambiente o a la salud, la seguridad o los derechos fundamentales de las personas. Se han añadido a la lista los sistemas de IA utilizados para influir en los votantes y el resultado de las elecciones y en los sistemas de recomendación utilizados por las plataformas de redes sociales (con más de 45 millones de usuarios).
Obligaciones para la IA de uso general
Los proveedores de modelos fundacionales —una innovación en el ámbito de la IA que avanza rápidamente— tendrán que evaluar y mitigar los posibles riesgos (para la salud, la seguridad, los derechos fundamentales, el medio ambiente, la democracia y el Estado de Derecho) y registrar sus modelos en la base de datos de la UE antes de comercializarlos en la UE. Los sistemas de IA generativa basados en esos modelos, como ChatGPT, tendrán que cumplir unos requisitos adicionales de transparencia —identificar el contenido como generado por IA, para ayudar, entre otras cosas, a distinguir las falsificaciones de las imágenes auténticas— y estar diseñados de forma que no puedan generar contenido ilegal. Además, deberán publicarse resúmenes detallados de los datos protegidos por derechos de autor que han sido utilizados para su desarrollo.
Apoyar la innovación y proteger los derechos individuales
Para impulsar la innovación en IA y apoyar a las pymes, los eurodiputados añadieron como excepciones los proyectos de investigación y los componentes de IA suministrados con licencias de código abierto. El Reglamento proyectado promueve los llamados «espacios controlados de pruebas», o entornos reales en los que las empresas pueden probar la inteligencia artificial bajo la supervisión de las autoridades públicas antes de salir al mercado.
Por último, la Eurocámara quiere facilitar a los ciudadanos la presentación de reclamaciones sobre estos sistemas y la obtención de explicaciones sobre decisiones generadas por sistemas de alto riesgo que menoscaben significativamente nuestros derechos fundamentales. Los eurodiputados también han reformado el papel de la Oficina Europea de Inteligencia Artificial, que se encargaría de supervisar la forma en que se aplica el código normativo sobre IA.
Actuaciones futuras
Las negociaciones con el Consejo sobre la forma definitiva del texto comenzarán a partir del 14 de junio de 2023.
Al tramitar esta normativa el Parlamento responde a las demandas de los ciudadanos de garantizar la vigilancia humana de los procesos de IA, una IA fiable y sobre el uso de esta herramienta para superar las barreras lingüísticas, reflejadas en las propuestas 35(3)), (35(8)), y (37(3)), respectivamente, de las conclusiones de la Conferencia sobre el Futuro de Europa.
El objetivo es alcanzar un acuerdo a finales de este año.