lier Navarro. La inteligencia artificial (IA) tiene el potencial de cambiar el mundo tal como lo hemos conocido hasta ahora. Es una tecnología disruptiva que no ha dejado a nadie indiferente por su contar con habilidades muy similares a las capacidades humanas, así como por su potencial y por su impacto en diversos sectores. Pero desde Europa no obvian la otra cara de la moneda: entraña riesgos legales y puede afectar a los derechos de las personas si no se utiliza adecuadamente, por lo que la Unión Europea ha fijado algunos límites legales. De ahí que el reciente Reglamento de la Inteligencia Artificial (LA LEY 16665/2024) (RIA) enumere una serie de usos que están prohibidos.
Tal como indica su nombre, el Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024 (LA LEY 16665/2024), fija una serie de normas armonizadas para regular el uso de esta tecnología. El texto normativo confirma que su objetivo es mejorar el funcionamiento del mercado interior. Para ello, establece un marco jurídico uniforme que rige tanto el desarrollo, la introducción en el mercado, la puesta en servicio y la utilización de sistemas de IA conforme a los valores de la Unión Europea (UE) y a la Carta de Derechos Fundamentales.
También garantiza la libre circulación transfronteriza de mercancías y servicios basados en la IA. De este modo, se asegura que los Estados miembros no puedan restringir los avances vinculados a esta tecnología si el reglamento no lo señala de manera expresa.
Entre las limitaciones que fija el texto legal, destacan una serie de prácticas prohibidas. Son las siguientes:
1. Técnicas subliminales y manipulación. El documento veta el uso de este tipo de técnicas relacionadas con la IA con el fin de evitar la manipulación o el engaño deliberado a la conciencia de una persona, también cuando se trata de prácticas que busquen alterar su comportamiento. Pone coto a la posibilidad de que se merme la capacidad humana para adoptar decisiones informadas o para que las personas cambien de criterio con una alta probabilidad de que les cause perjuicios a ellas o a otras.
2. Explotación de las vulnerabilidades. También prohíbe los sistemas basados en IA que puedan explotar alguna de las vulnerabilidades de una persona o un colectivo derivadas de su edad o discapacidad, o si se encuentra en una situación social o económica específica, cuando se altere su comportamiento en su propio perjuicio.
3. Evaluación o clasificación de personas. El reglamento impide el uso de desarrollos de la inteligencia artificial cuyo propósito sea evaluar o clasificar a personas o grupos de personas durante un período determinado de tiempo atendiendo a su comportamiento social. También si lo hace en base a sus características personales o de su personalidad, tanto si estas ya se conocen previamente o bien si se infieren o se predicen, cuando esto suponga un trato perjudicial en contextos sociales distintos a donde se generaron los datos, o un trato desfavorable injustificado o desproporcionado respecto de su comportamientos social o la gravedad de este.
4. Predicción del riesgo de delitos. Otra aplicación que queda proscrita es la evaluación de riesgos de personas para valorar o predecir la probabilidad de que cometa un delito, siempre que se base exclusivamente en su perfilado o en sus rasgos o características de su personalidad. Queda fuera de esta prohibición los escenarios en los que la IA se utilice para dar soporte a la valoración humana de la implicación de una persona en una actividad delictiva basada en hechos objetivos y verificables que se relacionen directamente con una actividad delictiva.
5. Imágenes faciales extraídas de la red. El reglamento niega la posibilidad de que se use la IA para crear o ampliar bases de datos de reconocimiento facial a través de imágenes faciales extraídas de internet o de circuitos cerrados de televisión.
6. Inferir emociones en el trabajo o en centros educativos. Europa veta asimismo el uso de estos sistemas cuando su fin sea inferir las emociones de una persona en su trabajo y en centros educativos, salvo que esté justificado por motivos médicos o de seguridad.
7. Clasificación mediante categorización biométrica. Otro uso prohibido de la IA es el que está relacionado con la categorización biométrica destinada a clasificar individualmente a las personas en base a sus datos biométricos con el fin de deducir su raza, opiniones políticas, afiliación sindical, convicciones religiosas o filosóficas, vida sexual u orientación sexual. Sin embargo, sí se permite el etiquetado o filtrado de datos biométricos que se hayan adquirido lícitamente, como imágenes, basado en datos biométricos. También se permite la categorización de datos biométricos en el ámbito de la garantía del cumplimiento del Derecho.
8. Identificación biométrica remota “en tiempo real”. Esta práctica es especialmente sensible y se regula en detalle en todo el texto legal. Queda prohibido este uso cuando se produzca en espacios de acceso público con fines de garantía del cumplimiento del Derecho, salvo que sea estrictamente necesario en tres supuestos:
• Buscar a víctimas de secuestro, trata de seres humanos o explotación sexual o personas desaparecidas.
• Prevenir una amenaza específica, importante e inminente para la vida, así como una amenaza real, actual o previsible de un atentado terrorista.
• Localizar o identificar a un sospechoso de haber cometido un delito cuando este se castigue con privación de libertad durante al menos cuatro años en el Estado miembro.
En todos estos casos, se requiere de un permiso previo por parte de las autoridades del Estado miembro, que deberán realizar una evaluación de impacto relativa a los derechos fundamentales. Esto no será necesario en supuestos urgentes que estén justificados, pero el registro correspondiente en la base de datos de la UE deberá completarse con la mayor celeridad que permitan las circunstancias.