¿De qué hablamos cuando utilizamos la expresión “sistemas de inteligencia artificial”? Todos tenemos una idea más o menos acertada sobre a qué nos estamos refiriendo, pero a nivel legal es fundamental contar con un mayor grado de claridad en los criterios que la definen para contar con más certezas sobre qué son. La Comisión Europea hizo públicas en febrero las directrices para ayudar a los diferentes operadores de IA a determinar si efectivamente se encuentran ante un sistema que está bajo la regulación del Reglamento (UE) 2024/1689 (LA LEY 16665/2024) de Inteligencia Artificial.
De acuerdo con lo previsto en el artículo 96.1. f) del Reglamento IA, la Comisión dio a conocer las directrices sobre lo que debemos entender como un sistema de inteligencia artificial. Con anterioridad, ya había arrojado luz sobre lo que se consideran prácticas prohibida en el campo de la IA. ¿Cuál es el objetivo? Con ellas, se quiere orientar y ayudar a los distintos operadores a tener pleno conocimiento de si están trabajando en un sistema que deba cumplir con la regulación europea para el desarrollo de esta tecnología.
De esta manera, se aclara y se define con mayor precisión la definición que recoge el artículo 3 apartado 1 del Reglamento IA sobre este concepto. De acuerdo con la definición de la Organización para la Cooperación y el Desarrollo Económicos (OCDE), se trata de “un sistema basado en una máquina diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe, la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtuales”.
Los requisitos de un sistema de IA
Las directrices listan una serie de requisitos con los que deben cumplir los sistemas de IA para regirse dentro del reglamento. Son los siguientes:
1. Debe basarse en una máquina. Al tener sus bases en una máquina, debe contar con componentes de hardware y de software para su funcionamiento. Además de eso, debe funcionar a través de procesos computacionales y de operaciones impulsadas por máquinas.
2. Debe tener distintos niveles de autonomía. Su diseño le permite operar con diferentes niveles de autonomía como consecuencia de la capacidad de inferencia con la que cuenta. Esto supone que debe estar dotada de la suficiente autonomía como para actuar con cierto grado de independencia, sin que sea necesaria una intervención humana continua para generar resultados y realizar las tareas que se le han encomendado.
3. Debe tener capacidad de adaptación tras el despliegue. Aunque no se trata de un requisito indispensable para que le sea aplicable el Reglamento IA, el sistema debe poder cambiar su comportamiento tras la fase de despliegue para aprender de los datos, de la interacción y ofrecer resultados más precisos sin que sea indispensable que se reprograme manualmente, algo que realizan los modelos basados en aprendizaje automático o machine learning y también los sistemas de IA generativa.
4. Debe tener objetivos explícitos o implícitos. El sistema debe tener tanto objetivos codificados directamente (explícitos) u objetivos que se deduzcan del comportamiento o de las asunciones subyacentes del sistema, es decir, que pueden derivar de los datos de entrenamiento o de la interacción con el entorno (implícitos). Por otra parte, los objetivos de un sistema de IA, que tienen carácter interno (como metas de las tareas a realizar y sus resultados), deben diferenciarse de lo que se define como finalidad prevista, que es externa y alude al uso para el que se ha diseñado y cómo este se debe operar.
5. Debe hacer una inferencia para generar los resultados. Una de las características que la definen es su capacidad para inferir, a partir de los datos de entrada, un resultado de salida o respuesta. Y esto debe poder realizarlo sin seguir reglas predefinidas por humanos. Esto quiere decir que debe poder ejecutar operaciones automáticamente a partir de la información de entrada. Aquí se incluirían, según la Comisión Europea, los distintos sistemas de machine learning y las técnicas basadas en lógica y conocimiento experto.
6. Deben generar unos tipos de resultados concretos. Entre estos resultados están las predicciones o estimaciones basadas en la información de entrada; el contenido, como la generación de texto, imágenes o música; las recomendaciones o sugerencias basadas en los datos del usuario; y las decisiones o conclusiones realizadas a partir de un proceso automatizado y sin intervención humana. Quedarían fuera de ser considerados un sistema de inteligencia artificial aquellos que gestionan bases de datos para filtrar o seleccionar según determinado criterio, así como los que realizan un análisis descriptivo.
7. Debe poder influir en entornos físicos o virtuales. Tiene un impacto activo en su entorno, influyendo en el ámbito físico (robots o maquinaria con automatizaciones), en espacios virtuales (flujos de datos y ecosistemas de software) o en ambos. Sin embargo, el reglamento señala que esta influencia no es esencial para que sea clasificado como sistema de IA.
Estas directrices aún no han sido aprobadas formalmente y no tienen carácter vinculante, pero ayudan a orientar sobre las obligaciones de cumplimiento en la industria tecnológica o en otros sectores que están integrando la inteligencia artificial para sus desarrollos.
La Comisión advierte que no será posible realizar un listado cerrado, exhaustivo y pormenorizado para determinar de manera definitiva qué sistemas entran o no en esta categoría y que, por tanto, deben cumplir con el Reglamento IA. Por ello, destaca también que habrá que evaluar las características y capacidades de cada desarrollo.