Carlos B Fernández. En unos tiempos en los que la inteligencia artificial (IA), especialmente en sus versiones más avanzadas basadas en Deep Learning, domina el debate sobre derecho y tecnología, cobra cada vez más importancia la necesidad de probar previamente dichos sistemas, en un entorno controlado en el que sus efectos, en particular sobre los derechos fundamentales de las personas, puedan ser evaluados antes de su puesta en el mercado.
La propuesta de Reglamento de inteligencia artificial, actualmente en fase de debate en los trílogos europeos, incluye diversas referencias a estos entornos, promoviendo su utilización para evaluar previamente los sistemas de IA.
Y precisamente nuestro país ha querido ser pionero en la implantación de este tipo de entornos, acordando con la Comisión Europea la puesta en marcha del primer sandbox regulatorio sobre IA de Europa y preparando la elaboración de un reglamento regulador del mismo, cuya aprobación queda en duda tras la convocatoria anticipada de elecciones para el próximo 23 de julio.
Mientras tanto, la OCDE ha presentado un documento en el que se analizan las características, ventajas e inconvenientes de estos entornos, cuyas conclusiones, por su interés, resumimos a continuación.
El informe Regulatory Sandboxes in Artificial Intelligence, elaborado bajo los auspicios del Grupo de Trabajo de la OCDE sobre Gobernanza de la Inteligencia Artificial (AIGO) y del Comité de Política de la Economía Digital (CDEP) de la OCDE, coordinado por Carlos Muñoz Ferrandis, responsable del Grupo de Trabajo sobre Derecho y Ética de la organización, Karine Perset y Yuki Yokomori, presenta las lecciones aprendidas de los "cajones de arena" regulatorios ya puestos en marcha para las empresas de tecnología financiera y sus efectos. También se abordan los retos y riesgos que entraña la implantación de estos entornos y sus procesos de prueba.
El documento presenta consideraciones políticas para los sandboxes de IA, incluida la necesidad de una cooperación interdisciplinar institucional y de desarrollar la experiencia en IA por parte de las autoridades reguladoras. Por último, se analiza la necesidad de exhaustivos para determinar la elegibilidad de los "cajones de arena" y evaluar los ensayos. sobre la innovación y la competencia.
Los sandboxes en los principios de la IA de la OCDE
El informe comienza recordando que los Principios de Inteligencia Artificial de la OCDE de 2019, recomiendan que los gobiernos "consideren el uso de la experimentación para proporcionar un entorno controlado en el que se puedan probar y ampliar los sistemas de IA."
La experimentación permite a los reguladores probar nuevos enfoques económicos, institucionales y tecnológicos, y disposiciones legales fuera de las estructuras regulatorias imperantes. Entre los enfoques reguladores experimentales e "híbridos" figuran los centros de innovación, los sandbox regulatorios, la normalización y la corregulación en la que participan reguladores y mercados. Sin embargo, se añade, el creciente número y variedad de enfoques de experimentación reguladora adaptados a las tecnologías emergentes exige una taxonomía consolidada de instrumentos y conceptos.
Estos "sandboxes" crean espacios en los que las autoridades invitan a las empresas a probar productos o servicios innovadores que desafían los marcos jurídicos vigentes y en ellos las empresas participantes obtienen una exención de determinadas disposiciones legales o procesos de cumplimiento para poder innovar.
Los enfoques de los "sandboxes" regulatorios varían, pero comparten características comunes: son temporales, con un proceso de prueba que suele limitarse a seis meses; reúnen a reguladores y empresas; renuncian a las disposiciones legales existentes y proporcionan apoyo jurídico a medida para un proyecto específico, a menudo basado en el método de ensayo y error; y la información y los datos técnicos y de mercado que recogen ayudan a las autoridades reguladoras a evaluar si los marcos jurídicos específicos son adecuados para su propósito o necesitan ser adaptados.
El ejemplo del sandbox en el ámbito financiero
El informe toma como referencia los espacios aislados de regulación, que son prometedores para ámbitos con ciclos de innovación rápidos, como la IA y la tecnología financiera (fintech).
Hasta la fecha existen en todo el mundo un centenar de iniciativas de "sandbox", incluidos los de fintech y privacidad. La Autoridad de Conducta Financiera del Reino Unido (FCA) fue pionera en la creación del primer sandbox regulatorio fintech en 2015, y muchos países siguieron su ejemplo. El centro de pruebas de la Autoridad Monetaria de Singapur facilita la experimentación en vivo de productos y servicios de inteligencia artificial. El ICO del Reino Unido está probando el impacto de productos y servicios más amplios relacionados con la IA, en particular en los marcos de privacidad. Por su parte, la propuesta de Reglamento europeo de IA de la Comisión Europea, incluye, como hemos indicado, incluye un espacio aislado de regulación destinado a proporcionar la flexibilidad adecuada, protegiendo al mismo tiempo a los consumidores y los derechos fundamentales.
En España, la Ley 7/2020, de 13 de noviembre (LA LEY 21826/2020), para la transformación digital del sistema financiero, dota a las autoridades competentes y a los promotores de innovaciones de base tecnológica aplicables en el sistema financiero y a los usuarios de servicios financieros de instrumentos, como estos entornos, que les ayuden a comprender mejor las implicaciones de la transformación digital, a fin de aumentar la eficiencia, la calidad de los servicios y, particularmente, la seguridad y la protección frente a los nuevos riesgos tecnológicos financieros.
Las enseñanzas extraídas de las empresas de tecnología financiera demuestran que entre las ventajas de los entornos aislados de regulación figuran la facilitación de la financiación y la entrada en el mercado de las empresas y el aumento de la velocidad de comercialización mediante la reducción de los costes administrativos y de transacción. Para los reguladores, las pruebas realizadas en los "sandboxes" aportan información a los procesos de elaboración de políticas y regulación. Además, los "sandboxes" regulatorios ofrecen un enfoque dinámico y basado en pruebas de la regulación y la interpretación reguladora. De hecho, uno de los resultados más comunes de los sandboxes es que los reguladores emiten enmiendas u orientaciones sobre cómo interpretar los marcos jurídicos.
Por otra parte, entre los retos que han planteado hasta la fecha los "sandboxes" regulatorios de las empresas de tecnología financiera figura la falta de criterios de admisibilidad y procesos de prueba armonizados y normalizados. Los espacios aislados requieren un diseño y unas pruebas cuidadosos; unas especificaciones inadecuadas pueden perjudicar a la competencia, a los consumidores y a los datos públicos o personales. Además, en la actualidad los "sandboxes" se consideran marcos de pruebas a pequeña escala con cohortes limitadas, pero a medida que las empresas se den cuenta de la ventaja competitiva que supone entrar en uno de estos entornos, podría haber presiones para ampliarlos. Los reguladores también podrían optar por aumentar la participación, con el fin de recopilar más datos que sirvan de base a las políticas, lo que exigiría automatizar algunos procesos del sandbox utilizando herramientas de tecnología de gobernanza y regulación (govtech y regtech). Por último, dado que la divergencia de normas puede llevar a algunos entornos aislados a ser más indulgentes, lo que fomenta el arbitraje y la búsqueda del foro más ventajoso, sería valiosa la compatibilidad internacional entre los entornos aislados y la colaboración entre jurisdicciones.
Retos y soluciones que plantean los entornos de prueba regulatorios
El informe detalla los principales retos que plantean estos entornos y las soluciones específicas que cabe aplicar frente a ellos:
1. Los productos y servicios de IA son complejos y a menudo afectan a varios ámbitos, por lo que en sus pruebas deben participar varias autoridades reguladoras. Debe haber cooperación entre empresas, autoridades de competencia, oficinas de propiedad intelectual, organismos nacionales de normalización y autoridades de protección de datos, entre otros.
2. Las autoridades reguladoras necesitan conocimientos técnicos sobre IA para tomar decisiones sobre el acceso a los entornos aislados y desarrollar marcos de pruebas. Las autoridades reguladoras pueden desarrollar nuevos programas de desarrollo de capacidades, o adaptar y fortalecer los existentes, para mejorar las competencias relacionadas con la IA y la transformación digital en los organismos públicos.
3. Interoperabilidad regulatoria internacional y posible papel de la política comercial. Se necesita una cooperación y coordinación internacionales más sólidas para los mecanismos de experimentación regulatoria, incluidos los sandboxes regulatorios. Los sandboxes de IA y otros enfoques de experimentación regulatoria en tecnologías emergentes podrían asimilarse a "reglamentos técnicos" en el futuro a través de "acuerdos de equivalencia" dentro de los acuerdos comerciales sobre obstáculos técnicos al comercio (OTC).
4. La cooperación internacional sobre marcos de experimentación interoperables, incluidos los parámetros de prueba para la IA, podría beneficiar a la innovación y reducir la fragmentación normativa.
5. En cuanto a su impacto sobre la innovación y la competencia, se considera fundamental tener en cuenta el impacto en la innovación y la competencia. Los "sandbox" regulatorios podrían afectar a los consumidores, los derechos fundamentales, la innovación y la competencia, lo que debería evaluarse lo antes posible.
6. Interacciones con otros mecanismos a favor de la innovación: Los "sandbox" como herramientas de regulación-experimentación deben evaluarse en combinación con otros mecanismos reguladores e institucionales y no de forma aislada. Existen fuertes vínculos entre la regulación de la IA y las normas sobre IA, especialmente en el caso de la regulación de la IA basada en el riesgo que se apoya en normas. Los "sandbox" de la IA ponen a prueba la idoneidad de las normativas o servicios de IA con respecto a las normas de IA existentes. Sin embargo, las normas y los espacios aislados de regulación de la IA se encuentran en una fase temprana de desarrollo y deben informarse mutuamente.