Las novedades incluidas en el número 78 del Diario La Ley CIBERDERECHO, correspondiente al mes de diciembre, son estas:
INTELIGENCIA ARTIFICIAL
- • Los negociadores europeos alcanzan el acuerdo definitivo sobre el Reglamento de inteligencia artificial
Tras dos días de intensas sesiones negociadoras, Consejo, Parlamento y Comisión europeos han cerrado el acuerdo sobre el que será la primera gran norma internacional sobre esta tecnología.
- • La Comisión Europea impulsa el ‘Pacto de la IA’ para que las empresas planifiquen la aplicación de las medidas previstas en el futuro Reglamento
El Pacto de IA se lanzará oficialmente tras la adopción formal de la Ley de IA, con la finalidad de obtener el compromiso voluntario de la industria de anticipar la Ley de IA y de comenzar a aplicar sus requisitos antes del plazo legal.
El objeto de este entorno controlado de pruebas, según se explica en la exposición de motivos del Real Decreto, será doble: por una parte, establecer un entorno controlado de pruebas para ensayar el cumplimiento de ciertos requisitos por parte de algunos sistemas de inteligencia artificial que puedan suponer riesgos para la seguridad, la salud y los derechos fundamentales de las personas; por otra, regular el procedimiento de selección de los sistemas y entidades que participarán en el entorno controlado de pruebas.
- • Europa confía en cerrar el acuerdo político sobre el Reglamento de IA el próximo día 6 de diciembre
Fuentes parlamentarias consultadas por Diario LA LEY sostienen que está previsto que ese acuerdo se produzca durante la quinta sesión de los trílogos, que se celebrará esta semana.
- • Alemania, Francia e Italia presentan una propuesta conjunta sobre la IA generativa, en el marco de la elaboración del Reglamento de Inteligencia Artificial
Frente a la propuesta del Parlamento de regular los sistemas fundacionales, sobre los que se desarrollan los LLM, estos tres países se manifiestan partidarios una regulación más acorde con un enfoque basado en el riesgo, pues los riesgos inherentes residen en la aplicación de los sistemas de IA más que en la propia tecnología. Por ello, apoyan una autorregulación obligatoria a través de códigos de conducta
- • La OCDE evalúa el estado de implementación de sus Principios sobre la IA a los cuatro años de su adopción
Este informe hace un balance de las iniciativas lanzadas por países de todo el mundo para implementar los Principios de IA de la OCDE que se informaron al Observatorio de Políticas de IA de la OCDE en mayo de 2023. Proporciona una descripción general de las estrategias nacionales de IA, incluidos sus órganos de supervisión y seguimiento, grupos asesores de expertos. , así como sus marcos de seguimiento y evaluación. También analiza los diversos enfoques regulatorios que los países están adoptando para garantizar la confiabilidad de la IA, como marcos éticos, regulaciones específicas de la IA y entornos limitados de pruebas regulatorios. Además, el informe ofrece ejemplos de políticas para cada uno de los diez principios de IA de la OCDE para facilitar el aprendizaje cruzado entre los responsables de la formulación de políticas.
- • Estados Unidos, Reino Unido y otros dieciséis estados aprueban unas directrices para desarrollar una IA cibersegura desde el diseño
Estas directrices, que no ha suscrito España, pretender ayudar a los desarrolladores de sistemas que utilicen IA a garantizar que la ciberseguridad sea una condición previa esencial de estos sistemas y una parte integral de su proceso de desarrollo, desde el principio y en todo momento. Han sido dirigidas por el Centro Nacional de Seguridad Cibernética del Reino Unido y desarrolladas con la Agencia de Seguridad de Infraestructura y Ciberseguridad de EE. UU.
- • El Reino Unido anuncia que no regulará la inteligencia artificial 'a corto plazo'
Al gobierno británico le preocupa que una regulación demasiado severa de esta tecnología pudiera frenar el crecimiento de esta industria, en la que el país ocupa un papel relevante. Por ello, se muestra más partidario de mantener un enfoque "pro-innovación" en de esta tecnología.
- • Sin datos de carácter personal no hay inteligencia artificial. Reflexiones en torno a la inteligencia artificial y los datos en la justicia Inteligencia Artificial, por Iñaki Esparza Leibar y Francisco Javier Fernández Galarreta
Desde hace un tiempo todo absolutamente es Inteligencia Artificial y cada poco las palabras clave del debate y las perspectivas cambian. Ni siquiera el concepto de Inteligencia Artificial está fijado de manera univoca. Es un debate extremadamente «líquido», en un contexto general líquido, donde la realidad tecnológica va muy por delante del debate multidisciplinar que se desarrolla de forma asimétrica y que, a su vez, va muy por delante del legislador. En este escenario en el que el aporte de información es incesante a la vez que cualitativamente relevante, fijar ideas, generar doctrina es una pretensión —en lo que a nosotros concierne— inalcanzable, todo lo más podemos especular, reflexionar, ubicarnos poco a poco, generar un lenguaje y una visión comunes. Es precisamente con el propósito de intentar situarnos en un debate tan complejo, y con la intención de aportar alguna nueva reflexión al mismo, como abordamos las siguientes líneas.
Este comentario analiza el Real Decreto 817/2023, de 8 de noviembre (LA LEY 29419/2023), por el que se establece un entorno controlado de pruebas para los sistemas de inteligencia artificial. Las denominadas «cajas de arena» representan un gran avance hacia la mejora y el control de las aplicaciones y los software basados en inteligencia artificial. Con el Real Decreto comentado, España cuenta ahora con una regulación que sugiere una clara apuesta por una inteligencia artificial centrada en la persona.
- • Inteligencia artificial policial y judicial: intereses en conflicto, por Ruth Sala Ordóñez
El presente artículo centra el estudio en algunas de las herramientas de Inteligencia Artificial de las que se vale la Policía y el Sistema Judicial. Se trata de evidenciar la falta de control que hay sobre las funcionalidades de los softwares de Inteligencia Artificial cuyo alcance y configuración no ha sido supervisado. De forma concluyente podríamos determinar la necesidad de desarrollar una regulación detallada acerca de los límites y parámetros dentro de los cuales se debe desarrollar la Inteligencia Artificial y cuáles son los límites de uso por los operadores jurídicos.
- • Regreso a Bletchley Park: ¿Es la Inteligencia Artificial una innovación segura?, por Miguel L. Lacruz Mantecón
Este artículo, en la línea marcada por el anterior del autor publicado en esta revista («La deslocalización de la Inteligencia», Diario La Ley, N.o 62, Sección Ciberderecho, 20 de mayo 2022) pone de relieve los aspectos menos bonitos de esta nueva tecnología de la Inteligencia artificial. Partiendo de una recientísima reunión en Bletchley Park de líderes y especialistas mundiales para debatir sobre IA, la principal conclusión a la que se llega tras el examen de estos datos, es que la cuestión de la seguridad de la IA es un problema por resolver, y la buena noticia es que por fin parece que alguien se preocupa por esto.
Para poner de relieve los riesgos de la IA, expongo los sistemas inteligentes que, conforme a la famosa Ley de la Inteligencia Artificial, texto europeo que propone un Reglamento regulador de la misma, presentan mayor peligro, en realidad tanto que la respuesta de dicha Ley es prohibir estos sistemas y sólo permitirlos en contados casos. Se refieren así los sistemas que trabajan sobre datos biométricos, como son los de perfilado predictivo, los sistemas de identificación de personas, de reconocimiento de emociones y lectura del pensamiento. Trato asimismo de los sistemas de persuasión y alteración subliminal de comportamientos, y del famoso sistema de crédito social chino, precedidos de una idea acerca de la para algunos disparatada, para otros una certeza futura, «Superinteligencia». Finalmente, trato de los modelos fundacionales o sistemas generalistas, como el famoso ChatGPT, que suponen una amenaza no pequeña para la mente humana, sobre todo por la dependencia que nos vamos a crear de estos mismos sistemas. Al final nos vamos a convertir en una especie tan dependiente de los asistentes de IA que tendremos que preguntarle a Google cómo hay que comer un plato de lentejas.
Para remediar o al menos paliar estos problemas habrá que insertar en todo sistema inteligente controles técnicos, para impedir el mal uso de los mismos, así como para evitar los resultados no previstos. También sería necesario un procedimiento de marcas de agua para cualquier producto de los modelos fundacionales que permitan su verificación como productos sintéticos. Desde luego, la técnica no basta para asegurar un uso legítimo y no dañino de los sistemas inteligentes, y para complementarla se ha propuesto dos vías, la ética y la jurídica. Pero la ética queda en el ámbito de lo deseable, y para imponer eficazmente esta seguridad no queda otra vía que la regulación jurídica: establecer mandatos y prohibiciones específicos que garanticen la regulación del uso de las tecnologías de IA de forma segura.
Se ha intentado utilizar la vía de la ética, para lograr que los comportamientos de los sistemas inteligentes fueran aceptables, en el sentido de que no causasen daño ni lesionasen derechos humanos, hablándose así de una IA alineada con los valores humano
Este trabajo informa sobre la Cumbre internacional de Bletchley Park sobre seguridad de la Inteligencia artificial, y las declaraciones efectuadas en dicha reunión. Expone las aplicaciones de IA que pueden presentar mayor peligrosidad, comenzando por la debatida Superinteligencia y los sistemas de datos biométricos, como son el perfilado predictivo, los sistemas de identificación de personas, de reconocimiento de emociones y lectura del pensamiento. Trata asimismo de los sistemas de persuasión y alteración subliminal de comportamientos, del sistema de crédito social y de los modelos fundacionales o sistemas generalistas.
AGENCIA ESPAÑOLA DE SUPERVISIÓN DE LA IA
- • Se constituye el Consejo Rector de la Agencia Española de Supervisión de la Inteligencia Artificial
Además de los altos cargos previstos por los Estatutos de la Agencia, se ha designado a Nuria Oliver como experta independiente, para ocupar la vocalía correspondiente al ecosistema de Inteligencia Artificial en España. Este Consejo elegirá a la persona titular de la AESIA.
INTELIGENCIA ARTIFICIAL EN EL DERECHO
- • El Colegio de abogados de California presenta una guía con recomendaciones para el uso de la IA Generativa por los profesionales
La orientación emitida destaca que la IA Generativa es una herramienta de amplia aplicación para el ejercicio de la abogacía y de las funciones administrativas relacionadas con la misma, independientemente del tamaño de la firma y de las áreas de práctica. Pero, como cualquier tecnología, la IA generativa debe utilizarse de manera que se ajuste a las obligaciones de responsabilidad profesional del abogado. En particular, se destaca, el abogado debe comprender los riesgos y beneficios de la tecnología utilizada en la prestación de servicios jurídicos. La aplicación de estas obligaciones dependerá de una serie de factores, incluyendo el cliente, el asunto, el área de práctica, el tamaño de la firma, y las propias herramientas, que van desde las gratuitas y de fácil acceso hasta las creadas a medida, con formatos propios.
DIGITALIZACIÓN DE LA JUSTICIA
- • El Consejo aprueba definitivamente el Reglamento y la Directiva sobre digitalización de la cooperación judicial transfronteriza en asuntos civiles, mercantiles y penales
Este Reglamento establece el marco jurídico para la comunicación electrónica en el contexto de los procedimientos transfronterizos de cooperación judicial en materia civil, mercantil y penal y el acceso a la justicia en materia civil y mercantil con repercusiones transfronterizas, tal como se regula en los actos de la UE sobre cooperación judicial en materia civil, mercantil y penal.
PROTECCIÓN DE DATOS
- • El Comité Europeo de Protección de Datos aprueba unas directrices sobre las técnicas de seguimiento permitidas por la Directiva de ePrivacy
Estas Directrices pretenden aclarar qué operaciones técnicas, en particular qué técnicas de seguimiento, están incluidas en el ámbito de aplicación de la Directiva, y proporcionar una mayor seguridad jurídica a los responsables del tratamiento de datos y a los particulares
- • La controversia sobre la monetización de la cesión de los datos personales: El caso de Meta, por Maite Sanz de Galdeano
La verdadera novedad en la propuesta de Meta no reside en que nuestros datos personales y nuestros contenidos vayan a ser cedidos y utilizados para recibir publicidad personalizada, lo auténticamente novedoso es que en adelante esto podría evitarse pagando dinero. Y esto es así porque, para adaptarse a las exigencias de la normativa europea de protección de datos y derechos digitales, Meta tiene necesariamente que recabar un consentimiento expreso para esa cesión de datos a efectos publicitarios. Para ello ha optado por ofrecer una alternativa: o el consentimiento expreso, o el pago de una cantidad de dinero.
- • Principios de protección de la privacidad aplicables a los chatbots basados en grandes modelos de lenguaje
La autoridad de protección de datos y libertad de la información de Hamburgo, ha emitido un documento en el que presenta un listado de control o checkist, para el uso de chatbots basados en grandes modelos de lenguaje
- • El TJUE establece el requisito de la culpabilidad para imponer sanciones por infracción del RGPD
Solo una infracción culpable del Reglamento General de Protección de Datos (LA LEY 6637/2016) puede dar lugar a la imposición de una multa administrativa. Por otra parte, cuando el destinatario de la multa forme parte de un grupo de sociedades, la multa debe calcularse sobre la base del volumen de negocios del grupo
- • Tratamiento de datos personales: las decisiones adoptadas por una autoridad de control en el marco del ejercicio indirecto de los derechos del interesado son jurídicamente vinculantes
Un juez debe poder comprobar los motivos y las pruebas en las que se basan dichas decisiones. Para comprobar el fundamento de las razones invocadas para justificar la limitación de esa información, debe poder ponderar igualmente los objetivos de interés público perseguidos y la necesidad de garantizar a los ciudadanos el respeto de sus derechos procesales.
- • La AEPD publica una Guía sobre tratamientos de control de presencia mediante sistemas biométricos
La Guía establece restricciones en los tratamientos biométricos realizados para el control de presencia cuando se toman decisiones automatizadas sin intervención humana que tengan efectos jurídicos sobre la persona o le afecten significativamente de modo similar. En todo caso, para poder captar datos biométricos, de forma previa al inicio del tratamiento, será obligatoria la realización de una Evaluación de Impacto para la Protección de Datos en la que, entre otros aspectos, se acredite la superación del triple análisis de idoneidad, necesidad y proporcionalidad del tratamiento.
- • La AEPD sanciona al padre de un menor que crea un perfil falso en Instagram utilizando la foto de otro menor
Se sanciona al padre del menor con una multa de 10.000 euros por incumplimiento o cumplimiento deficiente de la obligación de vigilar lo que hace su hijo.
- • La AEPD sanciona a un hotel por fotocopiar los DNI de los clientes
La normativa sectorial exige a los establecimientos hoteleros la recogida de ciertos datos de los clientes, entre los que se encuentra el número del documento de identidad, por lo que el escaneado del documento completo constituye un tratamiento no necesario de los clientes.
- • Estados Unidos tramitará una reforma legislativa para aumentar la protección de la privacidad de sus ciudadanos
El proyecto, bipartidista, propone modificar la Sección 702 de la Ley de Vigilancia de Inteligencia Extranjera (Foreign Intelligence Surveillance Act, FISA)
- • A 7 de cada 10 internautas les preocupa su privacidad, pero solo la mitad lee la política de privacidad al registrarse en una página web
El I Estudio sobre el Estado de la Privacidad Digital, presentado por IAB Spain analiza la percepción que los usuarios tienen sobre la privacidad digital. También profundiza en cuál es el nivel de compresión y entendimiento que tienen los usuarios y profesionales de la industria de la publicidad digital en esta materia, además de los retos que a futuro presenta la gestión de datos.
LEY DEL DATO
- • El Parlamento Europeo aprueba la Ley del Dato (Data Act)
El objetivo del nuevo Reglamento consiste no solo en fomentar el desarrollo de productos conectados o de nuevos servicios relacionados, sino también en estimular el desarrollo de servicios totalmente novedosos que utilicen datos, incluso procedentes de diversos productos conectados o servicios relacionados. Para ello establece reglas sobre el intercambio de datos generados mediante el uso de productos conectados o servicios relacionados (por ejemplo, Internet de las cosas, maquinaria industrial) y permite a los usuarios acceder a los datos que generan
- • El Consejo de la UE aprueba definitivamente el Reglamento de datos
La nueva norma establece reglas sobre el intercambio de datos generados mediante el uso de productos conectados o servicios relacionados (por ejemplo, Internet de las cosas, maquinaria industrial) y permite a los usuarios acceder a los datos que generan. Además, en circunstancias excepcionales o emergencias, como inundaciones e incendios forestales, los organismos del sector público podrán acceder y utilizar los datos en poder del sector privado, estipula la nueva ley. Según la Comisión, este Reglamento contribuirá al desarrollo de nuevos servicios, particularmente en inteligencia artificial, donde se requieren grandes cantidades de datos para el entrenamiento de algoritmos.
ESPACIO EUROPEO DE DATOS DE SALUD
- • El Consejo adopta su posición sobre el futuro Reglamento europeo de datos de salud(EHDS)
Se trata de una propuesta presentada por la Comisión Europea en mayo de 2022, con el objetivo de mejorar el acceso y el control de las personas sobre sus datos electrónicos personales de salud, al tiempo que permite reutilizar con seguridad determinados datos con fines de investigación e innovación.
SERVICIOS DIGITALES
- • La Comisión envía una solicitud de información a Amazon en virtud de la Ley de Servicios Digitales
La Comisión pide a Amazon que facilite más información sobre las medidas que ha adoptado para cumplir las obligaciones relacionadas con las evaluaciones de riesgos y las medidas de mitigación para proteger a los consumidores en línea, en particular en lo que respecta a la difusión de productos ilegales
DESCONEXIÓN DIGITAL
- • El derecho a la desconexión digital debe ser respetado por todos los trabajadores no solo por los jefes
La trabajadora realizó continuas comunicaciones a su superior durante el periodo vacacional de éste, con mensajes y llamadas al teléfono personal; importunando del mismo modo a sus compañeros.
CHIPS
- • La Comisión impulsa el sector de los semiconductores en Europa con la puesta en marcha de la Empresa Común de Chips
El nuevo organismo, dotado de un presupuesto de 15.800 millones de euros hasta 2030, será la principal ejecutora de la iniciativa Chips para Europa
CIBERSEGURIDAD
- • El Consejo y el Parlamento europeos alcanzan un acuerdo sobre el nuevo Reglamento de ciberresiliencia
El nuevo Reglamente establece que, a partir de su fecha de aplicabilidad, solo se comercialicen aquellos productos con elementos digitales que, habiendo sido debidamente suministrados, , instalados, mantenidos y utilizados para los fines previstos, o en condiciones de uso que se puedan prever razonablemente, cumplen los requisitos esenciales de ciberseguridad establecidos en el mismo.
- • Para la persecución del abuso infantil a través de internet, el Parlamento Europeo propone evitar la vigilancia masiva y optar por medidas específicas y proporcionadas
La eurocámara plantea la necesidad de un equilibrio entre la necesidad de luchar contra el abuso sexual infantil en línea y evitar la vigilancia generalizada de Internet, de forma que solo si las medidas de mitigación no son suficientes, se utilizarán órdenes de detección validadas por un tribunal para rastrear material ilegal.