Las novedades incluidas en el número 77 del Diario La Ley CIBERDERECHO, correspondiente al mes de noviembre, son estas:
INTELIGENCIA ARTIFICIAL
- • Puesta en marcha del entorno controlado de pruebas de inteligencia artificial
El Consejo de Ministros ha aprobado un Real Decreto para abrir la convocatoria a empresas para participar en el entorno controlado de pruebas -sandbox- del Reglamento Europeo de Inteligencia Artificial.
- • Se presenta un borrador de cláusulas contractuales para la compra de sistemas de IA de alto riesgo por entidades públicas
Este modelo de cláusulas contractuales sobre IA de la UE representan una herramienta fundamental para que las autoridades públicas la utilicen y la pongan a prueba en sus futuras adquisiciones de tecnología de IA. Contienen disposiciones específicas para los sistemas de IA y sobre asuntos regulados por la futura Ley de IA, excluyendo así otras obligaciones o requisitos que puedan surgir en virtud de la legislación aplicable pertinente, como el Reglamento general de protección de datos (LA LEY 6637/2016). Además, estas cláusulas contractuales modelo de la UE no constituyen un acuerdo contractual completo y deben adaptarse a cada contexto contractual específico.
- • La Regulación de la Inteligencia Artificial en Europa: un cambio imprescindible en el horizonte regulatorio
Este artículo aborda la emergente regulación de la Inteligencia Artificial (IA) en la Unión Europea, destacando los avances, desafíos y consideraciones políticas, técnicas y éticas en juego. Se destaca la ambición de la UE de ser pionera en establecer una regulación integral de la IA y cómo esto se ve reflejado en la propuesta de la Ley de IA de la UE. Además, se profundiza en las implicaciones de los estándares técnicos, el interés en herramientas de evaluación de riesgos y cumplimiento, y la importancia de la auditoría de sistemas de IA.
- • La cuarta sesión de la negociación sobre el Reglamento de IA se centrará en los sistemas de alto riesgo, los modelos fundacionales y el uso de la tecnología en el ámbito policial
Los sistemas de alto riesgo y los modelos fundacionales, sobre los que se desarrollan los grandes modelos de lenguaje (LLM) que sustentan las aplicaciones de IA generativa, como ChatGPT, Bard o Lambda, junto con el uso de los sistemas inteligentes por las fuerzas policiales, van a protagonizar la cuarta sesión de negociaciones (trílogos) sobre el Reglamento de IA.
- • El uso de la IA generativa por las empresas: oportunidades y riesgos jurídicos
Una reciente jornada celebrada en Madrid ha permitido conocer de mano de relevantes expertos las implicaciones que el uso de estas tecnologías en el ámbito de la empresa, junto con algunas pautas de gobernanza que puedan regular su uso en las organizaciones. Además, la eurodiputada Pilar del Castillo dio cuenta de las últimas novedades en la tramitación del Reglamento europeo de IA.
- • El presidente Biden emite una orden ejecutiva para desarrollar en los EEUU una inteligencia artificial segura y confiable
La Executive Order on Safe, Secure, and Trustworthy Artificial Intelligence establece nuevos estándares para el desarrollo de una IA segura, la protección de la privacidad de los estadounidenses, la promoción de la equidad y los derechos civiles, la defensa de los consumidores y trabajadores, la promoción de la innovación y la competencia, promover el liderazgo estadounidense en materia de IA y garantizar el uso gubernamental responsable y eficaz de la IA.
- • Los expertos valoran positivamente la Orden ejecutiva del presidente Biden para regular el uso de la IA en los Estados Unidos
La reciente Orden Ejecutiva emitida por el presidente Biden, sobre el desarrollo y uso seguro y fiable de la Inteligencia Artificial (Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence) demuestra que la Administración Biden se está tomando en serio su responsabilidad no sólo de fomentar un ecosistema de IA dinámico, sino también de aprovechar y gobernar la IA. La orden hace creíble el lema proclamado por la administración norteamerciana en el sentido de que los Estados Unidos están comprometidos con una IA confiable (para el pueblo estadounidense y la comunidad global en general) al ordenar a las agencias que garanticen la seguridad, promuevan el desarrollo respetuoso de los derechos y la colaboración internacional, y protejan contra la discriminación.
- • Hasta que llegue su regulación, la IA necesita unas reglas de gobernanza que impulsen su desarrollo y protejan a las personas
Un informe elaborado por DLA Piper ofrece pautas de gobernanza digital, para buscar un equilibrio entre regulación, cumplimiento normativo y aporte de valor comercial por las organizaciones
- • Las empresas desarrolladoras de modelos fundacionales, cada vez menos transparentes sobre su funcionamiento
Pese a que nueve de las diez empresas evaluadas se han comprometido voluntariamente con la administración Biden-Harris a gestionar los riesgos que plantea la IA, un nuevo método de valoración de la transparencia de estos modelos, desarrollado por las universidades de Stanford y Princeton y el MIT, evidencia que la mayoría de las mismas son cada vez menos transpararentes en cuanto al funcionamiento de estos modelos fundacionales
INTELIGENCIA ARTIFICIAL EN EL DERECHO
- • Evaluación y análisis crítico de modelos de lenguaje automatizados en el contexto del derecho español: un estudio comparativo
El presente estudio se enfoca en la evaluación y análisis crítico de diferentes modelos de lenguaje automatizados, incluyendo GPT-3.5, GPT-4, Bard y Cohere, en el contexto del Derecho Español. Se administraron pruebas relacionadas con el Derecho Constitucional, Civil, Penal y Procesal para evaluar la precisión y competencia de cada modelo en estas disciplinas. Los resultados revelan una variabilidad significativa en el rendimiento de los modelos, con algunas versiones mostrando un mejor desempeño que otras en áreas específicas del Derecho. Este estudio tiene como objetivo contribuir al entendimiento de las capacidades y limitaciones de los modelos de lenguaje en el ámbito jurídico, lo cual es crucial para considerar su implementación en tareas legales automatizadas y sistemas de apoyo en la toma de decisiones
- • La necesidad de sancionar penalmente la difusión de ciertas imágenes creadas con inteligencia artificial
En la era actual, muy aferrada a lo digital, la inteligencia artificial ha dado lugar a los deepnudes, imágenes hiperrealistas de personas desnudas generadas por algoritmos. Estas representaciones plantean desafíos significativos en términos de privacidad y protección de datos. Los deepnudes son el resultado de tecnología compleja que puede engañar a simple vista al parecer auténticos. Más allá de su creación y difusión, es vital comprender las devastadoras consecuencias sociales y psicológicas que enfrentan las víctimas. Ello subraya la necesidad imperante de reformar la legislación para abordar eficazmente la creación y difusión de deepnudes, incluyendo sanciones proporcionales y efectivas para disuadir a los infractores y proteger los derechos de las víctimas.
- • Proposición de Ley Orgánica de regulación de las simulaciones de imágenes y voces de personas generadas por medio de la inteligencia artificial
La propuesta incluye la creación de nuevos tipos penales para perseguir las acciones injuriosas en las que para su comisión se utilicen simulaciones de imágenes o voces de personas generadas por inteligencia artificial; la LO de protección de derecho al honor; la LEC; la LOPDGDD (LA LEY 19303/2018) y la Ley Electoral
SERVICIOS DIGITALES
- • La Comisión recomienda a los Estados miembros que agilicen la aplicación de la Ley de Servicios Digitales para mejorar la respuesta frente a los contenidos ilegales en línea
Se insta a designar ya a una autoridad independiente que forme parte de una red de futuros coordinadores de servicios digitales, antes del plazo legal del 17 de febrero de 2024. Además, la Comisión propone un mecanismo de respuesta a incidentes para atajar la difusión de contenidos ilegales en línea, especialmente cuando tal difusión plantee un riesgo claro de intimidar a grupos de población o de desestabilizar las estructuras políticas y sociales de la Unión.
- • La CNMV ha abierto un expediente sancionador por posibles infracciones en campañas publicitarias de criptoactivos
Es la primera vez que la CNMV informa de la apertura de un expediente en esta materia para recordar la necesidad de seguir y respetar los preceptos que reoge el citado texto
- • La Comisión envía una solicitud de información a AliExpress en el marco de la Ley de Servicios Digitales
La Comisión pide a AliExpress que facilite más información sobre las medidas que ha adoptado para cumplir las obligaciones relacionadas con la evaluación de riesgos y las medidas de mitigación para proteger a los consumidores en línea, en particular en lo que respecta a la difusión de productos ilegales en línea, como los medicamentos falsos.
PROTECCIÓN DE DATOS
- • El Supervisor Europeo de Protección de Datos hace público su dictamen sobre la propuesta de Reglamento de IA
El SEPD se muestra dispuesto a asumir la función de órgano supervisor del uso de la IA por las instituciones europeas, pero ello implica que deberían aclararse sus nuevas tareas, deberes y recursos. Igualmente reitera su petición de que se designe a las autoridades de nacionales de protección de datos como autoridades nacionales de supervisión con arreglo al Reglamento de IA.
- • LA AEPD impone la primera sanción por la utilización de patrones oscuros en el diseño de la interfaz de usuario de una página web para configurar las opciones de privacidad
Los patrones oscuros o dark patterns son aquellos interfaces o diseños de experiencia de usuario de páginas web, apps o redes sociales, destinados a influenciar en el comportamiento y en las decisiones de los usuarios de las mismas, de forma que dichas personas tomen decisiones potencialmente perjudiciales para la protección de sus datos personales.
- • El TJUE deniega la suspensión cautelar de la aplicación del nuevo marco de transferencia internacional de datos entre la UE y los EEUU
El Tribunal considera que el demandante no ha explicado los motivos por los que la transferencia de sus datos personales, sobre la base de la decisión impugnada y el artículo 45 (LA LEY 6637/2016)(1) del RGPD, a organizaciones establecidas en Estados Unidos le causaría un perjuicio grave.
- • El Comité Europeo de Protección de Datos prohíbe a Meta la emisión de publicidad basada el comportamiento del usuario
En una decisión urgente y vinculante que acaba de emitir, el CEPD declara que la única base legítima para este tratamiento es el consentimiento del interesado.
IDENTIDAD DIGITAL
- • El Consejo y el Parlamento europeos alcanzan un acuerdo provisional sobre el Reglamento de identidad digital (eIDAS 2)
Según esta norma, los estados miembros ofrecerán a los ciudadanos y empresas un mecanismo de identificación y autenticación electrónicas seguras y fiables, mediante una cartera o monedero digital que cada ciudadano podrá llevar en su teléfono móvil y que les permitirá identificarse, con plena validez, ante el sector público de la UE, los proveedores de servicios privados que requieran una autenticación sólida de los usuarios y las grandes plataformas en línea
NEURODERECHOS
- • La Declaración de León sobre la neurotecnología europea: Un primer paso necesario
Impulsada por la presidencia española del Consejo de la Unión Europea, los ministros de telecomunicaciones aprobaron el pasado 24 de octubre la llamada Declaración de León sobre la «neurotecnología europea»(*). A primera vista, un texto puramente político, bienintencionado, del que no podría esperarse mucho más que el marcar un camino y señalar unas orientaciones generales capaces de suscitar un consenso inicial, sin compromisos ni concreciones relevantes. Pero también podría ser el primer paso de una política europea pensada en serio.
CRIPTOACTIVOS
- • El Gobierno anuncia que adelantará seis meses la aplicación en España del Reglamento MICA, para que entre en vigor en diciembre de 2025
Esta opción, en línea con la petición que viene realizando la Autoridad Europea de Valores y Mercados a los Estados miembros, permitirá a la CNMV iniciar la supervisión del sector antes de la fecha inicialmente prevista, con la finalidad de ofrecer seguridad jurídica y mayor protección a los inversores españoles en este tipo de activos.
EURO DIGITAL
- • El Banco Central Europeo iniciará la fase de preparación del euro digital el próximo 1 de noviembre
La fase de preparación sentará las bases para un posible euro digital y los trabajos incluirán la finalización de las normas de funcionamiento y la selección de los proveedores que podrían desarrollar la plataforma y la infraestructura
DRONES
- • La Comisión adopta medidas para hacer frente a las amenazas que pueden plantear el uso de drones civiles
Su finalidad es establecer una política global de la UE en materia de defensa contra los drones a fin de velar porque los rápidos avances tecnológicos y el creciente número de drones no den lugar a un aumento incontrolado de los peligros en el espacio civil
TECNOLOGÍA EN LA ABOGACÍA
- • La abogacía, a la cabeza de las profesiones impactadas por la Inteligencia Artificial
Según un informe del que recientemente se ha hecho eco la Harvard Business Review, si bien queda claro el potencial de la IA para aumentar roles de alto valor e intelectualmente exigentes, la profesión jurídica será de las más afectadas por la generalización de la IA por su mayor dependencia de habilidades cognitivas como ordenar información y memorizar. Por el contrario, las habilidades creativas o basadas en fortalezas, como la originalidad, expresión oral o fuerza explosiva, tienen una exposición menor o nula a la IA
- • Solo tres de cada diez bufetes reserva un presupuesto específico para innovación
La inversión en bases de datos jurídicas repunta como innovación tecnológica en la que más apuestan los despachos de abogados.
NOTARIADO DIGITAL
- • Los notarios ponen en marcha el protocolo electrónico, que permitirá la circulación de millones de copias electrónicas
Se abre la Sede Electrónica Notarial a los ciudadanos y a las empresas, a la que se accede a través del Portal Notarial del Ciudadano. El Consejo General del Notariado calcula que las copias electrónicas que solicitarán ciudadanos y empresas podrían superar los 13 millones al año.
DIGITALIZACIÓN DE LA JUSTICIA
- • Justicia desarrolla una herramienta que permite a los letrados realizar informes estadísticos automáticamente
Pilar Llop ha destacado que “la transformación digital mejora la experiencia de los profesionales de la Administración de Justicia y la relación de la ciudadanía con este Servicio Público”.
ALGORITMOS Y TRABAJO
- • La Comisión Europea presenta una campaña por el trabajo seguro y saludable en la era digital
La campaña «Trabajos saludables» de la EU-OSHA – Trabajo seguro y saludable en la era digital – ayudará a las empresas de la UE a garantizar unas condiciones de trabajo dignas y a proporcionar puestos de trabajo de calidad.
CIBERSEGURIDAD
- • Microsoft pone en marcha la próxima generación de sistemas de ciberseguridad, con el foco en la inteligencia artificial
La “Iniciativa de Futuro Seguro” integrará todas las áreas de la empresa para el desarrollo de nuevas herramientas de ciberseguridad, sobre la base de tres pilares: la ciberseguridad basada en IA, los avances en ingeniería de software y la defensa de una mayor aplicación de los estándares internacionales.