Carlos B Fernández. Una reciente jornada organizada en la Universidad CEU-San Pablo de Madrid ha servido para poner de relieve la importancia de la Carta española de Derechos Digitales en un contexto en el que una tecnología no regulada puede poner en riesgo derechos fundamentales de las personas.
Abrió la sesión Idoia Salazar, Presidenta de OdiseIA, y Profesora del CEU, quien destacó en primer lugar que a lo largo de los últimos años se ha avanzado mucho en el ámbito de la digitalización ética. En especial, la Carta española ha ayudado mucho en un proceso en el que la reciente Declaración Europea sobre los Derechos y Principios Digitales ha sido otro avance muy destacable.
La clave es que, tal como ha declarado la Comisión Europea, no se trata de regular la tecnología, sino el uso que se hace de ella. En particular esos usos que conllevan consecuencias negativas para terceros pero han sido causados de forma o inconsciente por quien las provoca. Un caso no infrecuente pero que se puede evitar por medio de la formación y el conocimiento. “Todos debemos ser más conscientes de las desventajas que ofrecen las tecnologías”, dijo.
Por ello, Salazar destacó la importancia de trabajar en la formación de los jóvenes, y también de las personas mayores, en materias como nuestra Carta de Derechos Digitales (LA LEY 16317/2021), sobre la que aún hay mucho desconocimiento, y no solo entre las últimas generaciones. “Saber tecnología, indicó, no implica saber programar, sino conocer el impacto de la tecnología”. Y concluyó subrayando que hace falta un cambio que no debe venir solo del área tecnológica, sino también del sector educativo. “Colegios, universidades y empresas deben trabajar para ello. Y es un tema urgente, porque la tecnología está avanzando a pasos agigantados, como se ha visto con ChatGPT”.
A continuación, Ricardo Palomo, Catedrático de Finanzas en Universidad CEU San Pablo y Delegado Rector para Transformación Digital, destacó el hecho de que solo hace 20 años hablar de derechos digitales habría parecido una cosa extraña. Sin embargo, hoy sabemos que regular la digitalización es necesario y delicado a la vez. Por ello, estamos en un momento muy ilusionante en el que, si somos conscientes del gran poder de los ciudadanos, podremos poner los límites que necesitamos a las plataformas.
Por su parte, Lorenzo Cotino, Catedrático Derecho Constitucional Universidad de Valencia y responsable de regulación y derechos de OdiseIA, puso de relieve que la Carta de Derechos Digitales (LA LEY 16317/2021) sitúa a los juristas en un terreno incómodo, porque es un derecho blando o softlaw. Tiene un carácter inspirador, pero carece de fuerza normativa, al contrario que la Carta de Derechos Digitales (LA LEY 16317/2021) Portuguesa, que sí la tiene. Por eso la Carta española puede ser considerada “una carta a los Reyes Magos, que se nos puede haber quedado un poco corta”. Sobre todo, añadió, porque probablemente en el futuro hablaremos de antes y después de la Inteligencia Artificial. En un contexto en el que esta tecnología está cobrando cada vez más fuerta, los estados liberales son los únicos a los que les preocupa preservar la dignidad y los derechos ante la tecnología. Por ello, concluyó, “donde va a haber que emplearse a fondo es en la aplicación del futuro Reglamento de IA, que es donde va a estar el verdadero bastión para la protección de nuestros derechos”.
Para concluir este turno de intervenciones iniciales, María Solano, Decana de la Facultad de Humanidades del CEU, señaló que la Carta de Derechos Digitales (LA LEY 16317/2021) está muy lejos de poder considerarse cerrada, dadas las consecuencias negativas que se ha visto que puedo traer la transformación digital de la sociedad, como las fake news, la manipulación o los sesgos. Unas cuestiones ante las cuales no había una regulación adecuada para defender los derechos de las personas. Por ello, subrayó, “es necesaria una verdadera formación en los valores éticos para aprender a utilizar el entorno digital de la forma más adecuada. Y esa formación debe comenzar desde el hogar y el entorno escolar”.
La Carta de Derechos Digitales. Una mirada al futuro
Intervino a continuación Carme Artigas, Secretaria de Estado de Digitalización e Inteligencia Artificial, quien se refirió a la Carta de Derechos Digitales (LA LEY 16317/2021) como “el proyecto que más llevo en el corazón”.
Explicó que esto se debe a que fue un proyecto pionero, cuando el debate sobre los derechos digitales no estaba sobre la mesa. Sin embargo, “hoy es un documento de referencia a nivel internacional y está más vigente y es más necesario que nunca”.
En este sentido, explicó que considera que su labor al respecto, una vez promulgada la Carta, es establecer los usos de su contenido en un entorno democrático. Todo ello, a partir de un mensaje claro: “la transformación digital no se puede hacer a cualquier precio, y menos renunciando a derechos que ha costado mucho conseguir. La tecnología es una herramienta de avance social solo si en el proceso garantizamos esos derechos. Por tanto, lograrlo debe ser una obligación que trascienda garantías y derechos, ya que, si no establecemos límites a la tecnología, no habrá vuelta atrás, no habrá una segunda oportunidad”.
Este proceso de digitalización humanista y garantista iniciado por España es muy ambicioso. Se caracteriza por ser un modelo de acuerdo con el cual es posible desarrollar entornos garantistas para los derechos digitales y apostar por la inclusión digital, poniendo de manifiesto que el humanismo tecnológico no solo son palabras.
Este enfoque, destacó Artigas, ha tenido ecos en eventos como la reciente Conferencia Ministerial de Economía Digital de la Organización para la Cooperación y el Desarrollo Económicos (OCDE), celebrada entre el 13 y el 15 de diciembre de 2022 en Canarias y que tuvo mucho éxito.
En estos foros destaca el papel de España como “el país que marcará la senda sobre lo que puede y no puede hacerse en materia de IA”, porque “los demás países confían en nosotros y en nuestra estrategia, que pone a las personas en el centro y ha permitido avances pioneros, como la creación de la Agencia Española de la IA”.
Esta influencia se ha visto en la Declaración Europea de Derechos Digitales, que ha tenido mucha influencia española, y se podrá apreciar también en la próxima Carta Latinoamérica de Derechos digitales, que se firmará el próximo mes de marzo en la Cumbre Iberoamericana que tendrá lugar en República Dominicana.
Pero, destacó también Artigas, esta preocupación por los derechos digitales solo tiene lugar en Europa. Por ello, “todo el mundo está mirando a Europa esperando que nos salga bien, porque fuera del marco jurídico europeo no hay un estándar legal, solo un marco moral”.
En este sentido, Carme Artigas puso énfasis en que la Carta española “es para los jóvenes”. “Si los mayores lo hacemos mal, añadió, no habrá una segunda oportunidad”. Por ello, en esta generación tenemos que resolver problemas como el del cambio climático y el de poner límites éticos al desarrollo tecnológico. En este proceso, “los jóvenes se tienen que involucrar en la defensa de los derechos digitales”, algo que frecuentemente no hacen porque son derechos de nueva generación que no se saben que se tienen. Sin embargo, las tecnologías plantean el reconocimiento de nuevos derechos, como el de no ser discriminado por un algoritmo, el acceso a una explicación humana ante una decisión algorítmica o la no comercialización de los datos cerebrales, que plantean un debate más urgente que nunca y que debe recibir el apoyo de los jóvenes.
Por eso, concluyó, “nuestra labor es de sensibilización”. Y en este sentido anunció la convocatoria de unas propuestas de colaboración para difundir la Carta a nivel nacional e internacional. Una iniciativa que se va a presentar la última semana de febrero en el marco del Mobile World Congress.
La Carta de Derechos Digitales y más allá
Seguidamente se abrió una mesa redonda, moderada por Yolanda Quintana, Cofundadora y secretaria general de la Plataforma por la Libertad de Información (PDLI), en la que un plantel de expertos abordó diferentes cuestiones relacionadas con la transformación digital y los derechos de las personas.
- • Identidad digital, pseudonimato y
Borja Adsuara, abogado, profesor y ponente Carta de Derechos Digitales (LA LEY 16317/2021), comentó a este respecto que uno de los mayores problemas que tenemos en la red es la verificación de la Identidad de nuestro interlocutor, en un contexto en el que suplantar la identidad de alguien es muy fácil.
Por ello, este experto considera esencial el tema de la identidad. “El 90% de los ciberdelitos que se cometen son estafas, unos delitos que se podrían evitar si hubiera un mecanismo de verificación de identidad de las partes”. Y algo similar ocurre en relación con el problema de la viralización de contenidos falsos.
Sin embargo, añadió, “aun no hemos sido capaces de verificar quién está detrás de una IP”. Una situación ante la que entiende que se plantean dos posibilidades: o reclamar la plena identificación de las partes, sin admitir seudónimos ni similares; o asegurar el anonimato, “que no es equiparable a la impunidad, advirtió”.
Por eso, añadió, se introdujo en la Carta española la figura del pseudonimato, una forma de anonimato que se puede levantar judicialmente en caso necesario, para responder de posibles acciones ilegales cometidas a su amparo, y con todas las garantías. “Tenemos que ser realistas, la virtud puede estar en el punto intermedio entre una y otra posición. Lo importante es tener las garantías para proteger nuestros datos personales. Vamos a sistemas en los que cada uno seamos garantes de nuestros datos y unos terceros puedan garantizar quiénes somos”.
Además, concluyó, con la próxima llegada del Reglamento IDAS2, se van a potenciar los servicios de los terceros de confianza que, mediante tokens, van a permitir acreditar la identidad real de las personas, preservando a la vez el anonimato o los datos personales que se deseen.
Luis Miguel González de la Garza, Abogado, consultor y profesor y Director de Divulgación de OdiseIA señaló a este respecto que la doctrina identifica seis neuroderechos: el derecho a la identidad personal; a la privacidad mental; al libre albedrío; al acceso justo y equitativo al aumento cognitivo y a la protección contra el sesgo.
Refiriéndose en particular al derecho a la privacidad mental, destacó que en la actualidad ya es posible obtener datos sobre el funcionamiento del cerebro de una persona mediante aplicaciones extractivas. Una posibilidad que afecta a derechos fundamentales como el de no declarar contra sí mismo. Igualmente, recientes dispositivos como el casco Kernell, permiten leer mediante resonancia magnética funcional los estados mentales de una persona, y también inducirlos, de forma que una persona obtenga placer mediante su uso. También puede favorecer procesos de memorización de contenidos, incluso en ancianos (y durante un tiempo determinado). Del mismo modo, sistemas como Entrode se pueden implantar en el cerebro de y cambiar la conducta del receptor, al igual que permiten alterar la memoria y transferirla a otros seres (ya se está haciendo en ratones).
Los neuroderechos pretenden limitar ese tipo de actividades, algo “que no va a pasar en China y en India, países donde se desconocen los derechos fundamentales, o en África, porque es un buen campo de pruebas”. Por ello, el reconocimiento de los neuroderechos es el único medio de limitar estas prácticas y limitarlas internacionalmente. “Hay que mirar hacia un futuro que hoy no se ve. Por eso defendemos la Carta de Derechos Digitales (LA LEY 16317/2021) y que la ONU adopte los neuroderechos como derechos universales, porque su alcance va a ser universal”.
Concluyó Gonzáles de la Garza destacando que “Hay quien piensa que con los derechos fundamentales actualmente reconocidos es suficiente, pero no se les puede hacer depender de la interpretación judicial que es muy variable. Los estados no son los más peligrosos, sino las grandes corporaciones internacionales, que son las que están realizando estas investigaciones. Para ello lo importante es el derecho internacional. La regulación nacional está muy bien y sirve de ejemplo, pero para que sean realmente útiles hace falta un tratado internacional".
Ana Aba Catoira, Profesora Titular Derecho Constitucional, Universidad A Coruña, autora y Directora Máster Derecho Digital, OdiseIA
El problema de la brecha digital, o como indicó Aba, las brechas digitales, porque hay varias, hace referencia a la desigualdad y a la exclusión en el acceso a la tecnología, la conectividad y las competencias o habilidades digitales, por razón de género, de edad y de discapacidad.
La tecnología tiene un potencial enorme, pero si no abordamos la digitalización de forma inclusiva, dejamos atrás a muchos, porque la digitalización agrava las brechas, las agranda y potencia la desigualdad socioeconómica. Así, por lo que se refiere a la igualdad digital, esta significa que las personas estén en el centro de la digitalización. La igualdad significa inclusión en condiciones de igualdad. E inclusión, en especial, en el ámbito laboral, que afecta particularmente a las mujeres.
Los grandes retos en digitalización, en este sentido, son aumentar la participación femenina, el reciclaje de las mujeres, potenciando su formación continua y la lucha contra los estereotipos y los sesgos, que se han importado de la sociedad. También transparencia algorítmica y sesgos, pare evitar la discriminación. La igualdad es un derecho que se proyecta a toda la sociedad.
En resumen, concluyó, que es importante potenciar la presencia femenina, para reducir la brecha de inclusión tecnológica, donde la presencia de la mujer es muy baja.
- • Una jurisdicción digital
Finalmente, Moisés Barrio, Letrado del Consejo de Estado, profesor, autor y ponente de la Carta, señaló que reciente normativa europea, como la Ley de Mercados Digitales (o DMA, por su abreviatura en inglés), establece un amplio conjunto de obligaciones para las grandes plataformas de Internet, como la retirada de contenidos y la solución de conflictos, además de la de tener que motivar sus decisiones al respecto. En este sentido, destacó que la Carta Española puede ayudar a la redacción de los términos de uso y a la fundamentación de los sistemas de resolución de conflictos. Y es que, añadió, “la Carta no es un mero papel, sino que tiene alcance práctico”.
Pero Barrio subrayó también a este respecto la necesidad de una nueva jurisdicción digital, que subsane las carencias de unas leyes procesales asentadas, por su origen, en la sociedad analógica, aunque estén adaptadas a lo digital. “Debemos ir hacia una jurisdicción digital, especializada en asuntos digitales, que permita resolver los litigios planteados en este ámbito en cuestión de horas o de pocos días y no con mecanismos pensados para la sociedad analógica”.