I. Una neurotecnología «europea»
No es una declaración europea sobre la neurotecnología, sino una declaración sobre la neurotecnología europea. Significa que Europa quiere poner su «sello propio» en el ámbito tan novedoso y al mismo tiempo tan difícil de controlar como es el de la neurociencia y las neurotecnologías. Y esto ya es una buena noticia para quienes, desde muchas instancias, están y estamos urgiendo a los Estados y a la UE iniciativas para regular la innovación, producción y desarrollo de neurotecnologías y su mercado.
En efecto, es fácil apreciar la «marca europea» en la Declaración: lo que se persigue es potenciar este importante sector de la innovación y del mercado, fomentar el protagonismo de las empresas europeas, y hacerlo mediante la creación de políticas estatales convergentes y por el procedimiento que históricamente diferencia a Europa: la premisa de que, al menos a medio plazo, una buena manera de desarrollar un mercado y de competir empresarialmente es generando confianza: si el consumidor confía, compra más. Y esto es particularmente así en ámbitos que, de entrada, se mueven en la incertidumbre sobre sus riesgos. Por eso la Declaración lo que promueve es la creación de un espacio de confianza para las tecnologías, concibiendo esa confianza como una preocupación por los derechos frente a los riesgos de las neurotecnologías asociadas a la IA. «Crear un ecosistema fiable, transparente y responsable para que los ciudadanos de la UE utilicen la neurotecnología», puede leerse en la Declaración.
La Declaración proporciona una base sólida para abordar cuestiones importantes relacionadas con las neurotecnologías y los derechos de las personas. Es verdad que podría haber sido más concreta respecto a cuáles son los riesgos verdaderamente nuevos que están planteados en orden a la conciencia, la privacidad o intimidad cerebral, la igualdad, la libertad, y la autonomía del pensamiento. Esto ayudaría a que los ciudadanos comprendieran mejor lo que está en juego, y dieran importancia a la protección de sus derechos.
II. Una especial atención a las neurotecnologías no invasivas
Quizás porque ya proliferan en el mercado libre, sin controles específicos dada su novedad, y por y por lo atractivo de sus utilidades para sus potenciales usuarios, la Declaración presta una atención especialísima a las neurotecnologías no invasivas y sus implicaciones en los derechos de las personas.
Estas tecnologías permiten la conexión del cerebro a computadoras, lo que puede tener aplicaciones en mundos virtuales y mejorar las funciones cerebrales (capacidad, memoria, funciones asociativas, etc.). Sin embargo, su proliferación plantea preocupaciones sobre la privacidad, la seguridad cibernética y la salud, tanto a nivel individual como en la salud pública. El análisis de los contratos con consumidores de las principales empresas de neurotecnología revela una serie de implicaciones significativas y preocupantes. La capacidad de estas empresas para procesar y compartir neurodatos con terceros podría llevar a una acumulación masiva de información altamente sensible, planteando una gran preocupación sobre la privacidad y el control de datos, ya que la información cerebral es especialmente íntima y personal. La acumulación de neurodatos en manos de unas pocas empresas crea un atractivo objetivo para los ciberatacantes, pero también, y sobre todo, estamos hablando de grandes cantidades de información útil para elaboración de estrategias de manipulación, perfilados, influencia, control personal, predicción de comportamientos, creación de adicciones. Además, la difusión de desinformación basada en estos datos podría socavar la confianza en la información y poner en peligro la integridad de la sociedad.
Las fallas que este tipo de tecnologías pueden tener se pusieron de manifiesto con motivo de la Sentencia que dictó la Corte Suprema de Chile el pasado 9 de agosto, al suspenderse de facto la comercialización de un dispositivo de ese tipo, a la espera de que las autoridades sanitarias chilenas evalúen sus riesgos. Son precisamente este tipo de dispositivos (no médicos, no invasivos y que registran la actividad cerebral), los que, a día de hoy, se comercializan a mayor escala y con menor control, sin garantizar los derechos de los consumidores. Ponen en riesgo su privacidad mental, ya que no garantizan el cumplimiento de los derechos de protección de datos. Sobre este tema ya aporté mi opinión en este artículo (1) .
Las implicaciones de la acumulación y el uso de datos cerebrales por parte de empresas de neurotecnología son significativas y complejas. Requieren una regulación adecuada y garantías para proteger la privacidad, la autonomía y los derechos fundamentales de las personas, así como para salvaguardar la integridad de la democracia y la sociedad en general. La Declaración de León pone de manifiesto la necesidad de proteger los derechos individuales y colectivos, pero podría haber sido más explícita en la importancia de la ética en la investigación y desarrollo de neurotecnologías. Esto incluiría la consideración de principios éticos sólidos en la práctica y la implementación, creando un marco integral que obligue a los líderes en innovación en neurotecnología a adoptar un enfoque ético y centrado en los derechos en el desarrollo de sus productos.
Para ello, además de las neurotecnologías que señala expresamente la declaración, es imprescindible pensar también en el resto de tipologías de dispositivos (invasivos, que modulan la actividad cerebral, etc.), de modo que se tengan en cuenta todos los riesgos a los que podemos vernos sometidos.
III. Neurotecnologías y neuroderecho: no es sólo ética, es también Derecho
Rafael Yuste, catedrático de neurología de la Universidad de Columbia y fundador de The NeuroRights Foundation, que lanzó la voz de alarma ya en 2017, respecto a los riesgos que plantean las neurotecnologías, reclama a los gobiernos de todo el mundo a regular los «neuroderechos». Propone un juramento tecnocrático para especialistas en la materia y la inclusión de estos derechos en la Declaración de Derechos Humanos y su incorporación en las leyes nacionales. Yuste, junto a Jared Genser y Stephanie Herrmann (2) identificaron en 2021 cinco categorías de neuroderechos:
- a) El derecho a la identidad, o la capacidad de controlar la integridad física y mental de uno, para evitar la modificación de la personalidad: las neurotecnologías permitirán manipular la actividad cerebral, lo que puede suponer un efecto profundo y permanente en la personalidad y la identidad, con un grave impacto, especialmente en colectivos vulnerables como los niños.
- b) El derecho al libre albedrío, o la libertad de pensamiento y de elección de las propias acciones, para evitar que sean las máquinas las que tomen las decisiones por el individuo o las condicionen de manera incontrolable.
- c) El derecho a la privacidad mental, o la capacidad de mantener los pensamientos protegidos contra la divulgación, para prevenir la invasión de privacidad: la monitorización y análisis de la actividad cerebral pueden permitir el acceso a información privada especialmente sensible.
- d) El derecho a un acceso justo al aumento mental, o la capacidad de garantizar que los beneficios de las mejoras a la capacidad sensorial y mental a través de la neurotecnología se distribuyen justamente en la población, para así prevenir más desigualdades sociales: el acceso a las neurotecnologías y a los tratamientos relacionados puede estar limitado a una elite económica y social, intensificando exponencialmente las desigualdades ya existentes.
- e) El derecho a la protección contra el sesgo algorítmico, o la capacidad de garantizar que las tecnologías no inserten prejuicios, para prevenir nuevas formas de discriminación: los neurodatos podrían utilizarse potencialmente para predecir el estado de salud mental, así como la aptitud o la personalidad, generando nuevas formas de discriminación, con consecuencias para el empleo, la educación o la contratación de seguros.
Los «neuroderechos», en fin, no son sino la percepción de los derechos fundamentales y la dignidad humana en un contexto nuevo: el de las neurotecnologías asociadas a la IA. La reflexión sobre los mismos, orientada a acordar una regulación que asegure legalmente el cumplimiento de estos grandes principios éticos debería ser una aspiración social. Podríamos confiar en que los creadores, empresarios y tecnólogos competirán desde la buena voluntad y compromisos éticos. Pero nos jugamos demasiado. Nos jugamos mucho más que en otros mercados regulados hasta en sus detalles más nimios, y por ello será necesario pensar reglas, límites, prohibiciones y responsabilidades, si de verdad Europa quiere fomentar una neurotecnología propiamente «europea», siendo conscientes, en todo caso, de lo «limitado» de la aspiración, dado que estamos hablando de un mercado global. Por suerte, la defensa de los neuroderechos no es sólo una aspiración europea. Son muchas y diversas las iniciativas que se están llevando a cabo en países como Chile (pionero), Colombia, Brasil, etc. y estamos en el momento perfecto para intentar que el marco de protección sea lo más amplio posible.
Es fundamental preguntarnos si existe, hoy, una regulación y protección adecuada de la información neurológica y de la privacidad cerebral, o si son precisos cambios en el RGPD y en las legislaciones nacionales relativos específicamente a los denominados «neurodatos» y su tratamiento. Debe prioritariamente incluir la protección más fuerte de la privacidad de toda intromisión no consentida de manera plenamente informada, y la prohibición de determinados tratamientos de datos.
Volviendo a los dispositivos especialmente mencionados en la Declaración, lo más urgente ahora es evaluar la adecuación de la normativa existente. Si estos dispositivos se comercializan fuera del marco regulatorio de los dispositivos médicos, ¿son suficientes las normas actuales para proteger al usuario? ¿Qué prácticas abusivas o peligrosas podrían colarse por los agujeros de los actuales instrumentos regulatorios?
Largo camino por delante hasta el objetivo de una neurotecnología «europea», útil, eficaz y confiable. Este primer paso ya es esperanzador. Como afirma la propia declaración, en la Unión Europea el debate entre los Estados miembros se encuentra en una fase incipiente (…) Con esta declaración, y bajo los auspicios de la presidencia española, los Estados miembros inician una reflexión sobre la promoción de neurotecnologías centradas en la persona que tengan en cuenta los derechos fundamentales.
Bienvenida sea.
(*) https://spanish-presidency.consilium.europa.eu/media/5azj0e2h/declaraci%C3%B3n-de-le%C3%B3n.pdf