Una creación de ficción futura -como “El futuro de los recuerdos” de José López Calvo, editada por Wolters Kluwer- puede ser también un texto jurídico-público. Porque un jurista centrado en el presente y pasado analiza certezas "de lege data". Pero escribiendo sobre el futuro debe anticipar escenarios creíbles y, "de lege ferenda", desbrozar conflictos, volátiles y todavía no existentes, pero verosímiles y previsibles a corto o medio plazo. Como se acomete en la presente obra que contiene retazos y dilemas éticos en privacidad, propiedad industrial, política y poder o Administración. Para ello la ficción es ideal, hasta que, eso sí, el transcurso del tiempo pueda convertir imaginación en realidad.
La obra presenta un mundo futuro (hacia 2050), en el que el imperio de la tardopostverdad (un contexto en el que la confrontación entre la realidad y las falsas realidades multiplicadas a través de las redes, hacen imposible discernir lo cierto de lo falso), obliga a las autoridades a garantizar los contornos de la realidad. Nacionalizando internet y creando a través de la ley de Defensa de la Realidad un Organismo que luche frente a los bulos, los Rashomon (realidades distorsionadas por varias versiones), tiranía de los algoritmos, rumores que matan y aniquilan honores, artistas inexistentes, curriculums hinchados, técnicas "deep fake" de manipulación de imagen y videos, jóvenes aislados con su “casquete virtual” que se trasladan de manera efectiva a mundos mejores pero inexistentes... Una nueva ley obliga a dilucidar problemas éticos como la aprobación o no de robots humanizados que -desbordando la vertiente sexual- se conviertan en un sustituto de los humanos como objeto del amor. Todo ello conduce a uno de sus elementos más controvertidos: la conexión de la persona a máquinas que abran la puerta a posibles viajes mentales a los recuerdos, permitiendo a cada persona vivir instalado en sus recuerdos más felices. Porque la patria es aquel período de la vida -coincida o no con la infancia- en el que se fue más dichoso. Tales dilemas éticos y vitales se repasan a través de la trayectoria de un ex Presidente del Gobierno ilocalizable y de las incógnitas que derivan de su desaparición.
Por eso creemos que la publicación de una obra como esta, puede ser una buena ocasión para recabar algunas opiniones -extra legem y como ejercicio de imaginación y anticipación- de expertos sobre algunos de los dilemas presentes y futuros que plantea. Para ello hemos pedido el criterio contrastado de profesionales de tanta experiencia como Ofelia Tejerina, Consuelo Sánchez Naranjo , Paloma Llaneza, Alberto Gil Ibáñez, Emilio Castellote y Carlos B Fernández.
A ellos les hemos formulado las siguientes preguntas:
1. ¿Cree que hay un riesgo de que en un futuro a medio o largo plazo los avances en robótica puedan sustituir o amenazar a las personas como complementos en aspectos como la amistad o el amor?
2. ¿La acumulación en la actualidad de un inmenso poder prácticamente exento de control –y casi siempre ex post- por parte de las grandes empresas tecnológicas (principalmente GAFAM: Google, Apple, Facebook, Amazon, Microsoft) así como otros riesgos -como todo tipo de ciberataques- va a obligar a radicales medidas para reinventar internet? ¿Creando en su caso un internet público?
3. La proliferación de fake news, bulos, intoxicaciones orquestadas para influir en procesos electorales ¿puede exigir asimismo una reinvención de métodos por parte de los poderes públicos para poder garantizar la “verdad” o “realidad”? ¿Incluyendo la creación de un órgano especializado al respecto?
Ofelia Tejerina. Doctora en Derecho Constitucional por la UCM. Experta en derecho digital; Presidenta de la Asociaciónde Internautas; Patrona de la Fundación España Digital; Miembro del Comité Científico de la revista TELOS, de la Fundación Telefónica. Premio CONFILEGAL 2018 en la categoría "LegalTech".
1. En primer lugar habría que definir “amor” y “amistad” en ese contexto. Si lo pensamos, por ejemplo, respecto a una suerte de mascota, sin duda los robots pasarán a formar parte de nuestras vidas. Podremos incluso “depender” de ellos emocionalmente. Pero no creo que esto pueda sustituir el amor de un padre o una madre hacia sus hijos, esto no habrá sucedáneo que lo reemplace. No al menos como nosotros lo concebimos hoy. Como una pareja, pues quién sabe. Muchas veces tenemos a ese compañero de vida por el que no sentimos amor, que tan solo es apoyo, compañía o costumbre, y lo seguimos llamando pareja. Esto también puede dárnoslo un robot. Y al contrario, a veces llamamos amor a un simple capricho que nos ilusiona, y ese capricho puede cubrirlo perfectamente un juguete que nos tenga entretenidos, un robot.
El ser humano puede estar simplemente “entretenido”. De hecho, se dice que cada vez más buscamos la soledad y la independencia, y creo que cualquier tipo tecnología programada para entretener hará que esto sea aún más atractivo. Pero no hay amor.
2. Queriendo controlar a los internautas se está obligando a estas grandes empresas a que actúen como educadores, legisladores, censores, juzgadores, gobernadores, etc. ¿Qué ocurrirá el día que asuman de verdad todas estas competencias que se les están imponiendo en forma de “responsabilidad”? Pues que lo harán, y nos adoctrinarán a su gusto, porque no los hemos elegido democráticamente. Y sólo podremos hacer/decir aquello que nos esté expresamente permitido en sus políticas de privacidad y avisos legales (la libertad implica hacer todo lo que no esté expresamente prohibido), y nos sancionarán echándonos de la red (bloqueando contenidos) si no seguimos sus criterios de bondad, paz y amor.
Papá Estado será sustituido por papá TOTT (“tech over the top”) en aras de vivir en un mundo digital totalmente seguro. Entonces habrá que empezar a preocuparse por exigir alternativas para vivir analógicamente, aunque solo sea en parte. ¿Habrá que crear un Internet libre, donde el internauta asuma ciertos riesgos y la colaboración “open source” permita que funcione? ¿Le interesa a los Estados permitirlo? Son preguntas que, a este ritmo, tendremos que plantearnos antes de lo que creemos.
3. No se me ocurre nada más horrible. Si la verdad es perspectiva, no puede ser decretada. Tiene que ser protegida, pero no impuesta. La libertad de expresión, de información, de asociación, de manifestación, el secreto de las comunicaciones, etc., son derechos humanos que permiten el libre desarrollo de la personalidad. Si ese presunto garante de la verdad existe, ¿qué sentido tiene debatir opiniones fuera del mismo? ¿qué sentido tiene asociarse para expresar intereses comunes? ¿Qué sentido tienen la audiencia de partes en un juicio o los recursos procesales? ¿Qué sentido tiene la democracia?
Es sabido que definir la verdad es lo primero que quiere todo estado autoritario, y lo hace generalmente tomando el control del cuarto poder y dominando toda la información que sale de los medios de comunicación social. Si a esto le sumamos la posibilidad de controlar las redes por las que fluye esa información, Internet, sin más le regalamos al tirano la posibilidad de serlo.
Consuelo Sánchez Naranjo. Administradora Civil del Estado y escritora
1. Solo la inteligencia artificial estaría en condiciones de responder con precisión a semejante pregunta. Sería, claro está, una precisión estadística, basada en la información que escupe el Internet de las cosas, y que convierte en predecible la conducta humana acaso porque dicha conducta derivará, precisamente, de una superestructura compuesta por metadatos y algoritmos capaces de interactuar y conformar un sistema integrado de soberanía tecnológica que nos conduce alterando incluso las bases de nuestra subjetividad. En un contexto de esta naturaleza, y bajo un supuesto libre albedrío más que discutible, el futuro –que ya es- jugará con nuestro deseo de alteridad y colocará, del otro lado del espejo, a alguien que somos o querríamos ser y con quien, desdoblado de nuestra ya innecesaria carcasa corpórea, entablaríamos relaciones aparentemente dialógicas.
2. Enlazando con la respuesta anterior, y entendiendo que, en efecto, la nueva realidad digital está concentrando el poder en estructuras, organizaciones y agentes capaces de poseer y dominar la tecnología en toda su complejidad dinámica (desde su diseño profundo y su producción hasta su distribución, pasando sobre todo por los contenidos y los tiempos de uso), se atisban –y se dan- amenazas de toda índole encaminadas fundamentalmente a apropiarse de ese poder con fines de control. Pero la opinión está francamente dividida. Hay quienes auguran el retorno de una Humanidad infantilizada y desprovista de su capacidad crítica poco menos que a una época oscura, el futuro, en la que las decisiones individuales vendrán condicionadas por el uso de dispositivos electrónicos y el bombardeo constante de informaciones dirigidas en casi todos los elementos de una cotidianeidad asistida por máquinas inteligentes. Pero también hay quienes, poniendo el acento precisamente en esa capacidad crítica del ser humano, consideran Internet la materialización de una utopía de democracia radical, como una red en la que millones de usuarios pueden conectarse sin filtros establecidos por el poder y entienden los intentos de fijar límites como ataques al principio de neutralidad de la red y, por extensión, a la sacrosanta libertad.
La cuestión es quién le pone el cascabel al gato. ¿Trump/Putin/ Xi Jinping?, ¿GAFAM, que constituye la parte nuclear del problema?, ¿Los gobiernos de los Estados, que aparecen como entelequias de perfil territorial en un mundo sin fronteras? Aún no hemos inventado la forma de limitar el efecto de los riesgos, pero creo pese a las dificultades para fijar reglas de juego en una dimensión de la realidad cuyos límites se escapan de la materialidad y en cuyos dominios casi ni existe la ciudadanía con su catálogo tradicional de derechos y obligaciones, resulta imprescindible revisar el propio concepto de ciudadanía y adaptarlo a la realidad digital, garantizando, entre otros, el derecho a mantenerse al margen de ella.
3. Existe en la actualidad una enorme preocupación por la proliferación de noticias falsas e intoxicaciones en las redes sociales en el ámbito de la política. La fórmula “fake news” fue, de hecho, elegida como “palabra del año” 2017 por el Diccionario de Oxford, entre los 4.500 millones de palabras que consideraron sus editores. A esta elección no fue ajena la utilización de dicha expresión por el Presidente Trump tanto en su elección como durante su campaña. La manera en que el tema de los bulos orquestados se trata en “El futuro de los recuerdos” de José López Calvo, aporta nuevos elementos para la reflexión en torno a un fenómeno que, si bien ha existido siempre, ha cobrado protagonismo en el debate público por la aparente relación entre la caída de algunas formaciones y algunos líderes políticos y el ascenso de otros, con base precisamente en noticias falsas cuya autoría se desconoce, amparada por el anonimato de las redes. Como ocurre en el mundo analógico, la desinformación –en las redes, pero también, insisto, en los medios de comunicación con pie de firma, en las declaraciones de algunos responsables políticos o en las opiniones de prescriptores de todo tipo- se combate con información. Hay que partir de la premisa de que la verdadera inteligencia humana y la consiguiente capacidad crítica que siempre genera, deberían capacitar a las personas para hacer un uso responsable de la inteligencia artificial, así como para poner en marcha mecanismos para evitar que la nueva realidad convierta en prescindible a la Humanidad. En “El futuro de los recuerdos” se dan algunas ideas al respecto.
Paloma Llaneza. CEO & Head of Information Technology, Razonalegal tech
1. Hay abundante literatura y cine, más o menos distópico, en el que se plantea como una posibilidad que los sistemas ciberfísicos conectados en forma de humanoide o a través de sistemas de inteligencia artificial que se expresen con lenguaje natural, puedan ser programados para aprender a reconocer y simular nuestros sentimientos. Incluso algunos, desde Blade Runner, los presentan como seres que ganan su autonomía y, a partir de ella, en lugar de vivir de un modo diferente a nosotros, singular, anhelan las estructuras sociales que los humanos hemos desarrollado desde la limitación de nuestra amígdala.
Sin llegar a este punto, ya tenemos elementos en nuestros hogares que nos permiten avizorar un futuro de acompañantes robóticos. Los humanos somos bastante predecibles en nuestras emociones básicas de compañía y cariño con lo que, sin llegar a desarrollos con conciencia propia, tengo la impresión de que es posible modelizar humanoides, androides, animales robóticos o asistentes personales que nos hagan una compañía personalizada y adaptada al análisis de nuestra personalidad y necesidades basado en datos.
En Japón, el número de solteros que usan aplicaciones de compañía empieza a ser significativo. Los seres humanos no tenemos por qué adaptarnos a los otros y solemos ser una fuente de frustración para los demás. Un amigo o un amante diseñado para nosotros no generaría esa resistencia y permitiría a personas solas (ancianos, enfermos, etc…) estar acompañados.
Lo que este futuro nos hará como humanos es algo que no me atrevo a profetizar
2. Estoy personalmente en contra de estatalizar los servicios de interés general. Creo que lo que hay que exigir a los titanes de los datos es cumplir las leyes fundamentales, y evitar que se conviertan en entidades más grandes que los Estados que están llamados a controlarlos. Es urgente la revisión de las normas de competencia y antimonopolio, la formación de los supervisores en las complejas actividades de estas entidades, y la toma de medidas que, en mi opinión, pasan por el troceo y la limitación de actividades para evitar que los GAFAM abusen de la posición de dominio con la que cuentan.
Pero cargar al estado con un gasto y, sobre todo, otorgarle el control de la red me parece una peligrosa senda hacia Estados policiales y orwellianos.
3. De nuevo, me parece un error otorgar el monopolio de la verdad al estado. “1984” planteó sus consecuencias con toda claridad. Crear nuevos organismos que no tendrán competencia o medios es algo que siempre me parece absurdo por poco efectivo.
En su lugar, me parece más eficaz usar las herramientas que tenemos y buscar pequeños cambios que tienen efectos importantes. Por ejemplo, que la Junta Electoral Central tenga medios y normas que le permita controlar no solo los debates televisivos o la colocación de banderolas, sino lo que hacen los partidos, sus aliados y los países/entidades que pretenden alterar los resultados electorales con técnicas de desinformación. Y que lo hagan no solo con medidas legales sino técnicas que permitan neutralizar este tipo de actuaciones.
También creo que ha llegado el momento de considerar a las plataformas y redes sociales responsables del contenido que suben sus usuarios en tanto los “curan” ajustando los timelines de los usuarios para que dejen de ser neutros, usen técnicas de microtárgeting, de adicción y tomen medidas basadas en los sesgos cognitivos. Obviamente la responsabilidad es flagrante cuando se trata de aceptar publicidad basada en datos flagrantemente falsos y dirigido específicamente a personas que no se van a poder defender de esa falsedad.
Así pues, menos estructuras públicas innecesarias, y mejor normativa granular que ataque el problema con la complejidad que tiene.
Alberto Gil Ibáñez. Doctor en Derecho Europeo (IUE de Florencia) y en Ciencias de las Religiones (UCM) Autor del artículo “De la tecnología a la tecnolocracia: ¿fortaleza o amenaza?” [Revista El Cronista… nº 81 (Sept 2019)
1. No solo veo riesgo, sino que de hecho ya lo están haciendo. Dados los problemas que plantea vivir la “realidad real” es tentador escapar y sustituirla por una “realidad virtual” que se acomode a nuestros deseos y ambiciones. Por ejemplo, el número de divorcios, peleas conyugales, violencia de género, etc… demuestra que la vida de pareja no es fácil. Por tanto, la robótica se aprovecha de una demanda previa que ya existe. El problema es si como sociedad podemos permitírnoslo o no. La sociedad líquida lleva al pensamiento débil. Como resultado tenemos un ser humano líquido y crecientemente débil. ¿Debemos limitarnos a mirar o empezamos a reaccionar, por de pronto en la escuela? La robótica no es buena o mala en sí misma, sino dependiendo cómo se use y cuáles sean sus límites. El peligro aquí, como en otras cosas, es caer en el/los excesos. Necesitamos una ética digital/robótica más allá de las reglas de Isaac Asimov. Y toda ética implica límites.
Como los medicamentos, los distintos aparatos y avances en robótica deberían venir acompañados de un prospecto con instrucciones de uso, que incluyeran precauciones y posibles efectos secundarios. Entre estos, debería figurar por defecto: “este aparato puede afectar a su salud mental, sus relaciones personales y a su carácter. Un uso intensivo o prolongado puede llevar a dejarle sin trabajo, sentado en su sillón y sustituir realidad real por realidad virtual”. Y como los medicamentos, debería estar también limitado su uso (horas por día, sectores, etc…); bastaría instalar por defecto un mecanismo que apagara el aparato cuando se han superado el tiempo aconsejable. Todo ello, para evitar igualmente la adicción/adicciones.
2. Hemos aceptado que Internet sea controlado por empresas privadas casi sin rechistar primero por ignorancia (el exceso de información lleva a la desinformación: muchos ni siquiera lo saben), segundo porque tampoco nos fiamos de los gobiernos (en algunos países con todos los motivos) y en tercer lugar porque como viene desde su origen (aunque Internet paradójicamente sea un invento público del ejército de los EEUU) ahora es más difícil cambiarlo. Sin embargo, sería como si todo el espacio aéreo y las carreteras del mundo estuvieran en manos de cuatro-cinco empresas. En todo caso, sustituir el control de las empresas por el de los Estados en ocasiones puede incluso empeorar la situación, pues Internet es una formidable herramienta de control social y de poblaciones (e.g. China, pero no solo). La única solución es crear un Organismo internacional, tipo IATA (para el sector aéreo) que regule el tráfico y establezca normas “iguales para todos”, con posibilidad de imponer sanciones para los incumplidores sean de Estados o de empresas (tipo OMC).
3. Las “fake news”, bulos, intoxicaciones, etc… no son nada nuevo. Históricamente tanto las grandes potencias como las grandes empresas han venido dedicando tradicionalmente parte de su presupuesto a la propaganda y el marketing público/privado, lo que incluía hablar bien de ellos/ellas y mal de sus adversarios/competidores. SI el precio era la verdad, nadie se llevaba las manos a la cabeza (“it-s nothing personal, just business”). Un ejemplo claro a este respecto ha sido la fabricación de la leyenda negra del Imperio español por parte del Imperio británico y sus agentes culturales.
Lo que ha cambiado hoy no es el qué sino el cuánto y el cómo. Hoy son muchas más las noticias falsas, se transmiten de forma masiva y pueden ser expandidas y redistribuidas con un simple movimiento de dedo. El órgano internacional del que he hablado antes podría elaborar normas y recomendaciones al respecto. Pero, sobre todo, la reacción a esta fenómeno pasa por formar adecuadamente a los ciudadanos, desde la escuela, para protegerse adecuadamente en Internet, y más específicamente para aprender a detectar los diversos trucos con los que nos engañan, lo que pasa igual e ineludiblemente por incrementar su espíritu crítico, algo de lo que no andamos sobrados.
Emilio Castellote. Consultor estratégico en transformación digital.
La tecnología acelera nuestro mundo, nuestras vidas y la forma en la que generamos recuerdos y los olvidamos. El impacto es global, y esa velocidad dificulta en ocasiones el recuerdo de aquellas vivencias que apenas sucedieron unos años atrás.
Ante esta aceleración descontrolada, siempre es bueno parar a reflexionar y hacernos algunas preguntas que nos ayuden a tomar conciencia del vertiginoso pasado y del inimaginable futuro:
1. ¿Cómo ha evolucionado la forma en la que establezco mis relaciones personales en la última década?
2. ¿De qué manera está la tecnología impactando en las nuevas relaciones interpersonales que realizo en la actualidad? ¿Cómo creo que serán al final de la próxima década?
3. Durante el último año, ¿cómo he realizado mayoritariamente la compra o contratación de productos y servicios? ¿qué está cambiando la tecnología en la cadena del consumidor?
4. ¿Cómo imagino que serán las interacciones personales en la próxima década con la explosión de la inteligencia artificial y los asistentes domésticos robotizados?
5. ¿Qué lugar ocuparan estos asistentes en mi escala de valores a nivel afectivo-relacional?
6. ¿Cómo afectará la realidad virtual a la generación de emociones y recuerdos y cómo las procesará mi cerebro y mi memoria?
7. ¿Qué nivel de realidad o virtualidad tendrán los recuerdos que generaré al final de la próxima década?
8. ¿De qué manera la sociedad incluirá las nuevas identidades digitales basadas en inteligencia artificial y cómo afectará a nuestra sociedad en la próxima década?
9. ¿Qué conocimientos y habilidades deberemos desarrollar para adaptarnos a uno futuro digital, donde la información y la inteligencia artificial gestionaran la mayoría de las experiencias que vivamos en nuestro día a día?
10. ¿Cómo nos gustaría que la tecnología contribuyera a construir una sociedad mejor en un futuro cercano?
Estas y muchas otras serán las que marquen el desarrollo de un nuevo futuro cargado de tecnología y a punto de producir el Big Bang de la era del conocimiento en el que la inteligencia artificial quizás deje de ser artificial para cobrar vida propia. Aunque para eso...todavía tendremos que ver otras muchas cosas nuevas antes.
Carlos B Fernández. Responsable de contenidos, Diario La Ley Ciberderecho.
1. Las noticias nos cuentan que en Japón ya se están empezando a utilizar estos aparatos (creo que es mejor simplificar su nombre, para no personificarlos más de la cuenta).
Expresar una opinión sobre este particular plantea una seria controversia entre el optimismo sobre lo bueno que puede hacer la humanidad y el pesimismo histórico que evidencia que siempre somos capaces de lo peor. Es decir, tiene más que ver con esperanzas e ilusiones que con la previsible realidad.
Mi opinión es que no creo que ningún tipo de ingenio mecánico sea capaz de sustituir la relación entre humanos, al menos en lo que a personas normales se refiere. Mentes perturbadas por la soledad y el maquinismo son otra cosa, cuya aparición no cabe en absoluto descartar.
2. Creo que es evidente que Internet se ha convertido en algo completamente diferente de aquello para lo que fue pensada. En muchos aspectos, sus capacidades positivas han impulsado el desarrollo de una plataforma de comunicación e intercambio de conocimientos de enorme alcance (en el mundo libre, prácticamente global). Sin embargo, el dominio que las grandes empresas tecnológicas ejercen sobre los datos de las personas que la usamos, por un lado, y el juego perverso de desinformación y contrainformación que permite a gobiernos sin escrúpulos (que, como en el caso del mundo de Harry Potter, siempre ocultan “a quien ya sabes”), ha dado lugar a una amenaza hasta ahora desconocida para los derechos y libertades de las personas. En el menos malo de los casos, esa explotación de datos tiene una finalidad básicamente comercial. En el peor, puede dar lugar (y en buena medida ya está permitiendo), una gigantesca e incontrolable herramienta de control y manipulación social.
Hace pocas fechas, Tim Berners-Lee, el inventor del protocolo HTTP que constituye uno de los fundamentos de la Red, impulsó lo que denomina “nuevo contrato por la Web”, en el que insta a gobiernos y empresas a desarrollar un nuevo modelo de Internet en el que se comprometan a “Respetar y proteger la privacidad y los datos personales, con el fin de generar confianza en la red. Para que las personas tengan el control sobre sus vidas en Internet y que cuenten con opciones claras y relevantes en lo relativo a sus datos y su privacidad”.
Se trata de un intento seguramente necesario, pero que va a requerir de un gran impulso social, que empieza por un decidido impulso particular de cada individuo, para evitar que la situación se convierta en irreversible.
3. Combatir la proliferación de bulos que efectivamente surgen por doquier es responsabilidad principal de una prensa que, asfixiada por apremios económicos, hace tiempo que en muchas ocasiones ha dejado de poder considerarse libre. Pero eso no debe hacer perder la esperanza en la capacidad de una profesión tan socialmente imprescindible para redimirse de esa carga y volver a lo que durante décadas ha sido su fundamental papel social. Sin una prensa libre, y capaz de desempeñarse como tal, el mundo libre está condenado a serlo mucho menos. O a no serlo.
Y ello significa también que como bien ha indicado en varias ocasiones Ofelia Tejerina, hay que huir de los mecanismos orientados a establecer o declarar qué es verdad, a establecer unos criterios oficiales sobre lo que es cierto y no lo es. El riesgo que supondría la creación de un “ministerio de la verdad”, sin duda enormemente tentador para gobernantes sin escrúpulos, es demasiado elevado.