Volver a página de inicio

I. Introducción

Los procesos judiciales van a encontrarse, en muy breve plazo, con una situación generalizada que este antiquísimo (1) medio de resolución de conflictos no está preparado para afrontar. Actualmente hemos experimentado unas mejoras espectaculares en cuanto a la reconstrucción de la realidad que han acabado entrando en los procesos de manera bastante natural, sin ser realmente conscientes, tal vez, de lo mucho que nos han ayudado. Me estoy refiriendo a la enorme cantidad de mails, conversaciones de mensajería telemática, fotos, vídeos, audios, datos de localización, firmas electrónicas y otros avances que ha traído la tecnología con los que no se podía sensatamente ni soñar a principios de los años noventa del siglo XX. Hoy en día, aunque tantas veces se ignore lamentablemente tanto en la doctrina como en la práctica judicial, la elaboración de un relato bastante completo de los hechos partiendo de esos indicios es verdaderamente muy superior que la que tenía en mente, no ya Carnelutti al redactar la prova civile (2) en 1915, sino el propio Michele Taruffo cuando publicó La prova dei fatti giuridici (3) en 1992.

En consecuencia, hace ya tiempo que deberíamos haber salido de los márgenes que tradicionalmente nos había marcado la prueba de interrogatorio de partes o testigos (4) , o incluso la tan frecuente prueba pericial caligráfica (5) , que lógicamente ha ido disminuyendo su incidencia en el proceso pese a conservar todavía un uso relativamente frecuente en la práctica, que contrasta, por cierto, con su escasísima fiabilidad científica real (6) , bastante desconocida, también por cierto, por jueces, fiscales y abogados. Sin embargo, en los procesos se siguen buscando, algo obsesivamente, «pruebas directas», a la antigua usanza del régimen de valoración legal de la prueba, y se suelen dejar de lado los indicios, ignorando así que ninguna prueba es directa ya bajo el régimen de valoración libre de la prueba (7) , actualmente vigente (8) . Las pruebas ya no tienen mayor o menor valor, sino que dependen de lo que el juez sea capaz de razonar. Y ante esa dificultad, el juez suele refugiarse en algún documento que nadie discuta, o en algunos testigos que digan lo mismo con una retórica que le convenza, y poco más. Bien parece que sigamos anclados en los primeros lustros del siglo XIX en este sentido, pero esa es otra cuestión.

Pues bien, hemos pasado a una realidad tecnológica que podría haber ayudado muchísimo más de lo que lo ha hecho. Y estando instalados en esa realidad, de repente sobreviene algo que no es inédito, pero sí a este nivel de riesgo: el llamado deepfake (9) . En términos prácticos, la posibilidad muy cierta de que toda la prueba documental presentada en el proceso —y parte de la pericial— sea falsa, y no exista, en ocasiones, manera humana de saberlo, al aparentar ser cierto cuanto vemos, oímos o leemos en esos documentos. Considerando que los documentos constituyen la actual prueba reina de cualquier proceso, civil o penal, la perspectiva que está en ciernes es realmente inquietante.

El tema es mucho más amplio, pero a modo de ejemplo de su increíble potencialidad, en este estudio lo centraré en los casos, habitualmente del proceso penal, en que se introduce un deepfake de contenido pornográfico en la prueba. La incertidumbre acerca de si los protagonistas de esas escenas son los que parecen, no solamente va a constituir la cuestión central del proceso, sino que en términos estrictos puede que haga dicho proceso racionalmente imposible, a riesgo de legitimar auténticos non liquet que pasen desapercibidos por el manto de las absoluciones. No es que el juez no sea capaz de obtener resultados de la prueba y a partir de ahí tenga un dubium que le obligue a absolver. Lo que puede ocurrir en estos casos es que todo el proceso sea celebrado realmente en balde, no porque no se pueda lograr una condena, sino porque, en realidad, no se pueda llevar a cabo la actividad probatoria.

II. Las limitaciones probatorias de la mente judicial

Antes de entrar en materia, no obstante, es preciso ocuparse también de un asunto que ha pasado bastante desapercibido, escondido durante siglos tras el fenomenal disfraz que siempre ofrece a los juristas la tradición, que no es más que la falacia ad antiquitatem, en realidad: algo es correcto porque siempre se hizo así. Conclusión que, obviamente, es absurda.

La doctrina, durante siglos (10) , no ha sido nada consciente de que los jueces no son humanamente capaces de saber si alguien miente o no, porque no pueden penetrar en la mente de nadie cuando habla. De hecho, hoy sabemos que la gestualidad y modo de expresarse de una persona, en realidad no orienta sobre si dice la verdad, sino que activa una serie de prejuicios sociales muy extendidos que pueden provocar con mucha facilidad que le juez se equivoque (11) , teniendo no obstante una sensación de saber inmensa (12) . Sensación de saber falsa, por descontado (13) . La verdad es que los interrogatorios no suelen servir para descubrir la realidad, sino solamente para intentar crear empatía en el juez condicionándole con la creación de un marco mental a través de la «actuación» del interrogado. No es otra cosa que el ya muy estudiado framing effect (14) , tan utilizado en el periodismo y la política para manipularnos, pero también en los procesos judiciales por los abogados y los fiscales para intentar manipular al mismísimo juez, aunque ello pase habitualmente desapercibido, lo que no quiere decir que no consiga su efecto demasiadas veces. Tanto que no pocos juzgadores, particularmente en el proceso civil pero no solamente, contemplan esos interrogatorios con gran escepticismo pocas veces declarado públicamente, pues suelen afirmar lo contrario (15) . Sea como fuere, lo cierto es que a través de los interrogatorios, al contrario de lo que pueda pensar la sociedad en general, poquísimas veces se logra realmente averiguar la realidad. El juez no es ningún ser sobrenatural.

El problema es que históricamente lo fue, o se le tuvo por tal. Sin duda, el primer medio de prueba de la historia es el interrogatorio (16) , porque los procesos eran asamblearios (17) y la comunidad, inspirada habitualmente por alguna divinidad a la que incluso buscaban no pocas veces a través de las ordalías (18) , juzgaba según aquello que le parecía más justo por ser coherente con su propia noción del bien y del mal —luego volveré a este punto—, y por supuesto de acuerdo con la credibilidad que le planteaban las personas que declaraban en el proceso y a las que ya conocían, al ser habitualmente miembros de la propia comunidad. Al conocerlas personalmente, tenían una sensación de saber si mentían o no tal vez más acorde con la realidad, puesto que conocían su forma de actuar cotidiana. Al menos, así lo creían, probablemente, porque esa confianza en la gestualidad para saber si alguien miente o no ha alcanzado a nuestros días (19) .

Pero todo ello sólo explica por qué, pese a todas las muy correctas impugnaciones provenientes de la Psicología del testimonio (20) , siguen tantas personas confiando en este medio de prueba. Antes o después habrá de venir una reforma histórica en los procesos que convierta los interrogatorios en entrevistas cognitivas (21) serias realizadas por expertos en casos excepcionales, abandonando ya definitivamente la pantomima de los interrogatorios judiciales, que sólo nació para impresionar a jurados y jueces aprovechando la tradicional —y falaz— confianza de la sociedad en esta prueba que provenía, ya se ha visto, de los ancestrales procesos asamblearios. El engaño se ha desplegado con tan grande eficacia, que la enorme mayoría de jueces y policías se siguen dejando engañar, pensando que aplicando su intuición al valorar esos interrogatorios, logran descubrir la realidad (22) .

Algo parecido sucede con las pruebas periciales. En las mismas, como ya he denunciado algunas veces, se da carta de naturaleza a la sorprendente paradoja de que un no experto —el juez— deba cuestionar y valorar lo que dice un experto, es decir, el perito, lo que es nuevamente absurdo (23) , y para entenderlo basta con imaginar a un biólogo dando su parecer sobre una sentencia acerca de un litisconsorcio pasivo necesario o sobre el efecto positivo de la cosa juzgada material.

Sin embargo, en este caso la inteligencia artificial va a acabar suponiendo una tabla de salvación razonable para los jueces en un número indeterminado de casos (24) . Como vamos a ver después y ya se ha sugerido, el principal problema de la prueba pericial es la incapacidad del juez, no ya para conocer la ciencia en la que el perito es experto, sino para cerciorarse siquiera, con una mínima certeza razonable, acerca de los requisitos de calidad que debe cumplir cualquier pericia, y que el perito debe justificar en su dictamen (25) . Sin embargo, una aplicación de inteligencia artificial que tenga como fundamento una gran base de datos sobre esos requisitos, puede ayudar de manera bastante eficaz al juez en esa labor, superando así el inconveniente, muy real, que predijo el juez Blackmun en su voto particular a la sentencia Daubert de 1993 (26) .

En consecuencia, el juez precisa de esa herramienta, y sin ella su juicio sobre una prueba pericial también entrará en el terreno de la intuición, dejándose influir nuevamente por sus prejuicios sobre la retórica y gesticulación del perito cuando le vea declarar, o bien por su modo de redactar, creyendo que un buen dictamen es aquel que está redactado de una forma más comprensible o incluso convincente. Evidentemente, no es así, porque la valoración de la prueba pericial no es la deliberación del jurado en un concurso de literatura. Consiste en aplicar la ciencia a la ciencia ya aplicada en el dictamen, si se me permite el juego de palabras, evaluando su adecuación epistémica a través de esos parámetros científicos, que son los únicos que realmente cabe tener en consideración.

Por último, con la prueba documental las limitaciones del juez son menos obvias, porque desde siempre hemos partido de la base de que el juez sabe leer, y que eso en consecuencia es suficiente para valorar esa prueba. Se ha ignorado así, casi por completo, la semiótica textual (27) , que es la disciplina que obliga a tener en cuenta el contexto de un documento y el registro o modalidad de su lenguaje, a fin de acreditar la verosimilitud intrínseca de su contenido, al margen de la pericia caligráfica de su firma que, además, en los documentos electrónicos es imposible, incluso estando firmados electrónicamente. En realidad, el uso indebido de una firma electrónica auténtica debe probarse a través de otros medios de prueba, que demuestren que el sujeto que teóricamente era el único legitimado para utilizarla, no estuvo presente en el lugar o en el tiempo en el que realmente se realizó. No siempre es fácil acreditarlo, al contrario, pero no acostumbra a ser del todo imposible. Por ejemplo, cuando se envían por correo electrónico documentos recién firmados, queda un rastro averiguable del lugar y tiempo desde el que fue remitido el correo electrónico, datos que posee la empresa prestadora del servicio y que debe facilitarlos si es requerida para ello por la autoridad judicial. Si acreditamos que el sujeto no pudo estar allí, es difícil que sea el auténtico autor de la firma electrónica.

Pero prescindamos de la firma electrónica. Es posible que el documento refleje imágenes y sonidos que parezcan reales, aunque puedan no serlo. Y ese es justamente el reto al que hay que buscar respuesta, porque justamente eso es lo que se llama deepfake. Desde luego, el juez puede intentar distinguirlo a simple vista, y hasta podrá hacerlo con las fotos, audios y vídeos más obvios. Incluso puede llegar a la conclusión de que un documento es falso si la persona cuya voz refleja, no habla el idioma de la grabación. O bien puede acreditar que jamás estuvo en Cuba, si es en ese lugar el que aparentemente se desarrolla la escena de la que es su supuesto protagonista. En el momento actual, detectar todo ello no es difícil en ocasiones, pero ya existen no pocos documentos acerca de los que resulta definitivamente imposible aceptar que el juez pueda discernir si son verdaderos o falsos.

Y esta es la pregunta central del presente estudio: ¿qué hacemos en estos casos? ¿Aceptamos también el uso de la intuición judicial, igual que hemos hecho desde hace milenios con la valoración de los interrogatorios? En términos de pura lógica, ni siquiera existiría un inconveniente real para ello, toda vez que tan absurdo es pensar que un juez puede detectar a simple vista un deepfake, como creer que puede descubrir si un testigo miente mirándole y escuchándole, sin usar otra herramienta que su intuición, que es lo que se hace actualmente en la enorme mayoría de casos. En realidad, no es distinto lo uno de lo otro. La única diferencia es que lo segundo, como ya se ha explicado, está respaldado por una tradición y todo un bagaje cultural profundamente erróneo, pero asumido, en general por la población, en uno de los ejemplos más llamativos —hay más y mucho más polémicos (28) — de autoengaño de la especie humana, mientras que lo primero no posee toda esa enorme apoyatura social. Es decir, el único sustento de la diferencia es una falacia, lo que epistémicamente es sencillamente espectacular, por no decir algo mucho peor, que tal vez sería bastante más correcto.

Por supuesto, como después se verá, el juez en estos casos puede acudir a la prueba pericial, lo que le pondrá en los problemas que ya han sido expuestos con respecto a este medio de prueba, que le obligarán, por cierto, a tener que utilizar una aplicación de inteligencia artificial para valorar el buen funcionamiento científico de otra aplicación de inteligencia artificial, que será la que habrá detectado el deepfake, que a su vez habrá sido creado con inteligencia artificial. Parece un trabalenguas, pero es perfectamente real lo que se acaba de exponer, y luego se entrará en su detalle. Lo que conviene advertir es que en este escenario, el juez poquísimo puede hacer utilizando solamente su mente, más allá de esperar a que hable la tecnología y le dé una respuesta medianamente razonable a sus incógnitas probatorias.

Además, debe tenerse en cuenta que el deepfake no sólo afecta a documentos visuales o de audio, sino que se puede manipular un documento escrito —deepfake text— como un contrato sin el menor inconveniente, que sólo podrá frenarse, en parte, con la firma electrónica. De ese modo, correos y mensajes de chat o en las redes sociales pueden ser creados de manera artificial suplantando la autoría, como ya es sobradamente conocido (29) , lo cual posee un recorrido verdaderamente inédito en materia de falsedad documental, que lleva a otros delitos como las estafas, las amenazas o incluso las agresiones sexuales. El recorrido de esos documentos falsos puede ser prácticamente ilimitado.

Para entenderlo, analicemos uno de los deepfakes más frecuentes y que de hecho son socialmente más conflictivos: los pornográficos.

III. El deepfake pornográfico: entre la realidad y la cultura

No voy a entrar con la profundidad debida en una definición de lo que es pornografía (30) , dado el carácter intensamente sociológico del término, lo que significa que lo que hoy es conceptuado como tal, mañana podría dejar de serlo, igual que hubo actos cuya exhibición era indudablemente «pornográfica» en otra época, y que hoy ya no lo es. Al final, se identifican actos de contenido sexual que en el imaginario colectivo de aquel momento se considera que, por un sentido más o menos extendido del decoro o moral pública, no deben ser exhibidos habitualmente. Pero es que incluso es polémico aquello que tenga contenido sexual o no. Alguien que según nuestra cultura actual fuera conceptuado como fetichista, es posible que considerara pornográfico algo del todo inofensivo para el común de la población, pero que esa persona considera excitante. Si el fetiche se extiende, en realidad deja de serlo, por lo que el acto deja de tener ese contenido sexual. Piénsese en la exhibición de la cabellera o de los senos de una mujer, sin ir más lejos, en las distintas culturas del mundo, inofensivo para unas, altamente excitante o incluso ofensivo para otras. Ello quiere decir también, por descontado, que lo que se considere como delictivo partiendo de esa conceptuación, siempre será probablemente matizable y no pocas veces polémico. Ocurre con otras muchas figuras delictivas (31) , pero el caso de la pornografía es muy llamativo por el carácter intrínsecamente cultural de la noción.

Sin embargo, ello plantea una dificultad añadida para el juez a efectos probatorios. No se trata solamente de identificar una imagen como pornográfica, sino de ser conscientes de que lo exhibido no es real, aunque a efectos prácticos solamente posea más realismo que un dibujo. Se va aceptando ya, no sin dificultad (32) , que son expresivas de la libertad de expresión las caricaturas de personajes con un cargo público que son pintados en una postura sexual si contribuyen al debate público y no buscan solamente la denigración. Un deepfake lo único que hace es darle un realismo extraordinariamente superior a esa representación, tanto que hasta puede confundirse con la misma realidad. El problema, a partir de ahí, que causa no pocos quebraderos de cabeza al Derecho Penal (33) , es decidir la razón por la que se sanciona, que desde luego no consiste en absoluto en la realidad de la relación sexual, sino más bien en la consideración pública de una persona cuya imagen es manipulada en esos términos, así como los daños psicológicos que ello pueda ocasionar, lo que es especialmente delicado en el caso de los menores (34) , naturalmente.

Todo ello representa una situación muy compleja que debe ser afrontada por la prueba, dado que hay que demostrar al menos tres aspectos en el proceso:

• 1. El carácter pornográfico de la imagen.
• 2. Que su exhibición cumple los requisitos del tipo penal del que se trate.
• 3. Su carácter verdadero o falso.

Y lo verdaderamente perturbador de lo anterior es que la actividad probatoria sobre todos esos puntos no tiene por qué seguir un determinado orden, sino que muy probablemente deberá ser afrontada a la vez. Piénsese que sucedería lo mismo si se tratara de otro ejemplo que nada tenga que ver con la pornografía. Si, por ejemplo, se tratara de un contrato, habría que averiguar que las obligaciones contractuales cumplen los requisitos de la legislación civil, así como algo complicadísimo en cualquier ocasión: la demostración de la ausencia de vicios del consentimiento. Y todo ello además de la averiguación del carácter auténtico o falso del contrato.

Con todo, la complejidad con los deepfakes es realmente inédita. Cuando se trataba de averiguar la falsedad de una firma, simplemente se debía investigar su autoría, quedando la interpretación del contenido de lo escrito para un momento posterior. Sin embargo, los deepfakes, al poseer un hiperrealismo que jamás consiguió un documento en papel, obligan a la consideración simultánea de todo lo anterior, dado que el problema en estos casos no siempre va a ser si el documento analizado es falso o no, sino que incluso siéndolo —o no—, puede tener consecuencias jurídicas su contenido. Antiguamente, cuando un documento era falso, no se le daba más vueltas a la cuestión. Hoy en día es posible que el documento sea falso solamente en parte, teniendo una alteración ligerísima pero relevante que en el pasado podía ser descubierta con cierta facilidad, pero que hoy requiere un análisis mucho más detenido.

Veámoslo con el deepfake pornográfico. Es posible que el documento haya tomado por base una relación sexual real, siendo solamente algunos detalles los que sean falsos, pero que justamente constituyan también aquellos que son relevantes a efectos procesales. Se puede haber filmado un beso, por ejemplo, acompañado de un abrazo a horcajadas, todo ello perfectamente real. Lo que ya no lo es puede ser la desnudez de las piernas y la acción de los genitales. E insisto, con un documento puede ocurrir lo mismo. Es posible que una conversación de mensajería móvil sea perfectamente real, pero no así la interpolación de algunos mensajes, fotos o emoticonos que pueden ser relevantes para la valoración de la prueba y la calificación jurídica del contenido del documento. Y lo mismo que sucede con una conversación y sus interpolaciones, puede pasar con un contrato. Completamente real, salvo alguna cláusula en la que se alteró algún término relevante.

Los detalles técnicos de la detección de todo ello serán abordados, en parte, a continuación. Pero todo lo que se acaba de explicitar debería bastar para entender que la valoración de la prueba en estos casos cambia completamente su cometido tradicional. La pregunta de si algo ha acontecido o no se hace muchísimo más fluida, hasta el punto de que no se trata ya sólo de averiguar si un testigo dice toda la verdad o la cuenta a medias, lo que siempre ha constituido un problema, naturalmente, sino que es preciso, además, discernir de exactamente un mismo documento aquello que tiene relevancia social y jurídica de aquello que no la tiene en absoluto, estableciendo las fronteras precisas de la falsedad de un modo que cabe preguntarse si supera las fronteras de lo que un juez humanamente es capaz de hacer, y entra dentro de lo que solamente es capaz de considerar una máquina con una memoria extraordinariamente superior a la del juez: una aplicación de inteligencia artificial (35) .

Ciñámonos a los tres puntos anteriormente mencionados para explicarlo. Lo que sea o no pornográfico va a tener que ser averiguado de acuerdo con los parámetros sociales vigentes en la actualidad de cada momento. El juez no puede ni debe dar respuesta a esta cuestión de manera intuitiva, a riesgo de que aplique en la sentencia su propia ideología en la cuestión y ello afecte a una de sus actividades cruciales: la valoración de la prueba. Por ello, la averiguación bibliográfica y la concreción del estado de opinión social al respecto debe ser completa. Ello depende de una serie de datos doctrinales y sociológicos que no están al alcance de la mente judicial, por lo que una aplicación de inteligencia artificial que recoja esos datos con más facilidad, será de gran utilidad en este sentido. Esa aplicación debería ser capaz de ofrecer una información no sesgada y, por tanto, estadísticamente correcta, sobre los consensos acerca del tema y sus lagunas informativas.

Menos compleja, después de lo anterior, será la determinación correcta de los elementos objetivos y subjetivos del tipo. Aunque el juez deberá cerciorarse de que esa aplicación, con capacidad de tratar tantísima información, no está sesgada por sus creadores. Y es que esas empresas pueden tener, naturalmente, la voluntad de que la sociedad se haga más o menos liberal en un sector, todavía en nuestros días, tan sumamente sensible como es el de la moral sexual (36) . Diferente sería, naturalmente, si un día la cuestión sexual dejara de ser tan sumamente relevante para las religiones en particular y para la sociedad en general, momento en que la complejidad probatoria en estos casos se relajaría.

Y al mismo tiempo que se lleva a cabo todo lo anterior, habrá que ir averiguando qué es real y qué es falso en esa imagen, por supuesto utilizando la tecnología. Reitero que este tipo de análisis, gracias a la inteligencia artificial, pueden ser frecuentes en un futuro, estrechando también en este terreno el margen de la intuición judicial, hasta ahora depositaria de la noción social de justicia. Puede que en el futuro, gracias a esta tecnología, podamos limitar de manera relevante el recorrido de la interpretación jurídica de los jueces, previniendo así desviaciones de los mandatos del legislador. Tal vez con ello lograríamos una sociedad más democrática, aunque tiene sus riesgos, naturalmente, dado que en la actualidad, todo el sector de la inteligencia artificial está confiado a la iniciativa privada, lo que hace que el control democrático de la elaboración de sus herramientas sea entre deficitario e inexistente (37) . Si avanzamos en esta dirección, habrá que cambiar muchas cosas en este terreno, o se nos escurrirá de entre los dedos la democracia sin que nos demos ni cuenta (38) .

IV. ¿Es siempre imprescindible la prueba pericial?

En un primer momento cabría pensar que el análisis pericial de los documentos analizados constituye la prueba central a desarrollar en un proceso para averiguar la existencia de deepfakes. Sin embargo, sin restar un ápice de importancia a esta dificilísima prueba, es posible que no siempre sea así.

La prueba pericial en estos casos posee unas dificultades que a día de hoy son difícilmente superables, y pueden hacerse todavía más complejas, de hecho. Existe una cantidad aún incalculable de técnicas de detección, que además va en constante aumento (39) . Consciente el sector privado de la relevancia de la detección de deepfakes en varios sectores —político, militar, judicial, contractual, sociológico, etc.—, se ha puesto manos a la obra de un modo que se hace casi imposible para un jurista entender, con una mínima profundidad, el modus operandi de cada técnica. Por citar sólo cuatro ejemplos al respecto, véanse los siguientes.

• — NoiseDF: se trata de un método de detección de deepfakes basado en el ruido subyacente que se deja en los vídeos cuando se introducen imágenes irreales. También aísla cuadros de imágenes de partes de la cara, analizando asimismo el fondo de imagen, averiguando si se corresponde con el original, lo que evidentemente sólo es posible si en el documento aparece un fondo de imagen, y no sólo si se ve una cara (40) .
• — ResNext: este sistema utiliza un algoritmo de red neuronal convencional y una red neuronal recurrente de larga memoria a corto plazo (LSTM), con el fin de detectar errores que se repiten pero que son puntuales y por eso pasan desapercibidos. En este caso se trata de detectar precisamente esos pequeños fallos recurrentes en la generación de vídeos falsos que se pueden repetir en cada grabación que se haya elaborado utilizando las herramientas más disponibles para el gran público (41) .
• — Algoritmo basado en la atención: en este caso se trata nuevamente de una herramienta de red neuronal que se focaliza en un recorte de la imagen que se quiere averiguar si es falsa, analizando al mismo tiempo otras partes y comparándolas con infinidad de imágenes, a fin de obtener una posibilidad estadística de falsificación que ayude al ser humano a tomar la decisión de identificación del deepfake (42) . Por tanto, se trata más bien de una herramienta de asistencia solamente, que deja al ser humano la decisión final sobre si se trata o no de un deepfake.
• — Identificación de características faciales únicas: la aproximación es diferente con este método. Se trata, no tanto de analizar la imagen sospechosa, sino más bien la imagen real de la persona en busca de características únicas de esa imagen —habitualmente de una cara— que el programa que haya producido el deepfake no haya podido copiar (43) .

Todas estas herramientas requieren asistencia técnica, porque de hecho son las utilizadas por los peritos para elaborar su informe dictaminando si existe o no el deepfake. Pero tienen todavía el enorme problema, que ya ha destacado la doctrina (44) , de que su fiabilidad científica no está consolidada. Siguiendo los criterios establecidos en la sentencia Daubert (45) , prácticamente no cumple ninguno de ellos, salvo el del grado de acierto, que algunas de esas técnicas se atreven a predecir, pero que en absoluto está considerado. No es ya que no se haya demostrado que sigan el método científico o que hayan sido evaluadas esas técnicas por pares fiables, sino que no cumplen ni el estándar Frye de 1923 (46) , porque en absoluto existe consenso en la comunidad científica sobre ninguna de esas técnicas. Y va a ser difícil que ese consenso exista alguna vez en un futuro próximo, dado que de momento los diferentes científicos están compitiendo por averiguar el sistema de detección que tenga mayor aceptación entre la comunidad científica.

Además, salvo que exista ese grado de consenso, en un futuro próximo no existirá en los juzgados esa herramienta indiscutida de detección. Y ya no estamos en los tiempos en que aceptamos sin demasiados problemas técnicas periciales con un respaldo científico ciertamente precario, como sucedió con la prueba dactiloscópica, la prueba de balística o la mismísima prueba de ADN (47) . El terreno dejado a la fe de los ciudadanos en el juez ha menguado de manera relevante también este sector pericial, de manera que ya no basta que acuda el perito al proceso a decir lo que quiera aparentando una convicción que es imposible que posea, dado el estado de avance de la ciencia. Durante mucho tiempo, la presencia del perito era aceptada sin pedir justificaciones acerca de la eficacia de la técnica pericial empleada. Sigue siendo así en cuanto a las pericias tradicionales, varias de las cuales se encargan a la policía científica, cuya formación en algunos terrenos es algo más que discutible. Cada vez se confía menos en esa especie de peritos amateur, pero su relevancia todavía se deja sentir en los procesos.

Es posible que algo así no suceda con la detección de deepfakes, aunque aún es muy pronto para decirlo. Hoy en día ya somos conscientes de que un juez no puede valorar realmente el acierto intrínseco de las conclusiones de un perito, pero a pesar de eso, irán apareciendo en los procesos informes de deepfakes cuya fiabilidad podrá discutirse incluso con cierta facilidad por cualquier abogado bien instruido, simplemente haciendo comparecer en el proceso a otro experto que descubra los puntos débiles de la técnica empleada. En esta materia, durante un tiempo vamos a permanecer en una situación de tinieblas, probablemente hasta que no se le dé credibilidad en los procesos a las imágenes que no reúnan una serie de garantías de autenticidad sobre las que se reclama legislación (48) , que desde luego es necesaria, aunque también hay que pensar que esas garantías normativas pueden estar superadas al tiempo de evaluar nuevas falsificaciones que aparenten poseerlas.

Por ello, puede que haya que plantearse una salida distinta, al margen de acudir a medios de prueba más tradicionales para analizar la verosimilitud de la imagen o sonido analizados (49) , lo que siempre es posible aunque también tenga inconvenientes, sobre todo cuando solamente contamos con las siempre cuestionables pruebas testificales. Hay que ser muy conscientes de que el deepfake, como ya se ha advertido, va a ser el principal problema con el que deban lidiar los tribunales en un futuro bastante próximo. Nuestros procesos ya se han llenado de documentos audiovisuales que ahora mismo plantean una credibilidad variable, aunque habitualmente alta, todavía. Pero en cuanto se empiece a sospechar de la alteración sistemática de esos documentos dada la tremenda accesibilidad de las herramientas de manipulación, esa credibilidad va a descender y va a resultar imposible practicar una prueba pericial en cada proceso analizando la autenticidad ni tan siquiera de los documentos más relevantes para la valoración de la prueba. No es ya que sea incuestionablemente antieconómico, sino que puede resultar imposible en términos prácticos localizar suficientes expertos contrastados en la materia, que tengan la posibilidad de realizar su labor en cada proceso.

Ello abre un futuro hacia una nueva realidad en la que, probablemente, ante la lógica incompetencia técnica del juez para detectar deepfakes y la dificultad de localizar técnicas y peritos fiables, tal vez haya que empezar a pensar en otras soluciones para los conflictos de las generaciones futuras que no pasen necesariamente por el enjuiciamiento, medio de resolución de conflictos que nos ha acompañado durante milenios, ciertamente, pero que ha llegado un punto que puede revelar su impotencia para ocuparse de nuestras controversias al no ser verdaderamente realista concebir una actividad probatoria celebrada con unas mínimas garantías de adecuación científica. En consecuencia, es posible que haya llegado ya el tiempo de moverse hacia otro lugar.

V. Hacia un futuro menos enjuiciador y más restaurativo

El contenido de este epígrafe es necesariamente futurista y lleno de incertidumbres, por lo que debe ser forzosamente breve para no caer de lleno en el terreno de la especulación.

Nadie parece ser muy consciente de que puede llegar un momento en que los medios de prueba tradicionales revelen su falta de adecuación a los tiempos. Ello ya está ocurriendo con los interrogatorios, pero de momento nos vamos refugiando en muchos procesos en la prueba documental y en la prueba pericial.

La pregunta es qué vamos a hacer cuando los documentos no sean fiables al poder estar manipulados, y no tengamos manera humana de descubrir esa manipulación con precisión, o bien sólo podamos hacerlo sufriendo grandes costes. En otra época, los seres humanos inventaron la figura de los dadores de fe pública para remediar ese inconveniente, y pese a la corrupción de algunos de ellos, encontramos así un medio de tener mayor seguridad con algunos documentos realmente importantes. Desde luego, podemos intentar hacer algo análogo con los documentos audiovisuales, estableciendo, como se ha dicho, esas garantías técnicas que, por desgracia, no van a ser insuperables para un buen falsificador. En la mayoría de procesos, ciertamente, esas garantías valdrán, al menos a medio plazo, pero a largo plazo puede que tengamos que rendirnos a la evidencia. Todos nuestros medios para reproducir la realidad pueden ser manipulados.

Es posible que en esos futuros escenarios, la actividad procesal deje de estar focalizada en la prueba para situarse en la averiguación de las causas del conflicto, lo que además, en los casos de pornografía particularmente entre menores, podría ser incluso mucho más adecuado (50) . Es decir, ya no invertiremos tantos esfuerzos en la averiguación de la realidad, sino en la exploración de los motivos del desencuentro, que aunque pueden tener que ver, naturalmente, con el falseamiento de la realidad, puede que sea más sabio, entonces, resolver de otro modo. Al fin y al cabo, la obsesión por la averiguación de la verdad, que heredamos de los antiguos egipcios al haber tomado de ellos, por vía griega y luego romana, el concepto de justicia (51) , en el fondo sólo era una manera de entender lo que era positivo en aquella sociedad, que creyó que la averiguación de la verdad era lo que haría paz entre los contendientes. Tanto es así que inventaron una diosa que representara ese sentido de lo bueno, Maat (52) , palabra que en egipcio significaba «verdad» (53) , y que los romanos identificaron con su diosa Iustitia. De ahí viene nuestro propio modo de entender la recta resolución de las controversias: averiguando la verdad y aplicando las normas de la comunidad, tantas veces plasmadas en leyes.

De lo que hay que darse cuenta es que se trata de una posible solución a un conflicto, pero no es la única. Otras comunidades humanas, con éxito desigual, han perseguido más la vía de la reconciliación de los contendientes, tratando de compensar las pérdidas que cada uno sentía. De esas pérdidas sentidas como ciertas se habla muy poco en nuestros actuales procesos, salvo para inspirar marcos mentales en los jueces que les condicionen en su decisión, a veces incluso de manera eficaz. Puede que la clave del futuro esté más bien en la determinación correcta de ese marco, que es más difícilmente manipulable si la actividad procesal se centra directamente en él. Puede que hasta el resultado de todo ello apunte más en la dirección de una «justicia social» en la que tantas veces pensamos, pero que raras veces ponemos realmente en práctica, al menos en el marco de un proceso. No es que ello sea un defecto, pues nuestras actuales leyes no están habitualmente enfocadas en ese sentido. Quizá en futuro habrá que modificar ese enfoque ante la realidad averiguada en este trabajo: un día puede llegar a ser casi imposible descubrir la realidad. Y carecemos ya de una diosa que la represente y de unos «sacerdotes» en los que creamos para transmitir sus designios: los jueces.