Volver a página de inicio

I. Introducción

La evolución desde la aparición de las técnicas de Big Data y los desarrollos de Inteligencia Artificial van a suponer herramientas útiles para la automatización de la vigilancia policial y judicial a través del uso de las denominadas herramientas predictivas. La velocidad en la rápida evolución tecnológica tiene, sin duda alguna, grandes implicaciones jurídicas. Desde un punto de vista conceptual, John McCarthy, a quien se le atribuye la titularidad de padre de la Inteligencia Artificial, la definía como «la ciencia y la ingeniería de hacer inteligentes a las máquinas». Esto hace referencia a la habilidad de la máquina de percibir y responder a los estímulos de su entorno de forma independiente y de llevar a cabo tareas que son desarrolladas por humanos y tomar decisiones sin la intervención directa de éstos (1) . De la misma manera que los seres humanos alcanzan el aprendizaje a base de experiencia, en el caso de la Inteligencia Artificial se pretende que el aprendizaje también sea el resultado de la propia experimentación de la máquina (2) .

De forma paralela, en el marco de la justicia criminal han venido a ser consideradas con sumo interés aquellas acciones dirigidas para combatir el cibercrimen y a fortalecer la seguridad de los Estados.

Es el uso de la tecnología por parte de los Poderes públicos lo que suscita el debate de si el uso de la Inteligencia Artificial por los Estados para lograr los objetivos de seguridad y de lucha contra el cibercrimen pudiera estar vulnerando, de un modo u otro, los derechos de los ciudadanos.

II. Análisis práctico

Con carácter global podemos decir que existe una falta de experiencia en uso de este tipo de tecnologías por lo que resulta esencial trabajar en la fijación de los parámetros legales dentro de los cuales se va a llevar a cabo la actividad policial. En este sentido, nunca razones de Seguridad nacional deberían justificar todas las actuaciones sin control sobre aquellas que pudieran rebasar los límites legalmente fijados para mejor protección de la esfera privada (3) .

Una de las funciones policiales estudiadas consiste en el uso de Instrumentos de Evaluación de Riesgos (4) que nacen con la intención de calcular los potenciales daños que pudieran ocasionarse a terceros. Los Instrumentos de Evaluación de Riesgo son instrumentos de anticipación o de predicción que tendrán en el futuro un papel decisivo para resolver si una persona debe ser encarcelada o si es necesario considerar sus posibilidades de reinserción o si debe ser puesto anticipadamente en libertad (5) . Para Slobogin conocer y anticiparse a los potenciales riesgos viene siendo una de las mayores preocupaciones de la justicia penal, sobre todo, en relación con la toma de decisiones policiales, la decisión sobre una detención preventiva o el dictado de resoluciones judiciales lo más ajustadas posible (6) . Los Instrumentos de Evaluación de Riesgo, como algoritmos de predicción o previsión, deberán desarrollarse sobre la base de tres principios básicos:

• (1) principio de adecuación a la cuestión jurídica;
• (2) el principio de validez, que requiere que el instrumento de evaluación de riesgo se limite únicamente a la función establecida;
• (3) el principio de equidad, llamado a equilibrar el aumento del riesgo frente a los valores sobre los que se sustenta el sistema de justicia penal (7) .

Slobogin pone de manifiesto que es complicado encontrar la concurrencia de los tres principios en las herramientas de análisis de riesgos y que son más una aspiración que una implementación real (8) .

Desde la óptica judicial, uno de los primeros tribunales en valorar el uso de las herramientas de análisis de riesgos y de predicción fue el Tribunal de Wisconsin en el caso Wisconsin vs. Loomis (2016) 881 NW 2d 749, 761 (Wisconsin) (9) . En este procedimiento el Tribunal cuestionó la validez de los resultados que arrojaba la herramienta empleada (COMPAS) que no estaba válidamente autorizada para ser utilizada sobre la población local y, sobre ésta, no se pudo analizar las bases sobre las que se desarrolló el software del algoritmo, es decir, los parámetros de las variables introducidas para la búsqueda de determinados perfiles de población. En concreto, se dictaminó que no quedaba suficientemente garantizado que no tuviera ningún sesgo que perjudicara en sus resultados de análisis a poblaciones minoritarias. En estos casos, si se respetaran los principios básicos en el desarrollo de los algoritmos destinados a la previsión y análisis de riesgos, los resultados serían de mucha ayuda para la toma de decisiones y la resolución de sentencias (10) .

El proceso de análisis predictivo consiste en incorporar datos históricos de criminalidad para lograr identificar cuáles son los patrones de conducta que culminan en la perpetración de un tipo de delito. De este modo, se podrá hacer un cálculo de probabilidades en la comisión de los mismos delitos en un futuro próximo y así poder evitarlo (11) . Los hechos históricos aplicados a trabajos de política criminal sirven como base o fundamento para desarrollar modelos predictivos futuros (12) . Los algoritmos son desarrollados para considerar un tipo delictivo concreto, no para predecir la criminalidad como concepto general (13) ; esto va a tener como inconveniente práctico que los algoritmos no puedan ser extrapolables a la predicción de otros supuestos diferentes para los que han sido ingeniados. Quedarán excluidos de la predicción los delitos situacionales o aquellos que no pueden ser predecibles por tener una base pasional o impulsiva (14) . Se ha venido utilizando herramientas de software que, analizando las redes sociales eran capaces de hacer predicción de zonas geográficas que eran susceptibles de ser escenarios de comisión de delitos (15) .

Debe mencionarse que, otro de los avances que han revolucionado el campo de la seguridad pública es la iniciativa desarrollada por un laboratorio israelí que lleva a analizar las micro expresiones de los individuos y que, unido a la aplicación de principios derivados de la neurociencia, pretende identificar y clasificar los comportamientos delictivos.

En aplicación de instrumentos predictivos de Inteligencia Artificial, consideramos que las políticas públicas deberían basarse en un riguroso estudio y análisis de los datos utilizando metodologías y procedimientos científicos estandarizados y tomar decisiones que no estén basadas en la promoción de las desigualdades ni en la incorporación de sesgo alguno para el momento del análisis de los datos (16) .

Las herramientas de análisis predictivo tienen aplicaciones prácticas, sobre todo, para una mejor ubicación de las patrullas policiales en evitación de la comisión de delitos. El fin último con el uso de la tecnología será el de reducir los índices de criminalidad (17) . Aparte de los beneficios que pueda conllevar el uso de tecnología predictiva, en contrapartida, también se ha estudiado el impacto que puede generar sobre la ciudadanía. Uno de los estudios al respecto es el elaborado por el Banco Interamericano de Desarrollo que publica un estudio sobre impactos sobre los individuos ante el uso de herramientas software como los Sistemas de Información Geográfica, los Sistemas Integrados y los Centros de monitoreo de Circuito Cerrado de Televisión. Los Sistemas de Información Geográfica son recursos esenciales que servirán a los agentes policiales para mejor planificación operativa del patrullaje y la valoración de la necesidad de los recursos humanos de que se debe disponer para ello. Los Sistemas de Información Geográfica, de forma específica, son utilizados en Estados Unidos y en el Reino Unido para tareas policiales de planificación, prevención del delito, investigación y persecución de presuntos delincuentes.

Destacamos también cómo la aparición de los fenómenos extremistas violentos, la radicalización y los atentados terroristas han acelerado las acciones intergubernamentales y de políticas públicas para centralizar de algún modo la información entre las agencias de investigación criminal y mantener las conexiones de inteligencia. La actividad policial basada en la inteligencia, «ha demostrado ser una herramienta eficaz para combatir la delincuencia organizada, aprovechar mejor los recursos, e identificar y realizar tareas prioritarias de forma selectiva» (18) . Destacamos como instrumentos de predicción los siguientes desarrollos software:

• — Oxford Risk of RecidivismTool (OxRec), creada y validada en Suecia, está dedicada a hacer cálculos probabilísticos de reincidencia delictiva; se basa en múltiples factores de riesgo —incluso en medioambientales— para lograr identificar cuáles son los grupos poblacionales de riesgo que puedan ser reincidentes y cometer nuevos delitos violentos (19) . En uno de los estudios, de dos años de duración, que tuvo como elemento de observación el total de la población reclusa se obtuvo resultados que lograron identificar cuáles podían ser los grupos de alto riesgo de reincidencia (20) . Así, se distribuyeron los resultados en un 60% para los grupos de alto riesgo, en un 30% el grupo de riesgo medio y el grupo de riesgo bajo identificado dentro del 10% de la población reclusa. Los parámetros de búsqueda que le fueron introducidos a la herramienta tenían estrictas motivaciones estadísticas y tenían relación con el género, la edad, la migración, el estado civil, el nivel educativo, el consumo de alcohol, las enfermedades mentales y la pertenencia a barrios más o menos deprimidos.
• — La Violence Risk Appraisal Guide (VRAG), «es una escala actuarial para la valoración del riesgo de reincidencia violenta en pacientes mentales y en delincuentes en prisión o en cumplimiento de otras medidas penales. Su utilidad está circunscrita mayoritariamente al ámbito penitenciario. Consiste en un listado de 12 ítems (entre los que se incluye la valoración total de la herramienta PCL-R) relacionados con los aspectos biográficos y clínicos del evaluado» (21) . Pretende hacer una predicción de un posible comportamiento violento de carácter grave por parte de adultos que estén afectados por algún tipo de transtorno mental grave o que tenga un historial de delincuencia previo. Previsto para un contexto de justicia penitenciaria, clínico y o forense.
• — HCR-20: Esta es una herramienta de valoración del riesgo sobre las conductas violentas procedentes de adultos. Se sitúa, como la anterior, en un contexto clínico, forense o de justicia penitenciaria. La herramienta de predicción HCR 20, es una guía con 20 ítems que ayudarán al profesional a predecir el nivel de riesgo existente de violencia física analizando a pacientes psiquiátricos y reclusos violentos. Esta herramienta de predicción tiene actualmente su aplicabilidad en España en el ámbito penitenciario, sobre todo en la selección de los candidatos para el acceso a los grados penitenciarios y las salidas del centro de reclusión (22) . El instrumento de predicción del riesgo de violencia está dividido en 22 escalas diferentes agrupadas en cinco categorías principales: (1) Intervención criminal; (2) Estilo de vida; (3) Personalidad y actitudes; (4) Familia; (5) Exclusión Social.
• — COMPAS. Thomas Blomberg y otros llegan a la conclusión de que COMPAS es una herramienta útil frente a delincuentes que han sido excarcelados antes de someterse a juicio oral y que es altamente predictivo de reincidencias futuras (23) .

  Slobogin hace mención también a otras herramientas de predicción empleadas por la policía como Digital Stakeout o Predpol, esta última, es una herramienta que predice la comisión de delitos futuros únicamente con tres elementos: la fecha en la que se produjo el delito que queremos prever, el lugar, y el tipo de delito. El autor hace referencia a que, si se combina una herramienta predictiva con datos biométricos los resultados tendrán un alto grado de fiabilidad (24) . Rábade menciona, respecto a PredPol, que es un software alimentado con datos estadísticos delictivos, que tiene como referencia las cuadrículas que dividen el mapa de patrullaje. Cada cuadrícula cubre una zona de aproximadamente 45 metros cuadrados y, sobre este mapa, el software de Predpol calcula la distribución geográfica y la frecuencia en que se produjeron eventos en el pasado reciente. Con esos datos de contraste, la herramienta arroja un resultado que muestra cuáles son los delitos que probablemente vayan a perpetrarse, en qué ubicación geográfica y cuál sea el momento probable en el que vayan a materializarse. Según el autor, con Predpol se ha logrado reducir en un 13% el índice de criminalidad en la ciudad de Los Ángeles (25) .

• — PCR-R: El objetivo de este software es la evaluación de una posible presencia de psicopatía en adultos que posean un historial violento o delictivo previo. Se emplea sobre todo en contextos forenses, clínicos o de justicia penitenciaria.
• — SARA: Se ha desarrollado con finalidad de valoración del riesgo de conductas violentas con un componente de naturaleza sexual o física contra la pareja o ex pareja. Se utiliza en los contextos forenses, clínicos y de justicia penitenciaria.
• — EPV: Herramienta desarrollada para la predicción del riesgo de homicidio o de violencia grave contra la pareja o ex pareja. Dirigida a un contexto policial, judicial, penitenciario o forense.
• — SVR-20: La iniciativa de su creación tiene vínculos estrechos con la valoración del riesgo de violencia sexual estudiado en pacientes mentales o en delincuentes adultos que hayan podido ser acusados de este tipo de acciones ilícitas. El contexto para el que se destina los resultados es el forense, justicia penitenciaria o clínico.
• — SAVRY: Este desarrollo tiene como objeto la valoración del riesgo de violencia física, sexual y de amenazas graves. El sujeto a quien se dirige la herramienta es a menores entre 14 y 18 años y a pacientes con patologías mentales (26) .
• — LETHALY SCREEN: herramienta predictiva para detección temprana de los riesgos de violencia doméstica (27) .
• — ANNACRIM: desarrollada en Francia en el año 1994 para identificar, predecir y prevenir e interrumpir actividades terroristas y redes criminales.
• — KEYCRIM: Implementada tanto en Suecia como en Italia. Surgió en el año 2007 y estaba destinada a la predicción de los crimenes en serie.
• — CAS: Denominada Crime Anticipation System, surge en 2013 en Amsterdam y fue implementada en todos los Paises Bajos hasta finales de 2017.
• — PRECOBS: en Alemania, se centró en la predicción de los robos de vehículos y en viviendas.
• — SKALA: principal programa de análisis y predicción de Alemania, España, Dinamarca y Austria. Amplía el espectro de predicción de PRECOBS al análisis de probabilidades de robos en domicilios y establecimientos comerciales, haciendo un cálculo de probabilidades de las posibles vías de huída al incluir la red de carreteras y autopistas cercanas a los puntos críticos (28) .
• — SIG: herramienta predictiva de España, centrada en la identificación de concentraciones de delitos por las características sociales de una zona, la topología y la meteorología. Permite la optimización del patrullaje en momentos y lugares concretos (29) .

En España, Liberatore y otros delimitan los ámbitos en los que resulta útil la aplicación de las herramientas de policía predictiva y son, principalmente los siguientes: (1) Predicción del crimen; (2) Delimitación de los distritos policiales y la optimización de las áreas de patrullaje; (3) El análisis y la correlación entre los crímenes de producción serial; (4) La predicción de la perpetración de nuevos episodios de violencia de género; (5) El análisis de vulnerabilidades de las redes de delincuencia organizada; (6) El análisis de las imágenes captadas por circuitos cerrados de televisión (CCTV); (7) Análisis de la productividad laboral; (8) Por último, la detección de falsas denuncias (30) .

III. Conclusiones

Tras el análisis de las múltiples herramientas de Inteligencia Artificial al servicio de la función policial y judicial, podemos concluir que a automatización de las funciones de prevención y de policía predictiva deberán considerarse como un instrumento más para la toma de decisiones en el ámbito de la investigación policial. Si bien, tal como hemos visto, los modelos de IA son capaces de recolectar grandes volúmenes de datos para ser analizados, bien es cierto que, en el ámbito criminal no podrá prescindirse nunca de la intervención del analista criminal (31) . A favor de las decisiones humanas se pronuncian Kaufmann y otros señalando que, «El análisis de nuestro material empírico ha demostrado que la percepción de un agente de policía y la percepción que otorga depende de tres factores: la disponibilidad que se tenga de los datos, las variables que hayan sido incluidas en el análisis y la forma en que ambos —datos y variables— han sido combinados (32) .

De todo lo expuesto consideramos que, a pesar de los grandes avances y logros en el desarrollo de instrumentos predictivos, la sociedad y la tecnología no están aún preparadas para dejar en manos de la IA la toma de todas las decisiones, pero el camino tiene visos de asemejarse a ese futuro (33) . Cabe señalar que los propios Cuerpos policiales son conscientes de la necesidad de innovar en el ejercicio de sus funciones y entienden que las herramientas predictivas de IA supondrán una buena aportación al éxito de sus actuaciones, sin embargo, a día de la fecha, ni la estadística ni la tecnología disponible ha logrado descartar el factor humano como último eslabón en la toma de decisiones (34) .

Haciendo traslado de lo tratado al patrullaje policial en la Red —el ciberpatrullaje— las herramientas predictivas supondrían el lanzamiento de búsquedas en la Red para analizar todos los comentarios, imágenes y archivos que pudiera alojarse en ella y prever la comisión de todo tipo de comportamientos delictivos.

Los primeros obstáculos que encontramos en el ejercicio indiscriminado de estas prácticas son los que tienen que ver con los límites al ejercicio de las competencias policiales, los límites impuestos a las Administraciones Públicas en el ejercicio de sus funciones por la CE, la protección constitucional a los derechos fundamentales de los individuos y las garantías que protegen los derechos digitales de los usuarios de la red. Estos límites deberán ser considerados no sólo respecto a los usuarios nacionales, sino también respecto a todos los extranjeros que pudieran estar navegando por las infraestructuras nacionales de Red. Las herramientas que hemos mencionado hacen referencia en su mayoría a evaluaciones predictivas dirigidas a individuos concretos, a excepción de Predpol y Annacrim que están enfocadas a la obtención de predicciones en espacios geográficos lo más aproximado posible a la realidad. Consideramos que este tipo de instrumentos son los que, aplicados a la Red, potenciarán las labores de vigilancia de los ciudadanos y la prevención de delitos, sin olvidar que se deberá tener en cuenta en todo momento los límites constitucionales que deberían ser respetados también con el uso de las tecnologías.

A nuestro criterio, la monitorización de la población con intención de su identificación, sin su conocimiento, en los espacios públicos o semi públicos de la Red por los Cuerpos policiales podría ser considerarse como una vulneración de los derechos de la libertad deambulatoria de los ciudadanos proyectada en la Red si no se lleva a cabo por motivos de protección de la seguridad nacional o por motivos de seguridad pública, como podría ser la detección de masificaciones que pudieran poner en riesgo a la población, a modo de ejemplo. La automatización de la vigilancia en la Red con implicación de la IA debería estar dirigida únicamente a la detección temprana de la comisión de delitos basado en la búsqueda por palabras clave, imágenes o textos y nunca dirigida a la observación individualizada.

Por todo ello, podemos decir que, el ciberpatrullaje indiscriminado, constante y no justificado sería a nuestro juicio una extralimitación en las funciones policiales que, unido al anonimato que ofrece la Red, supondría un claro desequilibrio en ese binomio entre interés público e interés privado.