Carlos B Fernández. La Casa Blanca tiene previsto elaborar una declaración de derechos digitales de los ciudadanos. Para ello, su Oficina de Política Científica y Tecnológica (Office of Science and Technology Policy, OSTP) puso en marcha el pasado mes de octubre un procedimiento de consulta pública, para recabar aportaciones de las agencias gubernamentales, el mundo académico y la industria.
Según escribieron el director de la OSTP, Eric Lander, y la subdirectora de Ciencia y Sociedad, Alondra Nelson, en la revista Wired, “Hay que exigir a las poderosas [compañías] tecnologías que respeten nuestros valores democráticos y cumplan el principio central de que todo el mundo debe recibir un trato justo. Codificar estas ideas puede ayudar a garantizar esta pretensión, señalaron.
Según Lander y Nelson, “al igual que poco después de ratificar nuestra Constitución, los estadounidenses adoptaron una Carta de Derechos para protegerse del poderoso gobierno que acabábamos de crear, enumerando garantías como la libertad de expresión y de reunión, el derecho a un proceso y a un juicio justo, y a la protección contra registros e incautaciones irrazonables, en el siglo XXI, necesitamos una 'carta de derechos' para protegernos de las poderosas tecnologías que hemos creado”.
“Nuestro país, continúan, debería aclarar los derechos y libertades que esperamos que respeten las tecnologías basadas en datos. Habrá que debatir cuáles son exactamente, pero he aquí algunas posibilidades: el derecho a saber cuándo y cómo influye la IA en una decisión que afecta a los derechos y libertades civiles de los ciudadanos; su libertad de no ser sometido a una IA que no haya sido cuidadosamente auditada para garantizar que es precisa, imparcial y que ha sido entrenada con conjuntos de datos suficientemente representativos; su libertad ante la vigilancia y control omnipresente o discriminatorio en el hogar, comunidad o lugar de trabajo; y su derecho a un recurso significativo si el uso de un algoritmo le perjudica”.
Por supuesto, añaden, enumerar los derechos es sólo un primer paso. "¿Qué podríamos hacer para protegerlos? Las posibilidades incluyen desde que el gobierno federal se niegue a comprar productos de software o tecnologías que no respeten estos derechos, a que exija a los contratistas federales el uso de tecnologías que se adhieran a esta 'carta de derechos', a que el Ejecutivo adopte nuevas leyes y regulaciones para llenar las lagunas existentes”. Los Estados, por su parte, podrían optar por adoptar prácticas similares.
A lo largo de los próximos meses, la Oficina de Política Científica y Tecnológica de la Casa Blanca elaborará esa carta de derechos, en colaboración con socios y expertos de todo el gobierno federal, el mundo académico, la sociedad civil, el sector privado y las comunidades de todo el país. "La tecnología sólo puede funcionar para todos si todos están incluidos, por lo que queremos escuchar a todos y comprometernos con ellos”.
Aunque la utilización de las tecnologías de reconocimiento facial por las fuerzas del orden es el caso más destacado de uso de la biometría, la solicitud de información de la OSTP deja claro que también está interesada en otros casos, como el reconocimiento facial para controlar el acceso a edificios, historiales médicos o prestaciones públicas; el reconocimiento facial y de voz para comprobar la fiabilidad de posibles contrataciones, la atención de los estudiantes o las respuestas a los anuncios; el análisis de las pulsaciones del teclado para detectar enfermedades y el reconocimiento de la marcha y el análisis del ritmo cardíaco para determinar la salud.
Es decir, la OSTP busca información sobre casos de uso de la biometría, tanto públicos como privados, en los que la tecnología se haya utilizado para verificar la identidad, identificar a personas o determinar atributos como el estado mental o emocional de una persona.
"Empezamos aquí por lo mucho que se están adoptando y lo rápido que están evolucionando, no sólo para la identificación y la vigilancia, sino también para inferir nuestros estados emocionales e intenciones",
La necesidad de mecanismos coercitivos
En unas declaraciones posteriores durante la Standford University Fall conference on Human Centered AI (Conferencia de Otoño sobre IA centrada en el ser humano de la Universidad de Stanford), a comienzos de noviembre, Lander ha insistido en la necesidad de que esta nueva Bill of rights cuente con mecanismos para hacerse efectiva y proteger los derechos que reconozca.
Según el director de la OSTP, “muchas propuestas de ética de la IA son poco más que un conjunto de expectativas básicas en torno a la gobernanza, la privacidad, la equidad, la transparencia y la explicabilidad”. “Se necesitan leyes y mecanismos procesales para hacerlas efectivas”.
No se trata, añadió de limitar la innovación, sino con una forma de mejorar la calidad de los productos al no recompensar a los que busquen atajos para ignorar los derechos de los ciudadanos y, por el contrario, establecer reglas para recompensar a los que producen productos seguros, eficaces, justos y equitativos".
Según Lander, la OSTP ha optado por centrar su declaración de derechos en los sistemas de IA que intervienen en decisiones que benefician o perjudican a las personas --en lugar de en su calidad, seguridad o investigación-- porque el enfoque podría no funcionar con todas las tecnologías”.
La oficina se plantea cuestiones como ¿Qué podría significar el derecho a gobernar tus propios datos personales? Según Lander, este, ahora mismo, consiste en gran medida en la notificación [del tratamiento] y en el consentimiento [del interesado], todo ello por medio de unas condiciones de servicio que son muy largas, muy difíciles de interpretar y que te obligan a decir 'vale' si quieres usar el producto porque tienes prisa".
Establecer un derecho de consentimiento para el uso de los datos podría conducir a un modelo de consentimiento por capas en el que los titulares de los datos decidan para qué fines se utilizan los mismos, si esos datos pueden venderse, cuándo solicitar que se eliminen los datos y hacer que se borren; y si un agente puede decidir todo eso en su nombre”.
La OSTP también está sopesando lo que implica el derecho a la transparencia, desde la certificación de los algoritmos por parte de auditores externos hasta las pruebas abiertas o el código fuente.
La gente también puede querer el derecho a saber cómo la IA llegó a una decisión sobre sus beneficios gubernamentales, lo que podría llevar a un requisito para los desarrolladores de "derechos por diseño", dijo Lander.
"La mejor manera de hacerlo es asegurarse de que los desarrolladores de la IA tengan una gama diversa de perspectivas y experiencias, de modo que se detecten los problemas a tiempo", dijo Lander.
Está por ver cómo garantizar exactamente los derechos por diseño, pero Lander prevé procedimientos en los que los demandantes puedan argumenten que el hecho de que un desarrollador no incluya suficientes perspectivas en el diseño de su IA podría provocar problemas.
Los expertos en ética de la IA sostienen que la industria domina la investigación en este campo, pero Lander afirma que eso tiene sentido dada la amplia infraestructura necesaria. Aun así, algunas empresas han demostrado estar dispuestas a compartir sus algoritmos abiertamente con el mundo académico, que sigue haciendo un trabajo de vanguardia, dijo.
"Tenemos que contar con un sector empresarial que se vea a sí mismo como administrador responsable de un ecosistema", dijo Lander. "Y eso vendrá de los valores y las conexiones entre el mundo académico y el corporativo y de empujar a la gente y recordarle lo que tiene que hacer para que eso funcione".
La consulta está abierta hasta el 15 de enero de 2022.