José Miguel Barjola / Carlos B Fernández. El Grupo de Expertos en responsabilidad y nuevas tecnologías de la Comisión Europea (Group of experts on liability and new technologies), ha publicado un informe sobre el posible nuevo régimen de responsabilidad derivado del uso de la Inteligencia Artificial que se debería implementar en la Unión.
El documento, titulado “Responsabilidad derivada del uso de la inteligencia artificial y otras tecnologías emergentes” (Liability for Artificial Intelligence and other emergin digital technologies), ha sido elaborado por 73 expertos independientes de diferentes Estados Miembros, procedentes del mundo académico y empresarial. Supone la primera aproximación desde instancias comunitarias al estudio de la responsabilidad por daños derivada de accidentes provocados por tecnologías basadas en IA, como los robots, los asistentes virtuales o los coches autónomos.
Con este nuevo documento, la UE continúa así la línea de investigación iniciada por el Grupo de Expertos de Alto Nivel sobre Inteligencia Artificial (High-Level Expert Group On Artificial Intelligence, AI HLEG), quien en diciembre de 2018 publicó un borrador de Directrices Éticas para el desarrollo y uso de la inteligencia artificial (IA) (Draft Ethics Guidelines for Trustworthy AI). En este proyecto ya se anunció la necesidad de estudiar el régimen de responsabilidad aplicable a los productos basados en Inteligencia Artificial.
En su evaluación de los regímenes de responsabilidad existentes tras la aparición de las nuevas tecnologías digitales, el Grupo de Expertos ha concluido que los actuales regímenes de responsabilidad de los Estados miembros ya garantizan una protección básica a las víctimas de los daños causados por estas nuevas tecnologías. Sin embargo, las características específicas de las mismas y de sus aplicaciones --incluyendo su complejidad, su modificación a través de actualizaciones o su autoaprendizaje a la vez que trabajan, la previsibilidad limitada de sus resultados y su vulnerabilidad a las amenazas de ciberseguridad--, puede hacer más difícil ofrecer a estas víctimas una posibilidad de indemnización en todos los casos en que esta parezca justificada. También puede darse el caso de que la asignación de responsabilidad sea injusta o ineficiente.
Por ello los expertos inciden en la necesidad de perfilar un régimen de daños específico para este tipo de situaciones, bien adaptando las normas actuales, o bien creando un marco regulatorio específico para la cuestión.
Para abordar la tarea, los expertos han desarrollado las cuestiones básicas a responder, como cuál debe ser el nivel de diligencia exigible al usuario medio; si será obligatorio cubrir los daños producidos por seguro obligatorio; o cómo se perfilará el régimen de responsabilidad vicaria en caso de accidentes con culpas compartidas entre productor, propietario y usuario.
Normas básicas a tener en cuenta
El informe enumera sus conclusiones en diez normas básicas, que según los expertos, deberían tenerse en cuenta a la hora de desarrollar la nueva normativa:
1. Responsabilidad objetiva del usuario
El usuario de una tecnología lícita, pero que implique un riesgo de daño relevante para terceros (por ejemplo, robots basados en IA utilizados en espacios públicos) debe estar sujeta a un estricto régimen de responsabilidad objetiva por los daños causados.
2. Responsabilidad según el grado de control sobre la tecnología
Cuando exista un proveedor de un servicio equipado con IA, que garantice el marco técnico necesario para operar con dicha tecnología, y un propietario o usuario del mismo producto o servicio, debe tenerse en cuenta el grado de control de cada parte sobre el aparato, para determinar quién opera principalmente la tecnología a efectos de determinar la responsabilidad por daños.
3. Nivel de diligencia exigible
Al usuario de una tecnología que no represente un mayor riesgo de daño para los demás se le debe exigir que cumpla con los deberes de seleccionar, operar, controlar y mantener adecuadamente dicha tecnología; en caso contrario, debe ser considerado responsable por incumplimiento de dichos deberes si causa un daño a terceros y concurre culpa.
4. Responsabilidad por uso de tecnología autónoma
El usuario de una tecnología con cierto grado de autonomía no debería ser menos responsable del daño resultante del uso de la misma que si dicho daño hubiera sido causado por un auxiliar humano del mismo.
5. Responsabilidad por productos defectuosos
Los fabricantes de productos o contenidos digitales que incorporen tecnologías digitales emergentes, deberían ser considerados responsables de los daños causados por defectos en dichos productos, incluso si el defecto fue causado por cambios introducidos en el producto una vez comercializado.
6. Seguro obligatorio
Para situaciones que exponen a terceros a un mayor riesgo de daños, el seguro de responsabilidad civil obligatorio podría brindar a las víctimas un mejor acceso a la indemnización, protegiendo a los posibles causantes del daño ante su responsabilidad.
7. Carga de la prueba del daño
Cuando una tecnología concreta incremente la dificultad para demostrar la existencia de un elemento de responsabilidad más allá de lo razonable, las víctimas deben tener derecho a un asesoramiento sobre dicha prueba.
8. Registro de actividad de los dispositivos
Las tecnologías digitales emergentes deben comercializarse con un registro de actividad apropiado a sus características. La falta de sistema de registro, o de un sistema de acceso razonable a a los datos registrados, debe dar lugar a una inversión de la carga de la prueba para no perjudicar a la víctima.
9. Responsabilidad por pérdida de datos del usuario
La destrucción de los datos de la víctima debe considerarse como daño compensable.
10. Personalidad jurídica
No es necesario otorgar a los dispositivos o sistemas autónomos una personalidad jurídica, ya que el daño que pueden causar puede y debe ser atribuible a personas u organismos existentes.
Una Inteligencia Artificial ética: objetivo de la Unión
Estas propuestas en materia de responsabilidad por daños se unen a las alcanzadas por el Grupo de Expertos de Alto Nivel sobre Inteligencia Artificial en diciembre de 2018 para el desarrollo de una IA ética y confiable: las Directrices Éticas para el desarrollo y uso de la inteligencia artificial (IA) (Draft Ethics Guidelines for Trustworthy AI).
En este informe, los expertos ya alertaron que la disponibilidad de grandes cantidades de datos digitales ha permitido, a lo largo de la última década, alcanzar importantes avances y potentes arquitecturas informáticas y avances en técnicas de IA tales como el aprendizaje automático (Machine Learning). Era por tanto esencial controlar el desarrollo ético de este tipo de innovaciones, y para conseguirlo debía prestarse atención esencialmente a dos objetivos:
1) Respetar los derechos fundamentales, la normativa aplicable y los principios y valores fundamentales, garantizando un "propósito ético" (an “ethical purpose”)
2) Conseguir una IA técnicamente robusta y fiable, ya que, incluso con buenas intenciones, la falta de dominio tecnológico puede causar daños involuntarios.
Con el nuevo trabajo sobre responsabilidad por daños, la Comisión Europea avanza en su misión para conseguir una Inteligencia Artificial ética y comprometida con los derechos de terceros. Toca ahora esperar a que las investigaciones se materialicen en los proyectos normativos concretos para los Estados, con consecuencias directas en la vida de los usuarios. En este sentido hay que destacar que la agenda política de la nueva presidenta de la Comisión Europea, Ursula van der Leyen, recoge su intención de presentar, durante sus primeros cien días en el cargo "propuestas de legislación para un enfoque europeo coordinado sobre las implicaciones éticas y humanas de la inteligencia artificial. Asimismo, analizaremos cómo podemos utilizar los macrodatos para innovaciones que generen riqueza para nuestras sociedades y empresas". Un empeño sumamente ambicioso del que quizás este documento al que hoy nos referimos pueda suponer un primer paso.