Carlos B Fernández. A partir del próximo 1 de enero de 2023, la ciudad de Nueva York aplicará una ley que va a obligar a las empresas que utilicen herramientas automatizadas de toma de decisiones en el ámbito laboral a certificar que dichas herramientas han pasado una auditoría independiente sobre sesgos (a bias Audit), en el año anterior a su puesta en funcionamiento.
Igualmente, las empresas que utilicen esas herramientas estarán obligadas a poner a disposición del público en su sitio web o en el de la agencia de empleo a la que recurran, con carácter previo a su uso, un resumen de los resultados de la auditoría de sesgos practicada a dicha herramienta.
Según la reforma que se ha introducido en el Código Administrativo de la ciudad (Administrative Code of the city of New York), por la Local Law Int. No. 1894-A, que ha añadido un nuevo subapartado 25, sobre herramientas automatizadas de toma de decisiones, a su Sección 1, Capítulo 5 del Título 20 (Consumer and Worker Protection), se entiende por
- Herramienta automatizada de toma de decisiones en el ámbito laboral (Automated employment decision tool) cualquier proceso computacional, derivado del aprendizaje automático, el modelado estadístico, el análisis de datos o la inteligencia artificial, que emita un resultado simplificado, incluida una puntuación, clasificación o recomendación, que se utiliza para ayudar o sustituir sustancialmente la toma de decisiones discrecionales de empleo que afectan a las personas físicas.
- Decisión de empleo (employment decision) significa seleccionar a los candidatos a un empleo o a los empleados para su promoción.
- Auditoría de sesgo significa una evaluación imparcial realizada por un auditor independiente, que incluirá, pero no se limitará, a la comprobación de una herramienta automatizada de decisión de empleo para evaluar el impacto discriminatorio de la herramienta sobre las personas (shall include but not be limited to the testing of an automated employment decision tool to assess the tool’s disparate impact on persons).
Esta ley, aplicable en un área urbana de cerca de 24 millones de habitantes, establece también que cualquier empleador o agencia de empleo que utilice una herramienta automatizada de decisión sobre el empleo para examinar a un empleado o a un candidato para una decisión de empleo, deberá notificarles lo siguiente:
1. Que se va a utilizar una herramienta automatizada de toma de decisiones en relación con la valoración o evaluación de dicho empleado o candidato. Dicha notificación se realizará con no menos de diez días hábiles de antelación a dicho uso y permitirá al candidato solicitar un proceso de selección alternativo o una adaptación del mismo;
2. Las cualificaciones y características del puesto de trabajo que dicha herramienta utilizará en la evaluación de dicho candidato o empleado; y
3. A solicitud del candidato, información sobre el tipo de datos recogidos para la herramienta, la fuente de dichos datos y la política de retención de datos del empleador o de la agencia de empleo, siempre que dicha información no haya sido previamente divulgada en el sitio web del empleador o de la agencia de empleo. Dicha información se facilitará en un plazo de 30 días a partir de su solicitud por escrito.
Las infracciones de esta norma podrán dar lugar a una sanción de 500 dólares por una primera infracción y de hasta 1.500 dólares por cada día en que se utilice una herramienta de decisión de empleo automatizada en violación de esta norma.
Según explica J. Edward Romero en Bloomberg Law, la ley no incluye un derecho de acción privado, lo que significa que los trabajadores no pueden acudir directamente a los tribunales si creen que han sido discriminados a través de las herramientas de IA de un empleador. Pero existe la posibilidad de presentar demandas colectivas ante un tribunal federal si, por ejemplo, la ciudad considera que una herramienta utilizada por un empleador es discriminatoria.
Nuevas normas estadounidenses sobre uso de herramientas algorítmicas en el trabajo
Romero añade que, aunque esta ley de Nueva York es la primera de este tipo en EE.UU., es probable que no sea la última.
A nivel federal, las directrices de la Comisión de igualdad de oportunidades en el empleo (Equal Employment Opportunity Commission, EEOC) del pasado mes de mayo, en relación con la aplicación de la Ley de protección de los americanos con discapacidad (Americans with Disabilities Act, ADA) indican a las empresas que deben evaluar sus herramientas de IA para detectar posibles prejuicios contra los trabajadores discapacitados, aunque sin imponer ningún requisito adicional ni amenazar con sanciones.
A nivel estatal y local, Illinois se convirtió en el primer estado en regular las herramientas de IA utilizadas por los empleadores en 2019, aunque su ley es más estrecha y se dirige específicamente a las herramientas que evalúan las entrevistas de video.
Por otra parte, el Fiscal General del Distrito de Columbia, presentó en 2021 un proyecto de ley similar a la ley de la ciudad de Nueva York, que establecería la responsabilidad de los empleadores para garantizar que las herramientas de IA que utilizan no están discriminando a ciertos candidatos. La ley aún está siendo revisada por el ayuntamiento, con una reunión pública prevista para el próximo mes.
Por su parte, el Departamento de Derechos Civiles de California (California Civil Rights Department) anunció a principios de este año que está elaborando una normativa para aclarar que el uso de herramientas automatizadas para la toma de decisiones está sujeto a las leyes sobre discriminación laboral. La normativa propuesta incluye requisitos de mantenimiento de registros para conservar "todos los datos de aprendizaje automático" durante cuatro años.