El miércoles, La ciudad de Nueva York impuso una nueva ley regulando empresas que usar inteligencia artificial para seleccionar candidatos para puestos vacantes. La ley de Herramientas de decisión de empleo automatizadas (AEDT) de la ciudad requiere que las empresas demuestren que su herramienta de inteligencia artificial está libre de sesgo racial y de género antes de que pueda ser utilizado.
La Ley AEDT, también conocida como Ley Local 144, se introdujo en 2021 y entró en vigor esta semana, lo que convierte a la ciudad de Nueva York en la primera en allanar el camino para las regulaciones corporativas de IA y se espera que otros sigan su ejemplo. Las herramientas son algoritmos que usan IA para tomar decisiones sobre a quién contratar y/o ascender, aunque, según se informa, la selección filtrada se pasa a un ser humano para su revisión final.
Las empresas deberán presentar anualmente una «auditoría de sesgo» y, si no cumplen, los infractores por primera vez estarán sujetos a una multa de $ 500 y las infracciones repetidas pueden conllevar multas de hasta $ 1,500. Si una empresa no cumple con la auditoría de sesgo, se enfrentará a una multa, según la herramienta de inteligencia artificial, de hasta $ 1,500 por día, según Conductor IA.
La auditoría de sesgo calculará la tasa de selección y la tasa de impacto para cada categoría de personas que fueron contratadas, incluidas las categorías de hombres y mujeres, raza/etnicidad y categorías interseccionales que combinan sexo, etnia y raza, de acuerdo con la ley.
Aunque usando herramientas de IA puede reducir significativamente la necesidad de que los empleadores revisen cientos de currículos, el riesgo es que la herramienta podría reflejar estereotipos humanos y discriminar a ciertos candidatos.
“Ese es el riesgo en todo esto, que si no se controla, los humanos a veces ni siquiera pueden explicar qué puntos de datos está captando el algoritmo. Eso es lo que estaba en gran parte detrás de esta legislación”, dijo John Hausknecht, profesor de recursos humanos en la Escuela de Relaciones Industriales y Laborales de la Universidad de Cornell. Noticias CBS. “Está diciendo que hagamos un seguimiento, recopilemos datos, analicemos e informemos, para que, con el tiempo, podamos hacer cambios en las regulaciones”.
Según la AEDT, si corresponde, una empresa debe proporcionar instrucciones alternativas para que un solicitante “solicite un proceso de selección alternativo o una adaptación razonable conforme a otras leyes”, aunque los empleadores no están obligados a ofrecer un proceso de selección alternativo.
“Solo estamos hablando de esas herramientas que reemplazan a los humanos que toman decisiones”, dijo a CBS Camacho Moran, abogado laboral de Farrell Fritz. «Si tiene una herramienta de IA que se ejecuta a través de 1000 aplicaciones y dice: ‘estos son los 20 candidatos principales’, esa es claramente una herramienta que entra dentro de la definición de un AEDT».
La ley puede extenderse a otras ciudades a medida que el atractivo de la contratación remota se vuelve cada vez más popular para las empresas, tanto en la ciudad de Nueva York como en otros lugares. Pero la ley aún es limitada, dijo Julia Stoyanovich, profesora de informática en la Universidad de Nueva York y miembro fundador del Grupo de Trabajo de Sistemas de Decisiones Automáticas de la ciudad. noticias de la nbc. Ella le dijo al medio que AEDT todavía no cubre algunas categorías importantes de solicitantes, incluidos los que se basan en la discriminación por edad o discapacidad.
“En primer lugar, estoy muy contento de que la ley esté en los libros, que ahora hay reglas y vamos a comenzar a hacerlas cumplir”, dijo Stoyanovich al medio. “Pero también hay muchas lagunas. Entonces, por ejemplo, la auditoría de sesgo es muy limitada en términos de categorías. No analizamos la discriminación basada en la edad, por ejemplo, que en la contratación es un gran problema, o las discapacidades”.
Todavía no está claro cómo se hará cumplir la ley AEDT, pero un portavoz del Departamento de Protección al Consumidor y al Trabajador de Nueva York dijo que la agencia “recopilará e investigará las denuncias” contra las empresas.