A principios de este mes, Lina Khan, presidenta de la Comisión Federal de Comercio (FTC) de EE. UU., escribió un ensayo en Los New York Times afirmando el compromiso de la agencia de regular la IA. Pero había una aplicación de IA que Khan no mencionó y que la FTC necesita regular con urgencia: los sistemas de contratación automatizados. Estos varían en complejidad desde herramientas que simplemente analizan los currículums y los clasifican hasta sistemas que dan luz verde a los candidatos y descartan a los solicitantes que se consideran inadecuados. Cada vez más, los trabajadores estadounidenses están obligados a usarlos si quieren ser contratados.
En mi libro reciente, El trabajador cuantificado, Argumento que el trabajador estadounidense está siendo reducido a números por las tecnologías de inteligencia artificial en el lugar de trabajo, entre las que destacan los sistemas de contratación automatizados. Estos sistemas reducen a los solicitantes a una puntuación o rango, a menudo ignorando la gestalt de su experiencia humana. A veces incluso clasifican a las personas por su raza, edad y sexo, una práctica que está legalmente prohibida como parte del proceso de toma de decisiones laborales.
Irónicamente, muchos de estos sistemas se comercializan como libres de prejuicios o garantizados para reducir la probabilidad de contratación discriminatoria. Pero debido a que están tan poco regulados, se ha demostrado que tales sistemas niegan la igualdad de oportunidades de empleo sobre la base de categorías protegidas como la raza, la edad, el sexo y la discapacidad. En diciembre de 2022, por ejemplo, un sindicato de camioneros demandó a Meta, alegando que Facebook “muestra selectivamente anuncios de trabajo en función del género y la edad de los usuarios, siendo mucho menos probable que los trabajadores mayores vean anuncios y que las mujeres vean anuncios de blue- puestos de cuello, especialmente en industrias que históricamente excluyen a las mujeres”. Esto es engañoso. Aún más, es injusto tanto para los solicitantes de empleo como para los empleadores. Los empleadores compran sistemas de contratación automatizados para reducir su responsabilidad por discriminación laboral, y los proveedores de esos sistemas están legalmente obligados a corroborar sus reclamos de eficacia y equidad.
La ley pone los sistemas de contratación automatizados bajo el ámbito de la FTC, pero la agencia aún tiene que publicar pautas específicas sobre cómo los proveedores de estos sistemas deben publicitar sus productos. Debería comenzar requiriendo una auditoría para garantizar que las plataformas de contratación automatizadas cumplan las promesas que hacen a los empleadores. Los proveedores de estas plataformas deberían estar obligados a proporcionar registros claros de auditorías que demuestren que sus sistemas reducen el sesgo en la toma de decisiones de empleo como se anuncia. Estas auditorías deberían poder mostrar que los diseñadores siguieron las pautas de la Comisión de Igualdad de Oportunidades en el Empleo (EEOC) al crear las plataformas.
Además, en colaboración con la EEOC, la FTC podría establecer la marca de contratación automatizada justa, que se usaría para certificar que los sistemas de contratación automatizados han pasado el riguroso proceso de auditoría. Como visto bueno, la marca sería una señal útil de calidad para los consumidores, tanto para los solicitantes como para los empleadores.
La FTC también debería permitir que los solicitantes de empleo, que son consumidores de sistemas de solicitud en línea habilitados para IA, presenten demandas en virtud de la Ley Federal de Informes de Crédito (FCRA). Anteriormente, se pensaba que la FCRA solo se aplicaba a las tres grandes agencias de crédito, pero una lectura atenta muestra que esta ley se puede aplicar siempre que se haya creado un informe para cualquier «decisión económica». Según esta definición, los perfiles de los solicitantes creados por las plataformas de contratación automatizada en línea son «informes del consumidor», lo que significa que las entidades que los generaron (como las plataformas de contratación en línea) se considerarían agencias de informes crediticios. Según la FCRA, cualquier persona que sea objeto de uno de estos informes puede solicitar a la agencia que lo hizo ver los resultados y exigir correcciones o enmiendas. La mayoría de los consumidores no saben que tienen estos derechos. La FTC debería lanzar una campaña educativa para informar a los solicitantes sobre estos derechos para que puedan hacer uso de ellos.