Meta está lanzando un nuevo sistema de distribución de anuncios en los EE. UU. como parte de la acuerdo al que llegó con el Departamento de Justicia de EE.UU. (DOJ) el año pasado. En un anuncio en su sitioMeta dice que su nuevo Sistema de reducción de varianza (VRS) creará una «distribución de anuncios más equitativa» en las plataformas de la compañía, abordando las afirmaciones de que la plataforma propagó la discriminación en la vivienda al permitir que los anunciantes excluyeran a grupos protegidos de sus campañas de marketing.
Las cosas llegaron a un punto crítico cuando el Departamento de Vivienda y Desarrollo Urbano (HUD) interpuso una demanda contra la empresa en 2019. El año pasado, el Departamento de Justicia, que representa a HUD, llegó a un acuerdo con Meta que requiere que la compañía desarrolle un nuevo sistema para «abordar las disparidades raciales y de otro tipo causadas por el uso de algoritmos de personalización en su sistema de entrega de anuncios».
En este anuncio más reciente, Meta explica que su sistema actualizado utiliza «nueva tecnología de aprendizaje automático» al publicar anuncios, lo que garantiza que la audiencia real de un anuncio refleje con mayor precisión a la audiencia objetivo «elegible».
Una vez que el anuncio ha sido visto por suficientes personas, meta dice el VRS medirá la edad agregada, el género y la distribución estimada de raza o etnicidad del grupo. Luego comparará esta información con la población de «personas que son más aptas para ver el anuncio», y si hay demasiada diferencia en la distribución, el sistema ajustará automáticamente el ritmo de los anuncios para «reducir la variación entre las audiencias». .”
El DOJ respondió al cambio de comunicado de prensa, señalando que Meta estará sujeta a supervisión judicial hasta el 27 de junio de 2026. Como parte del acuerdo, un revisor externo evaluará si el nuevo VRS de Meta cumple con los términos alcanzados en el acuerdo. Meta también debe cumplir ciertos hitos dentro de un período de tiempo específico: para el 31 de diciembre de 2023, Meta deberá reducir las variaciones a “menor o igual al 10 % para el 91,7 % de esos anuncios de sexo y menos o igual al 10 %. para el 81,0% de esos anuncios por raza/etnicidad estimada”.
“Esta resolución innovadora establece un nuevo estándar para abordar la discriminación a través del aprendizaje automático”, dice el fiscal estadounidense Damian Williams en un comunicado. “Agradecemos que Meta haya aceptado trabajar con nosotros para resolver este asunto y aplaudimos a Meta por dar los primeros pasos para abordar el sesgo algorítmico”.
Según Meta, el VRS no tendrá acceso a la edad, el sexo o la raza de los usuarios y medirá la raza o el origen étnico estimado utilizando una herramienta llamada Geocodificación de apellido mejorada bayesiana. Si bien Meta ya comenzó a implementar el sistema para anuncios de vivienda, la compañía dice que eventualmente lo expandirá a anuncios de empleo y crédito en EE. UU. Puede leer más sobre el VRS en este libro blanco.