La matriz de Facebook, Meta, dijo el lunes que implementó cambios que apuntan a abordar las preocupaciones de que el sistema que la compañía usa para entregar anuncios podría estar potencialmente sesgado.
La actualización de la tecnología publicitaria de Meta llega después del gigante de las redes sociales resolvió una demanda con el Departamento de Justicia de EE. UU. en 2022 por las acusaciones de que la compañía permitió que los propietarios y los vendedores de viviendas publicaran anuncios de vivienda discriminatorios. Como parte del acuerdo, Meta acordó dejar de usar una herramienta de anuncios de viviendas y desarrollar un nuevo sistema para abordar este problema.
Meta tiene reglas contra los anuncios discriminatorios, pero la compañía enfrentó quejas de que los anunciantes podrían abusar de las herramientas publicitarias de Facebook para excluir a las personas de la vivienda, las oportunidades de empleo o incluso los servicios financieros. Facebook permite a los anunciantes orientar los anuncios a las personas en función de los intereses, la demografía y el comportamiento de los usuarios de la red social. Luego usa lo que se llama una «subasta de anuncios» para averiguar qué anuncio mostrar a un usuario en un momento determinado.
Meta realizó cambios como limitar qué características pueden usar ciertos anunciantes para llegar a clientes potenciales.
«Pero incluso sin este tipo de opciones de orientación, factores como los intereses de las personas o la actividad en un servicio podrían afectar la forma en que se distribuyen los anuncios a diferentes grupos demográficos», dijo Miranda Bogen, gerente de políticas de inteligencia artificial responsable en Meta, en una publicación de blog.
Meta dijo que la actualización, conocida como Variance Reduction System, tiene como objetivo «ayudar a garantizar que la audiencia que termine viendo un anuncio de vivienda, empleo o crédito refleje más fielmente a la audiencia objetivo elegible para ese anuncio». Para hacerlo, la compañía dijo que comparará la audiencia de un anuncio en particular con las características como la edad y la raza o etnia estimada que los anunciantes seleccionan como objetivo. La red social dijo que está usando datos agregados debido a problemas de privacidad.
Facebook está aplicando este nuevo sistema a los anuncios de vivienda de EE. UU. y planea expandir el VRS a los anuncios de empleo y crédito durante el próximo año.
El Departamento de Justicia dijo que Meta por primera vez estará sujeta a supervisión judicial por su sistema de anuncios y Guidehouse revisará si el cambio cumple con ciertas métricas.
«El monitoreo federal de Meta debería enviar una fuerte señal a otras empresas tecnológicas de que también serán responsables por no abordar la discriminación algorítmica que infringe nuestras leyes de derechos civiles», Kristen Clarke, fiscal general adjunta de derechos civiles en el Departamento de Justicia. , dijo en un comunicado.