Los expertos debaten la ética de los experimentos de algoritmos de LinkedIn en 20 millones de usuarios


Este mes, los investigadores de LinkedIn revelaron en Science que la empresa pasó cinco años investigando en silencio a más de 20 millones de usuarios. Al ajustar el algoritmo de la plataforma de redes profesionales, los investigadores estaban tratando de determinar a través de pruebas A/B si los usuarios terminan con más oportunidades de trabajo cuando se conectan con conocidos o completos extraños.

Para sopesar la fuerza de las conexiones entre usuarios como débiles o fuertes, conocidos o extraños, los investigadores analizaron factores como la cantidad de mensajes que enviaron de un lado a otro o la cantidad de amigos en común que compartieron, midiendo cómo estos factores cambiaron con el tiempo después de conectarse. la plataforma de redes sociales. El descubrimiento de los investigadores confirmó lo que describen en el estudio como «una de las teorías sociales más influyentes del siglo pasado» sobre la movilidad laboral: cuanto más débiles son los vínculos que tienen los usuarios, mejor es la movilidad laboral. Si bien LinkedIn dice que estos resultados conducirán a cambios en el algoritmo para recomendar conexiones más relevantes a los buscadores de empleo como «Personas que quizás conozcas» (PYMK) en el futuro, The New York Times informó que los expertos en ética dijeron que el estudio «planteó preguntas sobre la transparencia de la industria». y supervisión de la investigación».

Una de las mayores preocupaciones de los expertos era que ninguno de esos millones de usuarios analizados por LinkedIn fueron informados directamente de que estaban participando en el estudio, lo que «podría haber afectado el sustento de algunas personas», sugirió el informe del NYT.

Michael Zimmer, profesor asociado de informática y director del Centro de Datos, Ética y Sociedad de la Universidad de Marquette, dijo al NYT que «los hallazgos sugieren que algunos usuarios tenían un mejor acceso a las oportunidades laborales o una diferencia significativa en el acceso a las oportunidades laborales». oportunidades.»

LinkedIn aclara las preocupaciones sobre las pruebas A/B

Un portavoz de LinkedIn le dijo a Ars que la compañía cuestiona esta caracterización de su investigación y dice que los experimentos no perjudicaron a nadie. Desde que NYT publicó su informe, el vocero de LinkedIn le dijo a Ars que la compañía ha estado respondiendo preguntas debido a «muchas representaciones inexactas de la metodología» de su estudio.

El coautor del estudio y científico de datos de LinkedIn, Karthik Rajkumar, dijo a Ars que informes como el del NYT combinan «las pruebas A/B y la naturaleza de observación de los datos», lo que hace que «se sienta más como una experimentación con personas, lo cual es inexacto».

Rajkumar dijo que el estudio surgió porque LinkedIn notó que el algoritmo ya recomendaba una mayor cantidad de conexiones con vínculos más débiles para algunos usuarios y una mayor cantidad de vínculos más fuertes para otros. «Nuestras pruebas A/B de PYMK tenían el propósito de mejorar la relevancia de las recomendaciones de conexión y no para estudiar los resultados laborales», dijo Rajkumar a Ars. En cambio, el objetivo de su equipo era averiguar «qué conexiones son más importantes para acceder y asegurar trabajos».

Aunque se llama «prueba A/B», lo que sugiere que está comparando dos opciones, los investigadores no solo observaron los lazos débiles versus los lazos fuertes, sino que probaron exclusivamente un par de algoritmos que generaron cualquiera de los dos. Más bien, el estudio experimentó con siete «variantes de tratamiento» diferentes del algoritmo, y señaló que las diferentes variantes arrojaron resultados diferentes, como que los usuarios formaran menos lazos débiles, crearan más lazos, crearan menos lazos o hicieran la misma cantidad de lazos débiles o fuertes. . Dos variantes, por ejemplo, hicieron que los usuarios formaran más lazos en general, incluidos más lazos débiles, mientras que otra variante llevó a los usuarios a formar menos lazos en general, incluidos menos lazos débiles. Una variante condujo a más lazos, pero solo lazos fuertes.

«No variamos al azar la proporción de contactos débiles y fuertes sugeridos por PYMK», dijo un portavoz de LinkedIn a Ars. «Nos esforzamos por hacer mejores recomendaciones a las personas, y algunos algoritmos recomiendan vínculos más débiles que otros. Debido a que algunas personas terminan obteniendo los mejores algoritmos una o dos semanas antes que otras durante el período de prueba, esto crea suficiente variación en los datos. para que apliquemos los métodos causales observacionales para analizarlos. No se está experimentando con nadie para observar los resultados del trabajo «.



Source link-49