hace dos años, Twitter lanzó lo que quizás sea el intento más ambicioso de transparencia algorítmica de la industria tecnológica. Sus investigadores escribieron artículos que mostraban que el sistema de inteligencia artificial de Twitter para recortar imágenes en tweets favorecía a las caras blancas y a las mujeres, y que las publicaciones de la derecha política en varios países, incluidos los EE. UU., el Reino Unido y Francia, recibieron un mayor impulso algorítmico que los de la izquierda.
A principios de octubre del año pasado, cuando Elon Musk se enfrentaba a un plazo judicial para completar su adquisición de Twitter por 44.000 millones de dólares, la investigación más reciente de la empresa estaba casi lista. Mostró que un programa de aprendizaje automático degradó incorrectamente algunos tweets que mencionaban cualquiera de los 350 términos relacionados con la identidad, la política o la sexualidad, incluidos «gay», «musulmán» y «sordo», porque un sistema tenía la intención de limitar las vistas de tweets arrastrando las palabras. los grupos marginados también impidieron las publicaciones que celebraban a esas comunidades. El hallazgo, y una solución parcial desarrollada por Twitter, podría ayudar a otras plataformas sociales a utilizar mejor la IA para vigilar el contenido. Pero, ¿alguien llegaría a leer la investigación?
Musk había apoyado meses antes la transparencia algorítmica, diciendo que quería el código de recomendación de contenido de Twitter de «código abierto». Por otro lado, Musk había dicho que restablecería cuentas populares permanentemente prohibidas por tuits que violan las reglas. También se burló de algunas de las mismas comunidades que los investigadores de Twitter buscaban proteger y se quejó de un “indefinido”virus de la mente despertada.” Además desconcertante, los científicos de inteligencia artificial de Musk en Tesla generalmente no han publicado investigaciones.
Los investigadores de ética de IA de Twitter finalmente decidieron que sus perspectivas eran demasiado turbias bajo Musk como para esperar a publicar su estudio en una revista académica o incluso para terminar de escribir. un blog de empresa correo. Entonces, menos de tres semanas antes de que Musk finalmente asumiera la propiedad el 27 de octubre, enviaron el estudio de sesgo de moderación al servicio de acceso abierto Arxiv, donde los académicos publican investigaciones que aún no han sido revisadas por pares.
“Estábamos legítimamente preocupados por lo que implicaría este cambio de liderazgo”, dice Rumman Chowdhury, quien entonces era director de ingeniería en el grupo de Ética, Transparencia y Responsabilidad del Aprendizaje Automático de Twitter, conocido como META. “Hay mucha ideología y malentendidos sobre el tipo de ética laboral que hacen los equipos como parte de una agenda liberal, en lugar de ser realmente un trabajo científico”.
La preocupación por el régimen de Musk impulsó a los investigadores de Cortex, la organización de investigación y aprendizaje automático de Twitter, a publicar sigilosamente una serie de estudios mucho antes de lo planeado, según Chowdhury y otros cinco exempleados. Los resultados abarcaron temas que incluyen desinformación y algoritmos de recomendación. El impulso frenético y los artículos publicados no se han informado previamente.
Los investigadores querían preservar el conocimiento descubierto en Twitter para que cualquiera pudiera usarlo y mejorar otras redes sociales. “Me apasiona mucho que las empresas hablen más abiertamente sobre los problemas que tienen y traten de liderar la carga y mostrarle a la gente que es algo factible”, dice Kyra Yee, autora principal del documento de moderación.
Twitter y Musk no respondieron a una solicitud detallada por correo electrónico de comentarios para esta historia.
El equipo de otro estudio trabajó toda la noche para hacer las ediciones finales antes de presionar Publicar en Arxiv el día que Musk tomó Twitter, dice un investigador, hablando de forma anónima por temor a represalias de Musk. “Sabíamos que la pista se cerraría cuando aterrizara el avión jumbo Elon”, dice la fuente. “Sabíamos que necesitábamos hacer esto antes de que se cerrara la adquisición. Podemos clavar una bandera en el suelo y decir que existe”.
El miedo no estaba fuera de lugar. La mayoría de los investigadores de Twitter perdieron sus trabajos o renunciaron bajo Musk. En el equipo de META, Musk despidió a todas menos a una persona el 4 de noviembre, y el miembro restante, cofundador y líder de investigación, Luca Belli, renunció a finales de mes.