El teatro de transparencias de TikTok

TikTok está mirando hacia el barril de una prohibición total en los EE. UU. Ya ha sido prohibido en dispositivos de empleados federales, bloqueado por docenas de universidades en todo el país, y los legisladores están pidiendo su eliminación de las tiendas de aplicaciones de EE. UU.

Es en ese contexto que yo y un puñado de otros periodistas fuimos invitados a la sede de la compañía en Los Ángeles a principios de esta semana para la primera gira de medios de su «Centro de Transparencia y Responsabilidad». Es un espacio que, como la discusión política sobre TikTok en estos días, parece más una señal de virtud que cualquier otra cosa. Los funcionarios de la compañía dicen que el centro está diseñado para que los reguladores, académicos y auditores aprendan más sobre cómo funciona la aplicación y sus prácticas de seguridad. Nos dijeron que un político-que-no-sería-nombrado lo había recorrido el día anterior. TikTok eventualmente planea abrir más centros en Washington, DC, Dublín y Singapur.

Nuestro recorrido fue parte de un bombardeo de prensa de varias semanas por parte de TikTok para impulsar el Proyecto Texas, una propuesta novedosa al gobierno de los EE. UU. que dividiría los datos de los usuarios estadounidenses en lugar de una prohibición total. El CEO de TikTok, Shou Zi Chew, estuvo en DC la semana pasada dando un discurso similar a los legisladores y grupos de expertos. En marzo, él es se espera que testifique ante el Congreso por primera vez.

TikTok no es la primera empresa de tecnología en problemas que se apoya en el espectáculo de un espacio físico durante una crisis de relaciones públicas. En 2018, Facebook periodistas invitados para recorrer su «Sala de guerra» electoral, que en realidad era solo una sala de conferencias glorificada llena de empleados que miraban las redes sociales y los tableros. Se tomaron fotos, se escribieron historias y luego se cerró la Sala de Guerra aproximadamente un mes después.

De manera similar, el centro de transparencia de TikTok es mucho humo y espejos diseñados para dar la impresión de que en realidad se preocupa. Las pantallas táctiles grandes explican cómo funciona TikTok a un alto nivel, junto con una descripción general amplia del tipo de esfuerzos de confianza y seguridad que se han convertido en apuestas para cualquier plataforma grande.

Sin embargo, una diferencia clave es una habitación a la que no se le permitió entrar a mi grupo de turistas. Detrás de una pared con iluminación ambiental similar a la Estrella de la Muerte, los funcionarios de TikTok dijeron que una sala de servidores alberga el código fuente de la aplicación para que los auditores externos lo revisen. Cualquier persona que ingrese debe firmar un acuerdo de confidencialidad, pasar por detectores de metales y guardar su teléfono bajo llave en un casillero. (No estaba claro a quién exactamente se le permitiría ingresar a la habitación).

La parte interactiva del centro que se me permitió experimentar incluía una sala con iMacs que ejecutaban una versión simulada del software TikTok dice que sus moderadores usan para revisar el contenido. Había otra habitación con iMacs ejecutando «simuladores de código». Si bien eso sonaba intrigante, en realidad era solo una explicación básica del algoritmo de TikTok que parecía diseñado para que lo entendiera un miembro típico del Congreso. No se permitían fotos de primer plano de las pantallas de las computadoras. Y a pesar de que se le llama centro de transparencia, el departamento de relaciones públicas de TikTok hizo que todos acordaran no citar ni atribuir directamente los comentarios hechos por los empleados que lideran la gira.

En la estación de trabajo del moderador, me mostraron algunos videos potencialmente infractores para que los revisara, junto con información básica como las cuentas que los publicaron y la cantidad de Me gusta y veces compartidos de cada video. Cuando saqué uno de un hombre que hablaba a la cámara con la leyenda «el mundo saca a relucir el 11 de septiembre para justificar a los musulmanes como terroristas», el sistema moderador me pidió que seleccionara si violaba una de tres políticas, incluida una sobre “amenazas e incitación a la violencia”.

En el simulador de código iMac en la otra habitación, esperaba aprender más sobre cómo funciona realmente el sistema de recomendaciones de TikTok. Este era, después de todo, un lugar físico al que tenías que viajar. Seguramente habría algún tipo de información que no podría encontrar en ningún otro lugar.

Lo que obtuve fue esto: TikTok comienza usando un «modelo de aprendizaje automático aproximado» para seleccionar «un subconjunto de unos pocos miles de videos» de los miles de millones alojados por la aplicación. Luego, un «modelo de aprendizaje automático medio reduce aún más el grupo de recuperación a un grupo más pequeño de videos» que cree que le interesarán. Por último, un «modelo de aprendizaje automático fino» hace el pase final antes de mostrar videos que cree que le interesarán. como en tu página Para ti.

La información mostrada era frustrantemente vaga. Una diapositiva decía que TikTok «recomienda contenido clasificando videos en función de una combinación de factores, incluidos los intereses que los nuevos usuarios transmiten a TikTok la primera vez que interactúan con la aplicación, así como las preferencias cambiantes con el tiempo». Así es exactamente como esperarías que funcionara.

Tik Tok primero trató de abrir este centro de transparencia en 2020, cuando el entonces presidente Donald Trump estaba tratando de prohibir la aplicación y Kevin Mayer fue su director ejecutivo durante tres meses. Pero luego sucedió la pandemia, que retrasó la apertura del centro hasta ahora.

En los últimos tres años, el déficit de confianza de TikTok en DC solo se ha profundizado, alimentado por un creciente sentimiento anti-China que comenzó en la derecha y desde entonces se ha vuelto más bipartidista. La peor revelación fue a finales de diciembre, cuando la empresa confirmó que los empleados accedieron indebidamente a los datos de ubicación de varios periodistas estadounidenses como parte de una investigación de filtración interna. Ese mismo mes, el director del FBI Chris Wray prevenido que China podría usar TikTok para “manipular contenido y, si quieren, usarlo para operaciones de influencia”.

La respuesta de TikTok a estas preocupaciones es el Proyecto Texas, un plan altamente técnico y sin precedentes que aislaría la mayoría de las operaciones estadounidenses de TikTok de su empresa matriz china, ByteDance. Para hacer realidad el Proyecto Texas, TikTok confía en Oracle, cuyo fundador multimillonario, Larry Ellison, aprovechó sus conexiones como un donante republicano influyente para personalmente asegurar la bendición de Trump en la fase inicial de las negociaciones. (Nadie de Oracle estuvo presente en la sesión informativa a la que asistí, y mi solicitud de hablar con alguien allí para esta historia no fue respondida).

TikTok dice que ya se han necesitado miles de personas y más de 1500 millones de dólares para crear el Proyecto Texas. El esfuerzo implica que TikTok cree una entidad legal separada denominada USDS con una junta independiente de ByteDance que informa directamente al gobierno de EE. UU. Más de siete auditores externos, incluido Oracle, revisarán todos los datos que entran y salen de la versión estadounidense de TikTok. Solo los datos de los usuarios estadounidenses estarán disponibles para entrenar el algoritmo en los EE. UU., y TikTok dice que habrá requisitos de cumplimiento estrictos para cualquier acceso interno a los datos de los EE. UU. Si el gobierno aprueba la propuesta, su mantenimiento le costará a TikTok entre $ 700 millones y $ 1 mil millones por año.

Ya sea que Project Texas satisfaga al gobierno o no, ciertamente parece que hará que trabajar en TikTok sea más difícil. La versión estadounidense de TikTok tendrá que ser completamente deconstruida, reconstruida y publicada por Oracle en las tiendas de aplicaciones de EE. UU. Oracle también tendrá que revisar cada actualización de la aplicación. Se crearán roles duplicados para TikTok en los EE. UU., incluso si ya existen los mismos roles para TikTok en otros lugares. Y el rendimiento de la aplicación podría verse afectado cuando los estadounidenses interactúan con usuarios y contenido en otros países, ya que los datos de los usuarios estadounidenses deben administrarse dentro del país.

Si bien ByteDance no se reconoció directamente, sus vínculos con TikTok tampoco se ocultaron. El Wi-Fi del edificio en el que me encontraba se llamaba ByteDance y las pantallas de la sala de conferencias en el centro de transparencia mostraban Lark, la herramienta de comunicación interna que ByteDance desarrolló para sus empleados en todo el mundo. En un momento durante la gira, traté de preguntar qué sucedería hipotéticamente si, una vez que se dé luz verde al Proyecto Texas, un empleado de Bytedance en China hace una solicitud incómoda a un empleado de la entidad estadounidense de TikTok. Un miembro del equipo de relaciones públicas de TikTok me dijo rápidamente que la pregunta no era apropiada para la gira.

En última instancia, me quedé con la sensación de que, al igual que su poderoso algoritmo, TikTok construyó su centro de transparencia para mostrar a las personas lo que cree que quieren ver. La empresa parece haberse dado cuenta de que no se salvará de una prohibición estadounidense por los méritos técnicos de su propuesta del Proyecto Texas. El debate ahora es puramente una cuestión de política y óptica. A diferencia de la gira que realicé, eso es algo que TikTok no puede controlar.