en un lugar mantiene en secreto, John Honovich estaba en su computadora portátil, revisando metódicamente cada enlace en un sitio web para una conferencia al otro lado del mundo. Hikvision, el fabricante de cámaras de seguridad más grande del mundo, fue el anfitrión del evento, la Cumbre Mundial de la Nube de IA de 2018, en su ciudad natal de Hangzhou, una ciudad de unos 10 millones de habitantes no lejos de Shanghái. Honovich, el fundador de una pequeña publicación comercial que cubría la tecnología de videovigilancia, quería saber qué podía hacer el último equipo de Hikvision.
Se centró en una sección de la agenda de la conferencia titulada «Ecológico, pacífico, relajado» y encontró una descripción de un sistema impulsado por IA instalado alrededor del Monte Tai, una montaña históricamente sagrada en Shandong. Un video mostró cámaras de Hikvision apuntando a los turistas que subían los miles de escalones de piedra que conducían al famoso pico. Se tocó música de piano mientras un narrador explicaba, en mandarín con subtítulos en inglés, que las cámaras estaban allí “para identificar a todos los visitantes y garantizar la seguridad de todos”. El video se cortó a una toma de la pantalla de una computadora y Honovich hizo una pausa. Vio una vista ampliada de la cara de un visitante. Debajo había datos que la IA de la cámara había inferido. Honovich descargó el video y tomó capturas de pantalla de la pantalla de la computadora para su custodia.
Más tarde, con la ayuda de un traductor, examinó cada fragmento de texto en esa pantalla. Un conjunto de caracteres, explicó el traductor, sugería que cada visitante se clasificara automáticamente en categorías: edad, sexo, uso de anteojos, sonrisa. Cuando Honovich señaló la quinta categoría y preguntó: «¿Qué es esto?» el traductor respondió: “minoría”. Honovich presionó: «¿Estás seguro?» El traductor confirmó que no había otra forma de leerlo.
Honovich se sorprendió. En sus muchos años en la industria, nunca había visto una empresa de vigilancia dispuesta a detectar automáticamente a las minorías raciales. La característica le pareció completamente poco ética, e inmediatamente se preguntó cómo China podría usarla contra el pueblo uigur, un grupo étnico minoritario mayoritariamente musulmán, en la provincia de Xinjiang. Honovich había visto informes en el oeste de uigures sujetos a vigilancia restrictiva y detenciones masivas. Al hacer clic en el sitio web de AI Summit, Honovich no pudo saber si las autoridades chinas estaban usando esta tecnología para oprimir a las minorías, pero vio que ese peligro se estaba uniendo. Rápidamente escribió un artículo sobre la tecnología de detección de etnicidad de Hikvision, incluido el video, las capturas de pantalla y un comentario sin comentarios de la empresa, y lo publicó en el sitio web de IPVM, la publicación comercial que él había fundado.
Habló sobre el descubrimiento con uno de los reporteros de IPVM, Charles Rollet, un francés que vive fuera de los EE. UU. y también mantiene en secreto su ubicación. Rollet había escrito sobre cómo Hikvision y Dahua, el segundo mayor fabricante de videovigilancia de China, estaban obteniendo enormes beneficios del trabajo del gobierno en Xinjiang. Rollet tenía experiencia en periódicos y, aunque tenía 25 años, hablaba como un noticiero manchado de tinta que le doblaba la edad, todo «primicias» y «llamando a los abusos» y «noticias contundentes». Al rastrear materiales disponibles públicamente en línea, Rollet se enteró de que Hikvision había llegado a un acuerdo para construir un sistema masivo de reconocimiento facial para cubrir un condado de Xinjiang, incluido un centro de «reeducación» y algunas de sus mezquitas, y un contrato para instalar sistemas de videoconferencia. en las mezquitas, presumiblemente para que los asistentes pudieran ver los sermones transmitidos por el gobierno. Dahua ganó el contrato más grande: $686 millones para construir estaciones de policía equipadas con cámaras en otra parte de Xinjiang. Los acuerdos especificaban que las empresas instalarían estos sistemas, los ejecutarían durante varios años y luego se los pasarían al gobierno. En muchos aspectos de la videovigilancia del gobierno en Xinjiang, informó Rollet, las dos empresas estaban “profundamente involucradas”.
Las cámaras de Hikvision y Dahua también se colgaron en casas, negocios y edificios públicos en los EE. UU. y gran parte del mundo. Los instaladores de sistemas de seguridad vendieron con entusiasmo grandes cantidades de cámaras baratas. Las instituciones financieras globales, como Fidelity International y el fondo soberano de riqueza de Noruega, eran inversionistas entusiastas en las empresas chinas rentables y de rápido crecimiento. Los gigantes estadounidenses de chips Intel y Nvidia les vendieron silicio para potenciar su reconocimiento facial.
Todo eso cambiaría pronto. Durante los siguientes años, los escritores de IPVM descubrieron un detalle condenatorio tras otro en el equipo de vigilancia chino. Sus primicias terminarían influyendo en la política nacional, cambiando la suerte de esas empresas y colocando a los propios reporteros directamente en la primera línea de la guerra fría entre Estados Unidos y China.