Las recomendaciones de YouTube están llevando a los niños pequeños a videos sobre tiroteos en escuelas y otro contenido relacionado con armas, según un nuevo informe. Según Tech Transparency Project (TTP), un grupo de vigilancia sin fines de lucro, el algoritmo de recomendación de YouTube está «empujando a los niños interesados en videojuegos a escenas de tiroteos escolares, instrucciones sobre cómo usar y modificar armas» y otro contenido centrado en armas.
Los investigadores detrás del informe crearon cuatro nuevas cuentas de YouTube haciéndose pasar por dos niños de 9 años y dos niños de 14 años. Todas las cuentas vieron listas de reproducción de contenido sobre videojuegos populares, como Roblox, lego guerra de las galaxias, aureola y Grand Theft Auto. Luego, los investigadores rastrearon las recomendaciones de las cuentas durante un período de 30 días en noviembre pasado.
“El estudio encontró que YouTube envió contenido sobre tiroteos y armas a todas las cuentas de los jugadores, pero en un volumen mucho mayor a los usuarios que hicieron clic en los videos recomendados por YouTube”, escribe el TTP. “Estos videos incluían escenas que mostraban tiroteos en escuelas y otros eventos de tiroteos masivos; demostraciones gráficas de cuánto daño pueden causar las armas en un cuerpo humano; y guías prácticas para convertir una pistola en un arma completamente automática”.
Como señala el informe, varios de los videos recomendados parecían violar las propias políticas de YouTube. Las recomendaciones incluyeron videos de una niña disparando un arma y tutoriales sobre cómo convertir pistolas en armas «totalmente automáticas» y otras modificaciones. Algunos de estos videos también se monetizaron con anuncios.
En un comunicado, un portavoz de YouTube señaló la aplicación YouTube Kids y sus herramientas dentro de la aplicación, que “crean una experiencia más segura para preadolescentes y adolescentes” en su plataforma.
“Agradecemos la investigación sobre nuestras recomendaciones, y estamos explorando más formas de traer investigadores académicos para estudiar nuestros sistemas”, dijo el vocero. “Pero al revisar la metodología de este informe, es difícil para nosotros sacar conclusiones sólidas. Por ejemplo, el estudio no brinda un contexto de cuántos videos en general se recomendaron a las cuentas de prueba, y tampoco brinda información sobre cómo se configuraron las cuentas de prueba, incluso si se aplicaron las herramientas de Experiencias Supervisadas de YouTube”.
El informe TTP está lejos de ser la primera vez que los investigadores plantean preguntas sobre el algoritmo de recomendación de YouTube. La compañía también ha pasado años trabajando para reducir el llamado contenido (videos que no rompen sus reglas por completo pero que, de lo contrario, pueden no ser adecuados para la distribución masiva) de aparecer en las recomendaciones. Y el año pasado, la compañía dijo que estaba considerando compartir por completo algunos de esos contenidos.