Usar el chatbot es más directo y tal vez más atractivo, dice Donald Findlater, director de la línea de ayuda Stop It Now de la Fundación Lucy Faithfull. Después de que el chatbot apareciera más de 170 000 veces en marzo, 158 personas hicieron clic en el sitio web de la línea de ayuda. Si bien el número es «modesto», dice Findlater, esas personas han dado un paso importante. “Han superado muchos obstáculos para hacer eso”, dice Findlater. “Cualquier cosa que detenga a las personas que recién comienzan el viaje es una medida de éxito”, agrega Hargreaves de la IWF. “Sabemos que la gente lo está usando. Sabemos que están haciendo referencias, sabemos que están accediendo a los servicios”.
Pornhub tiene una reputación accidentada por la moderación de videos en su sitio web, y los informes han detallado cómo mujeres y niñas subieron videos de ellas mismas sin su consentimiento. En diciembre de 2020, Pornhub eliminó más de 10 millones de videos de su sitio web y comenzó a exigir que las personas subieran contenido para verificar su identidad. El año pasado, se eliminaron 9000 piezas de MASI de Pornhub.
“El chatbot de IWF es otra capa de protección para garantizar que los usuarios estén informados de que no encontrarán material ilegal en nuestra plataforma y los remitirá a Stop It Now para ayudarlos a cambiar su comportamiento”, dice un portavoz de Pornhub, y agrega que tiene “tolerancia cero” para el material ilegal y tiene políticas claras en torno al MASI. Los involucrados en el proyecto de chatbot dicen que Pornhub se ofreció como voluntario para participar, no se les paga por hacerlo y que el sistema se ejecutará en el sitio web de Pornhub en el Reino Unido durante el próximo año antes de ser evaluado por académicos externos.
John Perrino, analista de políticas del Observatorio de Internet de Stanford que no está relacionado con el proyecto, dice que ha habido un aumento en los últimos años para construir nuevas herramientas que utilizan la «seguridad por diseño» para combatir los daños en línea. “Es una colaboración interesante, en una línea de política y percepción pública, para ayudar a los usuarios y orientarlos hacia recursos saludables y hábitos saludables”, dice Perrino. Agrega que nunca antes había visto una herramienta exactamente como esta desarrollada para un sitio web de pornografía.
Ya existe alguna evidencia de que este tipo de intervención técnica puede marcar la diferencia al desviar a las personas del material potencial de abuso sexual infantil y reducir la cantidad de búsquedas de MASI en línea. Por ejemplo, ya en 2013, Google trabajó con la Fundación Lucy Faithfull para introducir mensajes de advertencia cuando las personas buscan términos que podrían vincularse con MASI. Hubo una «reducción de trece veces» en la cantidad de búsquedas de material de abuso sexual infantil como resultado de las advertencias, dijo Google en 2018.
Un estudio separado en 2015 encontró que los motores de búsqueda que implementaron medidas de bloqueo contra términos relacionados con el abuso sexual infantil vieron disminuir drásticamente el número de búsquedas, en comparación con aquellos que no implementaron medidas. Un conjunto de anuncios diseñados para dirigir a las personas que buscan MASI a las líneas de ayuda en Alemania obtuvo 240 000 clics en el sitio web y más de 20 millones de impresiones durante un período de tres años. Un estudio de 2021 que analizó los mensajes emergentes de advertencia en los sitios web de apuestas descubrió que los empujones tenían un «impacto limitado».
Los involucrados con el chatbot enfatizan que no lo ven como la única forma de evitar que las personas encuentren material de abuso sexual infantil en línea. “La solución no es una bala mágica que va a detener la demanda de abuso sexual infantil en Internet. Se implementa en un entorno particular”, dice Sexton. Sin embargo, si el sistema tiene éxito, agrega que podría implementarse en otros sitios web o servicios en línea.
“Hay otros lugares en los que también buscarán, ya sea en varios sitios de redes sociales, ya sea en varias plataformas de juegos”, dice Findlater. Sin embargo, si esto sucediera, habría que evaluar los desencadenantes que hacen que aparezca y reconstruir el sistema para el sitio web específico en el que se encuentra. Los términos de búsqueda utilizados por Pornhub, por ejemplo, no funcionarían en una búsqueda de Google. “No podemos transferir un conjunto de advertencias a otro contexto”, dice Findlater.