Instagram está lejos de ser un ejemplo brillante de protección de los jóvenes en línea, ya que no logró evitar que su algoritmo promoviera material de abuso sexual infantil. Pero las nuevas funciones traen algo (¿al menos un poco?) de esperanza de que la plataforma pueda volverse un poco más segura. Meta anunció que está implementando nuevas herramientas destinadas a proteger a los usuarios contra el abuso de imágenes íntimas y la sextorsión, cuando una persona es chantajeada digitalmente bajo amenaza de compartir medios íntimos.
Una de las actualizaciones más importantes es que la protección contra desnudos llegará a los mensajes privados. Meta confirmó por primera vez que estaba desarrollando esta tecnología en 2022 y que activará automáticamente la herramienta para usuarios menores de 18 años. Una vez activada, una herramienta de aprendizaje automático detectará y difuminará las imágenes que sospeche que contienen desnudez para el destinatario. El análisis se realiza en el dispositivo del usuario, por lo que los mensajes deben permanecer cifrados de extremo a extremo sin que Meta tenga acceso a ellos. Los usuarios tendrán la opción de ver la imagen junto con un mensaje emergente de Meta que no deberían sentirse presionados a responder, junto con un botón de consejos de seguridad y una opción para bloquear al remitente.
La nueva herramienta de Meta, que comenzará a probar «pronto», también detecta si una persona envía una imagen desnuda y le advierte que «tenga cuidado al compartir fotos confidenciales» al tiempo que describe los riesgos potenciales. Además, recuerda a los usuarios que pueden eliminar un mensaje antes de que alguien lo vea. Luego está la advertencia final: aparece un recordatorio de que debemos ser responsables y respetuosos cuando alguien intenta reenviar un mensaje con desnudez detectada (aunque aún permite reenviar la imagen).
Luego están las herramientas diseñadas para detectar posibles estafadores o sextorsionistas y hacerles más difícil acercarse a los adolescentes. Las solicitudes de mensajes de estos posibles malos actores ahora deberían ir a solicitudes ocultas, y cualquiera que ya esté involucrado en una conversación recibirá una advertencia con recordatorios de límites y pasos para denunciar a los usuarios. En cuanto a los jóvenes, Meta anteriormente prohibía a las personas enviar mensajes a usuarios menores de 16 años si no estaban conectados entre sí, incluso si la otra cuenta afirmaba tener la misma edad. Ahora, estos posibles estafadores no verán la opción de enviar mensajes a un adolescente incluso si se siguen.