La aplicación de citas Bumble ha creado una versión de código abierto de su función Private Detector AI, que marca las fotos de desnudos no solicitados.
Cuando se comparten imágenes lascivas en chats personales, el sistema las difumina y las marca como inapropiadas; depende del usuario ver o bloquear la imagen, o informar al equipo de moderación.
Y aunque Bumble no es la primera aplicación en crear un algoritmo impulsado por IA para capturar desnudos (Facebook lo ha estado haciendo durante años), la aplicación de citas fundada por mujeres comparte lo que ha aprendido en un esfuerzo por ayudar a otras comunidades en línea a combatir el ciberflashing.
«Reconocemos que es necesario abordar este problema más allá del ecosistema de productos de Bumble y participar en una conversación más amplia sobre cómo abordar el problema de las fotos lascivas no solicitadas, también conocidas como ciberflasheos, para hacer de Internet un lugar más seguro y amable para todos». la empresa dice(Se abre en una nueva ventana).
Con eso en mente, la aplicación ha lanzado una versión de su Detector privado con la esperanza de «democratizar el acceso a nuestra tecnología y ayudar a los científicos e ingenieros que enfrentan los mismos desafíos en todo el mundo a mejorar su enfoque de la seguridad en línea».
El código fuente del clasificador de imágenes ya está disponible a través de GitHub(Se abre en una nueva ventana)donde los usuarios también pueden descargar el modelo guardado previamente entrenado y el punto de control, así como una extensa documentación y una guía para realizar las acciones necesarias.
Recomendado por Nuestros Editores
La fundadora de Bumble, Whitney Wolfe Herd, dio a conocer la función en 2019, al mismo tiempo que presionó a los legisladores del estado de Texas para que aprobaran con éxito un proyecto de ley (HB 2789) que convierte el envío de imágenes de desnudos no solicitados en un delito penal, punible con una multa de hasta $ 500. Este año, la compañía ayudó a aprobar leyes similares en Virginia (SB 493) y California (SB 53).
«Estas nuevas leyes son el primer paso para generar responsabilidad y consecuencias para esta forma cotidiana de acoso que hace que las víctimas, predominantemente mujeres, se sientan angustiadas, violadas y vulnerables en línea», dijo Bumble.
¿Te gusta lo que estás leyendo?
Matricularse en Vigilancia de la seguridad boletín de noticias para nuestras principales historias de privacidad y seguridad directamente en su bandeja de entrada.
Este boletín puede contener publicidad, ofertas o enlaces de afiliados. Suscribirse a un boletín informativo indica su consentimiento a nuestros Términos de uso y Política de privacidad. Puede darse de baja de los boletines en cualquier momento.