Según los informes, al menos dos padres perdieron el acceso a sus cuentas de Google porque el sistema de la empresa para detectar material de abuso sexual infantil (CSAM, por sus siglas en inglés) marcó por error que las imágenes que habían tomado de sus hijos con fines médicos representaban algún tipo de abuso.
Los New York Times informes(Se abre en una nueva ventana) que uno de los padres, un ingeniero de software al que solo se hace referencia como Mark, tomó fotos de la ingle de su hijo porque «el pene de su hijo parecía hinchado y le dolía». Una enfermera solicitó las fotografías antes de una videoconsulta relacionada con el problema.
El otro padre dijo en una publicación de Quora(Se abre en una nueva ventana) descubierto por el Veces que había perdido el acceso a su cuenta de Google en febrero de 2021 porque «tomó fotos de [his] infección de su hijo en sus partes íntimas para enviar a su pediatra que estaba siguiendo las actualizaciones diarias».
Ambos casos parecían involucrar a personas con teléfonos Android que tomaban fotografías de problemas médicos relacionados con la ingle de sus hijos que se copiaban automáticamente en Google Photos y se enviaban a otra persona (personas importantes y profesionales médicos) a través de una variedad de servicios.
Debido a que se realizó una copia de seguridad de las imágenes en Google Photos, un sistema de Google diseñado para detectar CSAM las marcó. Tras la revisión, la empresa desactivó las cuentas y remitió los casos a CyberTipline en el Centro Nacional para Niños Desaparecidos y Explotados.
los Veces confirmó que ambos padres fueron absueltos de cualquier sospecha de abuso por parte de los investigadores. Sin embargo, todavía no tienen acceso a su cuenta de Google, lo que en el caso de Mark causó una variedad de problemas que se derivan de la ubicuidad de los servicios de la empresa:
«No solo perdió correos electrónicos, información de contacto de amigos y ex colegas, y documentación de los primeros años de vida de su hijo, sino que su cuenta de Google Fi se cerró, lo que significa que tuvo que obtener un nuevo número de teléfono con otro proveedor. Sin acceso a su antiguo número de teléfono y dirección de correo electrónico, no pudo obtener los códigos de seguridad que necesitaba para iniciar sesión en otras cuentas de Internet, lo que lo bloqueó de gran parte de su vida digital».
Algunos, incluido el ex gerente de productos de Google y el actual socio de Homebrew Paseo del cazador(Se abre en una nueva ventana)han dicho que es preferible que un sistema relacionado con el MASI tenga falsos positivos (marcando material inocente como abusivo) que falsos negativos (marcando material abusivo como inocente).
Pero eso no significa necesariamente que las personas deban perder permanentemente el acceso a sus cuentas de Google y, como demuestra la experiencia de Mark, a muchos otros servicios, cuando sus fotos se marcan por error como CSAM. Debe existir un proceso de apelaciones que funcione.
Es posible que el proceso de apelaciones de Google funcione según lo previsto. los Veces informa que Google basó su decisión de no restaurar la cuenta de Mark en un video «de un niño pequeño acostado en la cama con una mujer desnuda» que había tomado seis meses antes del incidente principal.
Recomendado por Nuestros Editores
Marcos le dijo al Veces que él «no recordaba este video y ya no tenía acceso a él», pero lo caracterizó como «un momento privado que se habría inspirado para capturar, sin darse cuenta de que alguna otra persona lo vería o juzgaría», como dice el informe. eso.
Google parece ser el único con acceso a ese video. Mark podría estar interpretando mal un video que muestra un posible abuso; Google podría estar usando un momento íntimo como excusa para no restaurar la cuenta de Mark. En este momento no hay suficiente información pública para emitir un juicio.
Tal como está, sin embargo, ambos padres citados en el Veces informe fueron absueltos de irregularidades por los investigadores. No está claro por qué eso no es suficiente para que recuperen el acceso a sus cuentas de Google, o qué más se supone que deben hacer para demostrar su inocencia a la empresa.
Google no respondió de inmediato a una solicitud de comentarios.
¿Te gusta lo que estás leyendo?
Matricularse en Vigilancia de la seguridad boletín de noticias para nuestras principales historias de privacidad y seguridad directamente en su bandeja de entrada.
Este boletín puede contener publicidad, ofertas o enlaces de afiliados. Suscribirse a un boletín informativo indica su consentimiento a nuestros Términos de uso y Política de privacidad. Puede darse de baja de los boletines en cualquier momento.