PimEyes, un motor de búsqueda público que utiliza el reconocimiento facial para buscar fotografías de personas en línea, ha prohibido las búsquedas de menores por temor a que ponga en peligro a los niños. informes Los New York Times.
Al menos, debería. El nuevo sistema de detección de PimEyes, que utiliza IA de detección de edad para identificar si la persona es un niño, todavía es un trabajo en progreso. Después de probarlo, Los New York Times descubrió que le cuesta identificar a los niños fotografiados desde ciertos ángulos. La IA tampoco siempre detecta con precisión a los adolescentes.
El director ejecutivo de PimEyes, Giorgi Gobronidze, dice que había estado planeando implementar un mecanismo de protección de este tipo desde 2021. Sin embargo, la función solo se implementó por completo después New York Times El escritor Kashmir Hill publicó un artículo sobre la amenaza que representa la IA para los niños la semana pasada. Según Gobronidze, las organizaciones de derechos humanos que trabajan para ayudar a los menores pueden continuar buscándolos, mientras que todas las demás búsquedas producirán imágenes que tapan los rostros de los niños.
En el artículo, Hill escribe que el servicio prohibió más de 200 cuentas por búsquedas inapropiadas de niños. Una madre le dijo a Hill que incluso había encontrado fotos de sus hijos que nunca antes había visto usando PimEyes. Para saber de dónde proviene la imagen, la madre tendría que pagar una tarifa de suscripción mensual de 29,99 dólares.
PimEyes es sólo uno de los motores de reconocimiento facial que han estado en el centro de atención por violaciones de privacidad. En enero de 2020, Hill’s New York Times investigación reveló cómo cientos de organizaciones encargadas de hacer cumplir la ley habían ya iniciado utilizando Clearview AI, un motor de reconocimiento facial similar, con poca supervisión.
«Este es sólo otro ejemplo del gran problema general dentro de la tecnología, ya sea que esté basada en vigilancia o no», dijo Daly Barnett, tecnólogo de la Electronic Frontier Foundation. dijo La intercepción el año pasado al tiempo que critica la falta de salvaguardias de PimEyes para los niños en ese momento. «No se crea privacidad desde el principio, y los usuarios tienen que optar por no ver comprometida su privacidad».