Un motor de búsqueda que utiliza reconocimiento facial para ayudar a las personas a escanear miles de millones de imágenes para encontrar sus fotos esparcidas por Internet ha prohibido oficialmente las búsquedas de menores, informó The New York Times. La medida se produce después de años de críticas por parte de expertos en privacidad, medios de comunicación y reguladores, advirtiendo que se podría abusar de tecnologías como PimEyes para acechar a niños en línea.
El director ejecutivo de PimEyes, Giorgi Gobronidze, dijo a The Times que además de establecer una «política de no causar daños», la compañía también ha implementado una nueva tecnología de detección de edad mediante IA para detectar y bloquear búsquedas de menores. Esta actualización se debe a preocupaciones de privacidad de que «las imágenes de niños podrían ser utilizadas por [some] «Individuos con una brújula moral y valores retorcidos, como pedófilos y depredadores de niños», dijo Gobronidze. Los críticos habían advertido durante mucho tiempo que la tecnología de PimEyes hacía fácil cargar una foto de cualquier niño y encontrar rápidamente otras fotos o descubrir su nombre y dirección.
Por diseño, se supone que PimEyes facilita que las personas descubran dónde se han publicado sus propias fotos en línea, pero PimEyes no tiene manera de impedir que las personas busquen fotos de otras personas, informó The Times. La «unidad de seguridad de datos» de la plataforma ha monitoreado actividades sospechosas en el pasado marcando cualquier carga de una foto de un niño o detectando cuando los usuarios masculinos buscan repetidamente fotos de mujeres, informó la BBC. Gobronidze confirmó a The Times que de 118.000 búsquedas diarias en la base de datos de PimEyes de 3 mil millones de imágenes, la compañía detectó y prohibió más de 200 cuentas que realizaban «búsquedas inapropiadas de rostros de niños».
La detección de edad puede ayudar a PimEyes a ampliar sus esfuerzos para prohibir a los malos actores. Gobronidze dijo a The Times que PimEyes «todavía está perfeccionando su sistema de detección», que actualmente es mejor para bloquear búsquedas de menores de 14 años que para detectar adolescentes.
El Times utilizó una foto de Mary-Kate y Ashley Olsen cuando eran niñas, con una gemela frente a la cámara y la cara del otro de perfil, para probar qué tan efectivo era PimEyes para bloquear búsquedas y descubrió otro defecto. Si bien PimEyes bloqueó las búsquedas del gemelo frente a la cámara, no bloqueó las búsquedas del gemelo fotografiado de perfil. La prueba demuestra que todavía se puede engañar a PimEyes, generando decenas de fotografías del gemelo cuya edad no fue detectada.
La actualización tiene como objetivo abordar las preocupaciones de privacidad y mejorar la seguridad de la plataforma, pero también impide que los padres utilicen la tecnología para buscar fotos de sus hijos en línea. Los padres habían dicho anteriormente a The Times que usaron PimEyes y encontraron fotos de sus hijos utilizadas en sitios de noticias y anuncios. Gobronidze dijo a The Times que a las organizaciones de derechos humanos en línea se les permitirá buscar fotografías de menores en el futuro, pero de lo contrario, PimEyes tiene la intención de bloquear todas las búsquedas de menores.
PimEyes no respondió de inmediato a la solicitud de Ars para hacer comentarios.