La inteligencia artificial ha estado en la mira de los gobiernos sobre cómo podría usarse indebidamente para fraude, desinformación y otras actividades maliciosas en línea. Ahora, un regulador del Reino Unido quiere explorar cómo se utiliza la IA en el otro lado: en la lucha contra el contenido malicioso que involucra a niños.
Ofcom, el regulador encargado de hacer cumplir la Ley de Seguridad en Línea del Reino Unido, planea lanzar una consulta sobre cómo se usan hoy en día la IA y otras herramientas automatizadas, y cómo se pueden usar en el futuro, para detectar y eliminar de manera proactiva contenido ilegal en línea, específicamente para proteger a los niños. de contenido dañino e identificar material de abuso sexual infantil que antes era difícil de detectar.
La medida coincide con la publicación de una investigación de Ofcom que muestra que los usuarios más jóvenes están más conectados que nunca: entre los niños de 3 o 4 años, alrededor del 84% ya está conectado a Internet, y casi una cuarta parte de los niños de 5 a 7 años encuestados ya poseen sus propios teléfonos inteligentes.
Las herramientas que Ofcom podría introducir serían parte de un conjunto más amplio de propuestas centradas en medidas de seguridad infantil en línea. Las consultas para las propuestas integrales comenzarán en las próximas semanas, y la consulta sobre IA se realizará a finales de este año, dijo Ofcom.
Mark Bunting, director del Grupo de Seguridad en Línea de Ofcom, dice que su interés en la IA comenzará con una mirada a qué tan bien se utiliza hoy en día como herramienta de detección.
«Algunos servicios ya utilizan esas herramientas para identificar y proteger a los niños de este contenido», dijo en una entrevista con TechCrunch. “Pero no hay mucha información sobre cuán precisas y efectivas son esas herramientas. Queremos buscar formas de garantizar que la industria evalúe [that] cuando los utilizan, asegurándose de que se gestionen los riesgos para la libertad de expresión y la privacidad”.
Un resultado probable será que Ofcom recomiende cómo y qué plataformas deberían evaluar. Esto podría conducir no sólo a que las plataformas adopten herramientas más sofisticadas, sino también a ser multadas si no mejoran la forma en que bloquean el contenido o crean mejores formas de evitar que los usuarios más jóvenes lo vean.
«Al igual que con muchas regulaciones de seguridad en línea, la responsabilidad recae en las empresas para asegurarse de que están tomando las medidas adecuadas y utilizando las herramientas adecuadas para proteger a los usuarios», dijo.
Habrá tanto críticos como partidarios de las medidas. Los investigadores de IA están tratando de encontrar formas de detectar, por ejemplo, deepfakes, y se está implementando IA para verificar a los usuarios en línea. Sin embargo, hay muchos escépticos que señalan que la detección de IA está lejos de ser infalible. Algunos se han apresurado a destacar la inutilidad de la consulta, como resultado.
Según una nueva investigación de Ofcom, la edad demográfica de los niños que utilizan servicios en línea es hoy más joven que nunca, hasta el punto de que Ofcom ahora está dividiendo la actividad entre grupos de edad cada vez más jóvenes.
La tecnología móvil es particularmente complicada y está aumentando entre los niños en estos días. En encuestas realizadas a padres y estudiantes entre 2.000 y 3.400 encuestados (dependiendo de las preguntas que se hagan), casi una cuarta parte de los niños de 5 a 7 años poseen ahora sus propios teléfonos inteligentes, y cuando se incluyen tabletas, esa proporción aumenta. hasta el 76%.
Ese mismo grupo de edad también utiliza mucho más los medios en esos dispositivos: el 65 % ha realizado llamadas de voz y vídeo (frente al 59 % hace apenas un año), y la mitad de los niños (frente al 39 % hace un año) están viendo medios en streaming. .
Las restricciones de edad en algunas aplicaciones de redes sociales convencionales son cada vez más bajas. Pero cualesquiera que sean los límites, de todos modos no parecen ser respetados en el Reino Unido. Alrededor del 38% de los niños de 5 a 7 años utilizan las redes sociales, descubrió Ofcom. WhatsApp de Meta, con un 37%, es la aplicación más popular entre ellas.
Y posiblemente en el primer caso en el que la aplicación de imágenes insignia de Meta se siente aliviada de ser menos popular que la sensación viral de ByteDance, se descubrió que TikTok era utilizado por el 30% de los niños de 5 a 7 años, mientras que Instagram era «sólo» el 22%. Discord completó la lista, pero es significativamente menos popular con solo un 4%.
Alrededor de un tercio, el 32%, de los niños de esta edad se conectan solos a Internet, y el 30% de los padres dijeron que les parecía bien que sus hijos menores de edad tuvieran perfiles en las redes sociales. YouTube Kids sigue siendo la red más popular entre los usuarios más jóvenes, con un 48%.
Los juegos, un eterno favorito entre los niños, han crecido hasta ser utilizados por el 41% de los niños de 5 a 7 años, y el 15% de los niños de este grupo de edad juegan juegos de disparos.
Si bien el 76% de los padres encuestados dijeron que habían hablado con sus hijos pequeños sobre cómo mantenerse seguros en línea, Ofcom señala que existen signos de interrogación entre lo que un niño ve y lo que ese niño podría informar. Al investigar a niños mayores de entre 8 y 17 años, Ofcom los entrevistó directamente y descubrió que el 32% de los niños informaron haber visto contenido preocupante en línea, pero solo el 20% de sus padres dijeron que habían informado algo.
Incluso teniendo en cuenta algunas inconsistencias en los informes, «la investigación sugiere una desconexión entre la exposición de los niños mayores a contenido en línea potencialmente dañino y lo que comparten con sus padres sobre sus experiencias en línea», escribe Ofcom. Y el contenido preocupante es sólo un desafío: los deepfakes también son un problema. Entre los niños de 16 y 17 años, el 25% dijo que no estaba seguro de distinguir el contenido falso del contenido real en Internet.
Actualizado con más detalles de la investigación y más comentarios sobre los planes.