Italia ha ordenado(Se abre en una nueva ventana) Replika, el fabricante de chatbots de IA con sede en San Francisco, dejará de procesar los datos de los italianos debido a los riesgos que su servicio de ‘amistad virtual’ impulsado por IA podría representar para menores y personas emocionalmente vulnerables, informa Reuters(Se abre en una nueva ventana).
Replika ofrece a los usuarios avatares personalizados que les hablan y los escuchan y ha estado en funcionamiento desde 2017 y se ha comercializado como capaz de mejorar el bienestar emocional del usuario.
Pero la Agencia de Protección de Datos de Italia dijo el viernes que su capacidad para intervenir en el estado de ánimo del usuario “puede aumentar los riesgos para las personas que aún se encuentran en una etapa de desarrollo o en un estado de fragilidad emocional”.
La agencia de privacidad también acusó al desarrollador de Replika, Luka Inc., de no cumplir con los requisitos legales para mostrar cómo está utilizando los datos de las personas y dijo que la empresa no posee el derecho legal de procesar los datos de los niños según las leyes de protección de datos de la UE.
Como resultado, se ordenó a Replika que deje de procesar los datos de los italianos con efecto inmediato.
En un comunicado de prensa(Se abre en una nueva ventana)los reguladores dijeron que la aplicación «conlleva riesgos reales para los niños, en primer lugar, el hecho de que reciben respuestas que son absolutamente inapropiadas para su edad» y además citaron la falta de un sistema de verificación de edad, lo que significa que la plataforma no es filtrada o bloqueada para menores y puede ser fácilmente accedida por ellos.
En un comunicado, la agencia continuó: “En realidad, no existe un mecanismo de verificación de edad: no hay mecanismo de acceso para niños, no se bloquea la aplicación si un usuario declara que es menor de edad. Durante la creación de la cuenta, la plataforma simplemente solicita el nombre del usuario, la cuenta de correo electrónico y el sexo”.
Recomendado por Nuestros Editores
El organismo de control ordenó a la empresa con sede en San Francisco que le notifique las medidas adoptadas para cambiar sus políticas y prácticas de acuerdo con las directivas italianas y de la UE en 20 días. Si no lo hace, la empresa podría recibir una multa de hasta 21,8 millones de dólares, lo que equivale a casi el 4 % de su facturación anual mundial.
Replika no respondió de inmediato a la solicitud de comentarios de PCMag.
En enero de 2021, se ordenó TikTok(Se abre en una nueva ventana) por la agencia italiana de protección de datos para bloquear a los usuarios cuyas edades no pudo verificar. Esto fue en respuesta a la muerte de una niña de 10 años en Sicilia que murió después de participar en un popular desafío de TikTok de «apagón». La orden llevó a la eliminación de más de medio millón de cuentas.
¡Obtenga nuestras mejores historias!
Matricularse en ¿Qué hay de nuevo ahora? para recibir nuestras mejores historias en su bandeja de entrada todas las mañanas.
Este boletín puede contener publicidad, ofertas o enlaces de afiliados. Suscribirse a un boletín informativo indica su consentimiento a nuestros Términos de uso y Política de privacidad. Puede darse de baja de los boletines en cualquier momento.