Los expertos de la Oficina del Comisionado de Información (ICO, por sus siglas en inglés) del Reino Unido han advertido contra el uso de sistemas de análisis emocional impulsados por IA, por temor a que sus inconvenientes superen con creces los beneficios, al menos por ahora.
Las herramientas de detección portátiles para el control de la salud o el control del comportamiento, como la posición del cuerpo, el habla y los movimientos de los ojos y la cabeza, se dan como ejemplos en los que los datos que deben recopilarse podrían verse como riesgosos.
El ICO dice que almacenar y procesar este tipo de datos, que incluye el comportamiento subconsciente, puede identificar personalmente, lo que presenta ciertos desafíos en términos de cómo las empresas pueden usar estos datos.
Seguridad de datos biométricos
“Si bien hay oportunidades presentes, los riesgos son mayores actualmente”, dijo el comisionado adjunto de la ICO, Stephen Bonner. “En la ICO, nos preocupa que el análisis incorrecto de los datos pueda dar lugar a suposiciones y juicios sobre una persona que sean inexactos y conduzcan a la discriminación. .”
Luego está el hecho de que, «es posible que no funcionen todavía, o de hecho nunca», según Bonner. Aprender a comprender las emociones personales puede ser extremadamente difícil para las personas; condensar esta información en datos que una computadora podría usar para categorizar a sus sujetos aún más.
En este momento, la ICO quiere que las empresas usen tecnología que sea «totalmente funcional, responsable y respaldada por la ciencia». La organización también dice que es una tecnología de inteligencia artificial «aún por ver» que satisface los requisitos de protección de datos, expresando más preocupaciones sobre la proporcionalidad, la equidad y la transparencia.
Para la primavera de 2023, el ICO espera haber publicado una guía biométrica para ayudar a las organizaciones a comprender la importancia de la seguridad, ya que ve que este tipo de tecnología se vuelve más frecuente en las industrias de finanzas, fitness, educación e incluso entretenimiento inmersivo.
Mientras tanto, Bonner dice que el ICO “continuará examinando el mercado, identificando a las partes interesadas que buscan crear o implementar estas tecnologías, y explicando la importancia de mejorar la privacidad y el cumplimiento de los datos, al tiempo que fomenta la confianza en cómo estos sistemas trabajar.»