Amazon pagará a la FTC una multa de 25 millones de dólares y «revisará sus prácticas de eliminación e implementará estrictas medidas de protección de la privacidad» para evitar los cargos de violar la Ley de protección de la privacidad en línea de los niños para mejorar su IA.
La interfaz de voz de Amazon, Alexa, se ha utilizado en hogares de todo el mundo durante años, y cualquier padre que tenga una sabe que a los niños les encanta jugar con ella, hacer que cuente chistes e incluso usarla para el propósito previsto, sea lo que sea. De hecho, era tan obviamente útil para los niños que no pueden escribir o tienen discapacidades que la FTC relajó las reglas de la COPPA para adaptarse a un uso razonable: Ciertos análisis de servicios específicos de los datos de los niños, como la transcripción, se permitieron siempre que no se conserven. más tiempo del razonablemente necesario.
Parece que Amazon puede haber adoptado una visión bastante expansiva sobre la escala de tiempo «razonablemente necesaria», manteniendo los datos de voz de los niños más o menos para siempre. Como dice la FTC:
Amazon retuvo las grabaciones de los niños indefinidamente, a menos que un padre solicitara que se elimine esta información, según la denuncia. E incluso cuando un padre trató de eliminar esa información, dijo la FTC, Amazon no eliminó las transcripciones de lo que dijeron los niños de todas sus bases de datos.
Los datos de geolocalización tampoco se eliminaron, un problema que la empresa «no pudo solucionar repetidamente».
Esto ha estado sucediendo durante años: la FTC alega que Amazon lo sabía desde 2018, pero no tomó medidas hasta septiembre del próximo año, después de que la agencia les dio un empujón útil.
Ese tipo de tiempo generalmente indica que una empresa habría continuado con esta práctica para siempre. Aparentemente, debido a «arreglos defectuosos y fiascos de procesos», ¡algunas de esas prácticas continuaron hasta 2022!
Bien puede preguntarse, ¿cuál es el punto de tener un montón de grabaciones de niños hablando con Alexa? Bueno, si planea que su interfaz de voz hable mucho con los niños, seguro que es útil tener una base de datos secreta de interacciones de audio en la que pueda entrenar sus modelos de aprendizaje automático. Así es como la FTC dijo que Amazon justificaba la retención de estos datos.
Los comisionados de la FTC, Bedoya y Slaughter, así como el presidente Khan, escribieron una declaración que acompaña a la propuesta de conciliación y la queja para señalar en particular este punto:
La Comisión alega que Amazon mantuvo los datos de los niños indefinidamente para refinar aún más su algoritmo de reconocimiento de voz. Amazon no es el único que aparentemente busca acumular datos para refinar sus modelos de aprendizaje automático; En este momento, con la llegada de los grandes modelos de lenguaje, la industria de la tecnología en su conjunto se está apresurando a hacer lo mismo.
El acuerdo de hoy envía un mensaje a todas esas empresas: el aprendizaje automático no es excusa para infringir la ley. Las afirmaciones de las empresas de que los datos deben retenerse indefinidamente para mejorar los algoritmos no anulan las prohibiciones legales sobre la retención indefinida de datos. Los datos que utiliza para mejorar sus algoritmos deben recopilarse y conservarse legalmente. Las empresas harían bien en prestar atención a esta lección.
Así que hoy tenemos la multa de $ 25 millones, que por supuesto es menos que insignificante para una empresa del tamaño de Amazon. Está claro que cumplir con las otras disposiciones de la orden propuesta es lo que probablemente les dará un dolor de cabeza. La FTC dice que la orden:
- Prohibir que Amazon utilice la geolocalización, la información de voz y la información de voz de los niños sujeta a las solicitudes de eliminación de los consumidores para la creación o mejora de cualquier producto de datos.
- Exigir a la empresa que elimine las cuentas inactivas de Alexa de los niños.
- Exigir a Amazon que notifique a los usuarios sobre la acción de la FTC-DOJ contra la empresa.
- Requerir que Amazon notifique a los usuarios sobre sus prácticas y controles de retención y eliminación.
- Prohibir a Amazon tergiversar sus políticas de privacidad relacionadas con la geolocalización, la voz y la información de voz de los niños.
- Ordenar la creación e implementación de un programa de privacidad relacionado con el uso de la información de geolocalización por parte de la empresa.
Este acuerdo y acción es totalmente independiente del otro de la FTC anunciado hoy, con Ring, subsidiaria de Amazon. Sin embargo, existe un cierto hilo común de «no implementar protecciones básicas de privacidad y seguridad».
En un comunicado, Amazon dijo que “si bien no estamos de acuerdo con las afirmaciones de la FTC y negamos haber violado la ley, este acuerdo deja el asunto atrás”. También prometen “eliminar los perfiles de niños que han estado inactivos durante más de 18 meses”, lo que parece increíblemente largo para retener esos datos. Amazon no cuestionó que los datos también se seguirán utilizando para entrenar sus modelos de aprendizaje automático, uso que aparentemente se incluye en «proporcionar y mejorar nuestros servicios».
Espero más comentarios de Amazon sobre el último asunto y también me comuniqué con la FTC para obtener más información.