¿Italia lleva la honda? contra la inteligencia artificial ? Se convirtió el viernes en el primer país del mundo occidental en bloquear ChatGPT por preocupaciones sobre el uso de datos, dos meses después de prohibir otro programa comercializado como un «amigo virtual». En un comunicado de prensa, la Autoridad Italiana de Protección de Datos Personales advierte que su decisión tiene «efecto inmediato» y acusa al chatbot de no respetar la normativa europea y de no verificar la edad de los usuarios menores.
Limitación temporal del procesamiento de datos de usuarios italianos
Esta decisión dará como resultado «la limitación temporal del procesamiento de datos de usuarios italianos frente a OpenAI», la empresa detrás de la aplicación, según el documento. ChatGPT apareció en noviembre y rápidamente fue absorbido por usuarios impresionados con su capacidad para responder claramente preguntas difíciles, escribir sonetos o escribir código de computadora. Financiado por el gigante de TI microsoftque lo ha añadido a varios de sus servicios, en ocasiones se presenta como un potencial competidor del buscador de Google.
La institución italiana señala que ChatGPT «sufrió el 20 de marzo una pérdida de datos relativos a las conversaciones de los usuarios e información relativa al pago de los abonados al servicio de pago». Después de los informes iniciales, OpenAI suspendió brevemente el servicio y luego reconoció un error en una herramienta de terceros ahora resuelta que afectó al 1,2% de sus suscriptores y a un número indefinido de usuarios gratuitos.
La autoridad también lo critica por «la ausencia de una nota informativa para los usuarios, cuyos datos son recopilados por OpenAI, pero sobre todo la ausencia de una base legal que justifique la recopilación y el almacenamiento masivo de datos personales, con el fin de entrenar los algoritmos que ejecutan». la plataforma». Además, si bien el bot está dirigido a personas mayores de 13 años, “destaca que la falta de cualquier filtro para verificar la edad de los usuarios expone a los menores a respuestas absolutamente no conformes en relación con su nivel de desarrollo.
Desinformación y Malware
La misma institución había bloqueado a principios de febrero por motivos similares la aplicación Replika, que ofrece chatear con un avatar a medida. Algunos usuarios se habían quejado de recibir mensajes e imágenes demasiado atrevidos, cercanos al acoso sexual.
Una vez más, la Autoridad pide a OpenAI que “comuníquese en un plazo de 20 días las medidas adoptadas” para remediar esta situación, “bajo pena de una sanción de hasta 20 millones de euros o hasta el 4 % de la facturación mundial anual”, el máximo previsto por el Reglamento Europeo sobre datos personales (GDPR). Este caso muestra que el RGPD, que ya ha resultado en miles de millones de dólares en multas para los gigantes tecnológicos, también podría convertirse en el enemigo de las nuevas IA generadoras de contenido.
Según Nello Cristianini, profesor de la Universidad de Bath (Reino Unido), «las consideraciones más importantes» son «el uso sin la debida base legal de datos personales para la formación de modelos y la creciente posibilidad de ver estos datos reproducidos de forma inexacta». La IA también alimenta temores mucho más profundos que la mera explotación de datos personales y la Unión Europea está preparando actualmente un proyecto de reglamento que podría estar finalizado a principios de 2024, para su aplicación unos años más tarde.
Delincuentes listos para aprovechar la inteligencia artificial
Europol advirtió el lunes que los delincuentes estaban listos para aprovechar la inteligencia artificial para cometer fraude y otros delitos cibernéticos. ChatGPT también fue bloqueado poco después de su lanzamiento en varias escuelas o universidades de todo el mundo, por temor a hacer trampa en los exámenes, y las empresas aconsejaron a sus empleados que no usaran la aplicación. «Hemos visto a empleados proporcionar los planes estratégicos de su empresa a ChatGPT para pedirle que haga una presentación por diapositivas. ¡Los idiotas! Porque todos los datos van a ChatGPT que los puede regurgitar si un competidor le pregunta por la estrategia de esta empresa» , explicó Françoise Soulie Fogelman, asesora del Hub FranceIA, durante una conferencia.
Miércoles, el multimillonario Elon Muskuno de los fundadores de OpenAI, cuyo directorio dejó más tarde, y cientos de expertos globales pidieron una pausa de seis meses en la investigación de IA más potentes que GPT-4, se lanzó la última versión del software en el que se basa ChatGPT. a mediados de marzo, citando «grandes riesgos para la humanidad».