No, no es una broma de April Fools: OpenAI ha comenzado a geobloquear el acceso a su chatbot generativo de IA, ChatGPT, en Italia.
La medida sigue a una orden de la autoridad local de protección de datos el viernes de que debe dejar de procesar los datos de los italianos para el servicio ChatGPT.
En una declaración que aparece en línea para los usuarios con una dirección IP italiana que intentan acceder a ChatGPT, OpenAI escribe que «lamenta» informar a los usuarios que ha deshabilitado el acceso a los usuarios en Italia, a «solicitud» de la autoridad de protección de datos. que se conoce como el Garantía.
También dice que emitirá reembolsos a todos los usuarios en Italia que compraron el servicio de suscripción ChatGPT Plus el mes pasado, y también señala que está «deteniendo temporalmente» las renovaciones de suscripción allí para que no se cobre a los usuarios mientras el servicio está suspendido.
OpenAI parece estar aplicando un geobloqueo simple en este punto, lo que significa que usar una VPN para cambiar a una dirección IP que no sea italiana ofrece una solución sencilla para el bloqueo. Aunque si una cuenta de ChatGPT se registró originalmente en Italia, es posible que ya no sea accesible y que los usuarios que deseen eludir el bloqueo deban crear una nueva cuenta con una dirección IP que no sea italiana.
Declaración de OpenAI para los usuarios que intentan acceder a ChatGPT desde una dirección IP italiana (Captura de pantalla: Natasha Lomas/TechCrunch)
el viernes el Garantía anunció que abrió una investigación sobre ChatGPT por presuntas infracciones del Reglamento General de Protección de Datos (GDPR) de la Unión Europea, diciendo que le preocupa que OpenAI haya procesado ilegalmente los datos de los italianos.
OpenAI no parece haber informado a nadie cuyos datos en línea encontró y usó para entrenar la tecnología, como extrayendo información de foros de Internet. Tampoco ha sido completamente abierto sobre los datos que está procesando, ciertamente no para la última versión de su modelo, GPT-4. Y si bien los datos de capacitación que usó pueden haber sido públicos (en el sentido de que se publicaron en línea), el RGPD aún contiene principios de transparencia, lo que sugiere que tanto los usuarios como las personas cuyos datos recopilaron deberían haber sido informados.
En su comunicado de ayer el Garantía también señaló la falta de un sistema para evitar que los menores accedan a la tecnología, levantando una bandera de seguridad infantil, y señaló que no hay una función de verificación de edad para evitar el acceso inapropiado, por ejemplo.
Además, el regulador ha expresado su preocupación por la precisión de la información que proporciona el chatbot.
Se sabe que ChatGPT y otros chatbots generativos de IA a veces producen información errónea sobre personas nombradas, una falla a la que los fabricantes de IA se refieren como «alucinante». Esto parece problemático en la UE, ya que el RGPD otorga a las personas una serie de derechos sobre su información, incluido el derecho a la rectificación de información errónea. Y, actualmente, no está claro que OpenAI tenga un sistema en el que los usuarios puedan pedirle al chatbot que deje de mentir sobre ellos.
La empresa con sede en San Francisco todavía no ha respondido a nuestra solicitud de comentarios sobre el Garante’s investigación. Pero en su declaración pública a los usuarios bloqueados geográficamente en Italia afirma: «Estamos comprometidos con la protección de la privacidad de las personas y creemos que ofrecemos ChatGPT de conformidad con el RGPD y otras leyes de privacidad».
“Nos comprometeremos con el Garantía con el objetivo de restaurar su acceso lo antes posible”, también escribe, y agrega: “Muchos de ustedes nos han dicho que encuentran útil ChatGPT para las tareas diarias, y esperamos que esté disponible nuevamente pronto”.
A pesar de tener una nota optimista hacia el final de la declaración, no está claro cómo OpenAI puede abordar los problemas de cumplimiento planteados por el Garantía — dado el amplio alcance de las preocupaciones de GDPR, se presenta cuando inicia una investigación más profunda.
El reglamento paneuropeo exige la protección de datos desde el diseño y por defecto, lo que significa que se supone que los procesos y principios centrados en la privacidad están integrados en un sistema que procesa los datos de las personas desde el principio. También conocido como el enfoque opuesto a obtener datos y pedir perdón más tarde.
Mientras tanto, las sanciones por infracciones confirmadas del RGPD pueden escalar hasta el 4% de la facturación global anual de un procesador de datos (o 20 millones de euros, lo que sea mayor).
Además, dado que OpenAI no tiene un establecimiento principal en la UE, cualquiera de las autoridades de protección de datos del bloque está facultada para regular ChatGPT, lo que significa que las autoridades de todos los demás países miembros de la UE podrían optar por intervenir e investigar, y emitir multas por cualquier infracción que encuentren. (en un tiempo relativamente corto, ya que cada uno actuaría solo en su propio parche). Por lo tanto, se enfrenta al nivel más alto de exposición al RGPD y no está preparado para jugar el juego de compras en foros que otros gigantes tecnológicos han utilizado para retrasar la aplicación de la privacidad en Europa.