Es posible que los italianos no tengan acceso a ChatGPT durante mucho más tiempo. El garante de privacidad de Italia ordenó el bloqueo de ChatGPT por preocupaciones de que OpenAI está violando el Reglamento General de Protección de Datos (GDPR) de la Unión Europea a través de sus prácticas de manejo de datos. El regulador afirma que no existe una «base legal» para la recopilación masiva de datos de OpenAI para entrenar el modelo de ChatGPT. Los resultados a veces inexactos también indican que la IA generativa no está procesando los datos correctamente, dice el Garante. Los funcionarios están particularmente preocupados por una falla que filtró datos confidenciales de usuarios la semana pasada.
La agencia de datos también dice que OpenAI no está haciendo lo suficiente para proteger a los niños. Si bien la compañía dice que ChatGPT está destinado a personas mayores de 13 años, no hay controles de edad para evitar que los niños vean respuestas «absolutamente inadecuadas», según los funcionarios.
El Garante le da a OpenAI 20 días para describir cómo abordará los problemas. Si la empresa no cumple, se enfrenta a una multa de hasta 20 millones de euros (alrededor de 21,8 millones de dólares estadounidenses) o un máximo del cuatro por ciento de su facturación mundial anual.
Le hemos pedido comentarios a OpenAI y le informaremos si recibimos una respuesta. La política de privacidad de ChatGPT de la compañía deja en claro que los entrenadores pueden usar los datos de conversación para mejorar la IA, pero que también agrega o anonimiza esos datos. Los términos de OpenAI prohíben el uso por parte de niños menores de 13 años, mientras que la política dice que la compañía no recopila «a sabiendas» información personal de esos usuarios menores de edad.
La acción de Italia se produce solo un día después de que una organización de investigación sin fines de lucro presentara una queja ante la Comisión Federal de Comercio de EE. UU. (FTC) con la esperanza de congelar futuros lanzamientos de ChatGPT hasta que OpenAI cumpla con las pautas de la agencia sobre transparencia, equidad y claridad. Los líderes y expertos tecnológicos también han pedido una pausa de medio año en el desarrollo de IA para abordar problemas éticos. Existe la preocupación de que OpenAI no tenga suficientes controles en sus plataformas, y eso ahora podría conducir a una prohibición a nivel de país.