La Comisión Federal de Comercio está investigando a OpenAI sobre si ChatGPT representa una amenaza para los consumidores al infringir su privacidad y promover información falsa.
La investigación parece ser «amplia», según el el poste de washingtonque cita(Se abre en una nueva ventana) una carta de 20 páginas que el regulador estadounidense envió a OpenAI esta semana.
La carta(Se abre en una nueva ventana) dice que la FTC está investigando a la compañía de San Francisco porque sus modelos de lenguaje extenso (LLM, por sus siglas en inglés), que impulsan a ChatGPT, pueden haberse involucrado en prácticas de privacidad «injustas o engañosas» al tiempo que representan un «daño a la reputación» de los consumidores.
El documento incluye 49 preguntas, muchas de ellas relacionadas con asuntos confidenciales, que incluyen qué datos usa la empresa para entrenar a ChatGPT, cómo se obtienen los datos y las medidas de seguridad de la empresa para evitar que el chatbot conozca la información privada de los usuarios.
La FTC también está solicitando a OpenAI más detalles sobre un error de software que provocó que el sitio web de ChatGPT filtrara brevemente los historiales de conversación de los usuarios y los detalles de pago de los usuarios pagos. La carta señala que OpenAI debe suspender cualquier procedimiento que implique la destrucción de documentos. Además, la investigación de la FTC considerará si «el alivio monetario sería de interés público».
La FTC se negó a comentar. “Las investigaciones de la FTC no son públicas, por lo que generalmente no comentamos si estamos investigando un asunto en particular”, dijo un portavoz a PCMag.
OpenAI no respondió de inmediato a una solicitud de comentarios. Pero la investigación se produce en medio de una serie de demandas contra los desarrolladores de chatbots por las mismas preocupaciones de privacidad y difamación.
Recomendado por Nuestros Editores
Si bien ChatGPT puede proporcionar respuestas precisas sobre una gran variedad de temas, también puede «alucinar» y proporcionar respuestas incorrectas, lo que podría confundir a los usuarios. La otra preocupación es que OpenAI y otras compañías rastrean la web, incluida la recopilación de publicaciones de redes sociales de personas sin su consentimiento, para entrenar y refinar sus chatbots. Por lo tanto, la investigación de la FTC podría exponer las prácticas internas de OpenAI y poner a la empresa bajo un mayor escrutinio regulatorio.
Enza Iannopollo, analista de la firma de investigación Forrester, señaló que la falta de reglas sobre los LLM podría resultar «un completo desastre» para los chatbots de IA debido a las posibles multas regulatorias, investigaciones y daños a los usuarios. “Mientras los modelos de lenguaje extenso (LLM, por sus siglas en inglés) permanezcan opacos y dependan en gran medida de datos recopilados para la capacitación, los riesgos de abusos de privacidad y daños a las personas seguirán creciendo”, dijo en un correo electrónico.
¡Obtenga nuestras mejores historias!
Matricularse en ¿Qué hay de nuevo ahora? para recibir nuestras mejores historias en su bandeja de entrada todas las mañanas.
Este boletín puede contener publicidad, ofertas o enlaces de afiliados. Suscribirse a un boletín informativo indica su consentimiento a nuestros Términos de uso y Política de privacidad. Puede darse de baja de los boletines en cualquier momento.