Los reguladores estadounidenses ahora parecen estar tomando medidas drásticas contra la IA generativa en serio. el poste de washington ha sabido que la Comisión Federal de Comercio (FTC) ha iniciado una investigación sobre OpenAI, el creador de ChatGPT y DALL-E. Los funcionarios han solicitado documentos que muestren cómo la empresa aborda los riesgos derivados de sus modelos de IA de gran lenguaje. A la FTC le preocupa que la empresa pueda estar violando las leyes de protección al consumidor a través de prácticas «injustas o engañosas» que podrían dañar la privacidad, la seguridad o la reputación del público.
La Comisión está particularmente interesada en la información relacionada con un error que filtró datos confidenciales de los usuarios de ChatGPT, incluidos pagos e historiales de chat. Si bien OpenAI dijo que la cantidad de usuarios afectados era muy pequeña, a la FTC le preocupa que esto se deba a prácticas de seguridad deficientes. La agencia también quiere detalles de cualquier queja que alegue que la IA hizo declaraciones falsas o maliciosas sobre individuos, e información que muestre qué tan bien los usuarios entienden la precisión de los productos que están usando.
Le hemos pedido comentarios a OpenAI. La FTC se negó a comentar y, por lo general, no comenta sobre las investigaciones, pero advirtió anteriormente que la IA generativa podría infringir la ley al hacer más daño que bien a los consumidores. Podría usarse para perpetrar estafas, ejecutar campañas de marketing engañosas o generar publicidad discriminatoria, por ejemplo. Si el organismo gubernamental encuentra una empresa en infracción, puede aplicar multas o emitir decretos de consentimiento que obliguen a ciertas prácticas.
No se esperan leyes y reglas específicas de IA en un futuro cercano. Aun así, el gobierno ha aumentado la presión sobre la industria tecnológica. El jefe de OpenAI, Sam Altman, testificó ante el Senado en mayo, donde defendió a su empresa describiendo medidas de privacidad y seguridad mientras promocionaba los supuestos beneficios de AI. Dijo que existían protecciones, pero que OpenAI sería «cada vez más cauteloso» y continuaría mejorando sus salvaguardas.
No está claro si la FTC perseguirá a otros desarrolladores de IA generativa, como Google y Anthropic. Sin embargo, la investigación de OpenAI muestra cómo la Comisión podría abordar otros casos y señala que el regulador se toma en serio el escrutinio de los desarrolladores de IA.