Un grupo sin fines de lucro está solicitando a la Comisión Federal de Comercio que prohíba que OpenAI ofrezca GPT-4 hasta que la empresa pueda instalar salvaguardas en torno al programa de IA.
El Centro de IA y Política Digital presentó hoy una denuncia(Se abre en una nueva ventana) con la FTC que acusa a OpenAI de no hacer lo suficiente para evitar que ChatGPT sea abusado o cause caos.
“La Comisión Federal de Comercio ha declarado(Se abre en una nueva ventana) que el uso de la IA debe ser ‘transparente, explicable, justo y empíricamente sólido al mismo tiempo que fomenta la responsabilidad’. El producto GPT-4 de OpenAI no cumple ninguno de estos requisitos. Es hora de que la FTC actúe”, dice el grupo.
La organización sin fines de lucro cita las propias declaraciones anteriores de la FTC, que exigen que las empresas comercialicen y comercialicen de manera responsable sus tecnologías de IA, como base para una investigación sobre OpenAI. La semana pasada, la comisión publicó una entrada de blog(Se abre en una nueva ventana)advirtiendo a las empresas que no ignoren los riesgos de las tecnologías de chatbot de IA.
“Simplemente advertir a sus clientes sobre el uso indebido o decirles que hagan revelaciones no es suficiente para disuadir a los malos”, escribió la FTC. “Sus medidas de disuasión deben ser características duraderas e integradas y no correcciones de errores o características opcionales que terceros puedan socavar mediante modificación o eliminación”.
La organización sin fines de lucro argumenta que OpenAI ha estado ofreciendo GPT-4, el último modelo de lenguaje grande de la compañía, sin las medidas de seguridad adecuadas, lo que justifica el escrutinio de la FTC. El grupo apunta a la propia documentación de OpenAI.(Se abre en una nueva ventana) sobre GPT-4, que señala que la tecnología plantea varios riesgos de seguridad. Esto podría incluir ayudar a los malos actores a generar desinformación, crear ataques de malware, junto con la propia IA que propaga información errónea al público.
Aunque OpenAI dice que desarrolló mitigaciones para prevenir tal abuso, el Centro de IA y Política Digital dice que la empresa merece supervisión federal. “Pedimos específicamente a la FTC que determine si la compañía ha cumplido con la guía emitida por la agencia federal”, dice el presidente de la organización sin fines de lucro, Marc Rotenberg.
Recomendado por Nuestros Editores
“Reconocemos las oportunidades y apoyamos la investigación”, agrega Merve Hickok, directora de investigación de la organización sin fines de lucro. “Pero sin las salvaguardas necesarias establecidas para limitar el sesgo y el engaño, existe un grave riesgo para las empresas, los consumidores y la seguridad pública”.
OpenAI y la FTC no respondieron de inmediato a una solicitud de comentarios.
La queja se produce un día después de que cientos de científicos informáticos y empresarios tecnológicos, incluidos Elon Musk de Tesla y el cofundador de Apple, Steve Wozniak, firmaron una carta abierta instando a todos los laboratorios de IA a detener temporalmente su investigación durante al menos seis meses. Según ellos, la sociedad y los líderes electos necesitan tiempo para sopesar los posibles impactos disruptivos de la tecnología antes de que las empresas se sumerjan aún más en la carrera de la IA.
¡Obtenga nuestras mejores historias!
Matricularse en ¿Qué hay de nuevo ahora? para recibir nuestras mejores historias en su bandeja de entrada todas las mañanas.
Este boletín puede contener publicidad, ofertas o enlaces de afiliados. Suscribirse a un boletín informativo indica su consentimiento a nuestros Términos de uso y Política de privacidad. Puede darse de baja de los boletines en cualquier momento.