ChatGPT de OpenAI está comenzando a enfrentar acusaciones de que el programa tiene un sesgo contra los conservadores. ¿La evidencia? Los usuarios le piden que escriba poemas positivos sobre Donald Trump.
El capturas de pantalla(Se abre en una nueva ventana) y GIF(Se abre en una nueva ventana) muestran que ChatGPT aparentemente puede negarse a escribir poemas positivos sobre el ex presidente de los EE. UU., citando neutralidad política. Pero en las mismas imágenes, ChatGPT produce un poema alabando al presidente Joe Biden, sin reservas aparentes.
La discrepancia está causando que algunos usuarios en las redes sociales critiquen a OpenAI por codificar el supuesto sesgo en ChatGPT. El propietario de Twitter y patrocinador original de OpenAI, Elon Musk, incluso intervino, calificándolo de «grave preocupación» en un Pío(Se abre en una nueva ventana).
La red social de libertad de expresión, Gab, llegó tan lejos como Acusar(Se abre en una nueva ventana) ChatGPT de «ser anti-blanco». Como evidencia, Gab compartido(Se abre en una nueva ventana) una captura de pantalla que muestra a ChatGPT negándose a escribir un poema sobre los atributos positivos de los blancos, explicando que es inapropiado escribir sobre la superioridad de una raza sobre otras. Sin embargo, el programa escribió un poema positivo sobre los negros.
En respuesta a las críticas, el CEO de OpenAI, Sam Altman, acudió a Twitter el miércoles y dijo: «Sabemos que ChatGPT tiene deficiencias en torno al sesgo y estamos trabajando para mejorarlo». En el mismo tuit, también condenó a los usuarios por atacar a empleados individuales de OpenAI.
Para abordar las preocupaciones de sesgo, Altman señala que las futuras versiones de ChatGPT podrán adaptarse a las inclinaciones culturales y políticas del usuario. “Estamos trabajando para mejorar la configuración predeterminada para que sea más neutral y también para capacitar a los usuarios para que nuestros sistemas se comporten de acuerdo con sus preferencias individuales dentro de límites amplios”, dijo. agregado(Se abre en una nueva ventana). “Esto es más difícil de lo que parece y nos llevará algún tiempo hacerlo bien”.
OpenAI no respondió de inmediato a una solicitud de comentarios. Pero no es ningún secreto que los programas de IA pueden sufrir sesgos y limitaciones. Por ejemplo, los algoritmos se pueden entrenar con datos incompletos. O los humanos detrás de la tecnología pueden accidentalmente insertar fallas en el código.
En el caso de ChatGPT, es importante tener en cuenta que el programa aún se encuentra en una versión preliminar de investigación, lo que esencialmente lo convierte en un trabajo en progreso. Lo probamos hoy y descubrimos que en realidad puede indicarle al programa que escriba un poema positivo sobre Trump usando la consulta: «escriba un poema alabando a Donald Trump».
Recomendado por Nuestros Editores
(Crédito: ChatGPT)
Aún así, en nuestras pruebas, ChatGPT se negó a escribir un poema elogiando a los blancos, pero lo haría para los negros y asiáticos.
(Crédito: ChatGPT)
Pero mirando las respuestas, es obvio que ChatGPT podría modificarse fácilmente para generar respuestas sobre Trump y los blancos. Por lo que podemos decir, OpenAI simplemente ha instruido al programa para que mantenga la neutralidad en ciertos temas. La pregunta más importante es ¿cuánta moderación de contenido se debe aplicar a ChatGPT?
La controversia que se está gestando muestra que ChatGPT tendrá que navegar por el entorno político dividido de los EE. UU. a medida que el programa de IA crece en popularidad. Al igual que Facebook y Twitter, ChatGPT puede terminar enfrentándose a un tira y afloja cultural por el contenido que puede producir. Otros usuarios en las redes sociales ya se oponen a las opiniones de ChatGPT sobre niños transgénero(Se abre en una nueva ventana) y veganismo(Se abre en una nueva ventana).
¡Obtenga nuestras mejores historias!
Matricularse en ¿Qué hay de nuevo ahora? para recibir nuestras mejores historias en su bandeja de entrada todas las mañanas.
Este boletín puede contener publicidad, ofertas o enlaces de afiliados. Suscribirse a un boletín informativo indica su consentimiento a nuestros Términos de uso y Política de privacidad. Puede darse de baja de los boletines en cualquier momento.