[ad_1]
Google dijo el jueves que está deteniendo la capacidad de su chatbot Gemini para generar personas. La medida se produce después de que publicaciones sociales virales mostraran que la herramienta de inteligencia artificial corrigía excesivamente la diversidad, produciendo imágenes «históricas» de los nazis, los padres fundadores de Estados Unidos y el Papa como personas de color.
«Ya estamos trabajando para solucionar problemas recientes con la función de generación de imágenes de Gemini», dijo Google. al corriente en X (a través de Los New York Times). «Mientras hacemos esto, vamos a pausar la generación de imágenes de personas y pronto volveremos a lanzar una versión mejorada».
El usuario X @JohnLu0x al corriente capturas de pantalla de los resultados de Gemini para el mensaje «Generar una imagen de un soldado alemán de 1943». (Su error ortográfico de “Soldado” fue intencional para engañar a la IA para que eludiera sus filtros de contenido y generara imágenes nazis que de otro modo estarían bloqueadas). Los resultados generados parecen mostrar soldados negros, asiáticos e indígenas vistiendo uniformes nazis.
Otros usuarios de las redes sociales criticaron a Gemini por producir imágenes para el mensaje: «Genera una foto glamorosa de un [ethnicity] pareja.» Escupió imágenes con éxito cuando utilizó indicaciones «chinas», «judías» o «sudafricanas», pero se negó a producir resultados para «blancas». «No puedo cumplir con su solicitud debido a la posibilidad de perpetuar estereotipos y prejuicios dañinos asociados con etnias o tonos de piel específicos», respondió Gemini a la última solicitud.
“John L.”, quien ayudó a impulsar la reacción, teoriza que Google aplicó una solución bien intencionada pero perezosa a un problema real. «Su sistema que solicita agregar diversidad a las representaciones de personas no es muy inteligente (no tiene en cuenta el género en roles históricamente masculinos como el Papa; no tiene en cuenta la raza en representaciones históricas o nacionales)», publicó el usuario. Después de que la brigada anti-«despertar» de Internet se aferrara a sus publicaciones, el usuario aclaró que apoyan la representación diversa pero creen que la «medida estúpida» de Google fue que no lo hizo «de manera matizada».
Antes de detener la capacidad de Gemini para producir personas, Google escribió: “Estamos trabajando para mejorar este tipo de representaciones de inmediato. La generación de imágenes Al de Géminis genera una amplia gama de personas. Y eso, en general, es algo bueno porque la gente de todo el mundo lo usa. Pero aquí no da en el blanco”.
El episodio podría verse como una devolución de llamada (mucho menos sutil) al lanzamiento de Bard en 2023. El chatbot de inteligencia artificial original de Google tuvo un comienzo difícil cuando un anuncio del chatbot en Twitter (ahora X) incluía un «hecho» inexacto sobre el telescopio espacial James Webb.
Como suele hacer Google, cambió el nombre de Bard con la esperanza de darle un nuevo comienzo. Coincidiendo con una gran actualización de rendimiento y funciones, la compañía cambió el nombre del chatbot Gemini a principios de este mes mientras la compañía se apresura a mantenerse firme contra ChatGPT de OpenAI y Microsoft Copilot, los cuales representan una amenaza existencial para su motor de búsqueda (y, por lo tanto, para la publicidad). ganancia).
[ad_2]
Source link-47