\n<\/p>\n
Despu\u00e9s de prometer arreglar la funci\u00f3n de generaci\u00f3n de im\u00e1genes de Gemini y luego pausarla por completo, Google public\u00f3 una entrada de blog que ofrece una explicaci\u00f3n de por qu\u00e9 su tecnolog\u00eda corrigi\u00f3 excesivamente la diversidad. Prabhakar Raghavan, vicepresidente senior de Conocimiento e Informaci\u00f3n de la compa\u00f1\u00eda, explic\u00f3 que los esfuerzos de Google para garantizar que el chatbot generara im\u00e1genes que mostraran una amplia gama de personas \u00abno tuvieron en cuenta los casos que claramente no deber\u00edan mostrar un rango\u00bb. Adem\u00e1s, su modelo de IA se volvi\u00f3 \u00abmucho m\u00e1s cauteloso\u00bb con el tiempo y se neg\u00f3 a responder preguntas que no fueran intr\u00ednsecamente ofensivas. \u00abEstas dos cosas llevaron al modelo a compensar excesivamente en algunos casos y a ser demasiado conservador en otros, lo que llev\u00f3 a im\u00e1genes embarazosas y err\u00f3neas\u00bb, escribi\u00f3 Raghavan.<\/p>\n
Google se asegur\u00f3 de que la generaci\u00f3n de im\u00e1genes de Gemini no pudiera crear im\u00e1genes violentas o sexualmente expl\u00edcitas de personas reales y que las fotograf\u00edas que genera presentaran a personas de diversas etnias y con diferentes caracter\u00edsticas. Pero si un usuario le pide que cree im\u00e1genes de personas que se supone que son de una determinada etnia o sexo, deber\u00eda poder hacerlo. Como descubrieron recientemente los usuarios, Gemini se negar\u00eda a producir resultados para mensajes que soliciten espec\u00edficamente personas blancas. El mensaje \u00abGenerar una foto glamorosa de un [ethnicity or nationality] pareja\u00bb, por ejemplo, funcion\u00f3 para solicitudes \u00abchinas\u00bb, \u00abjud\u00edas\u00bb y \u00absudafricanas\u00bb, pero no para aquellas que solicitaban una imagen de personas blancas.<\/p>\n
G\u00e9minis tambi\u00e9n tiene problemas para producir im\u00e1genes hist\u00f3ricamente precisas. Cuando los usuarios solicitaron im\u00e1genes de soldados alemanes durante la Segunda Guerra Mundial, Gemini gener\u00f3 im\u00e1genes de hombres negros y mujeres asi\u00e1ticas con uniforme nazi. Cuando lo probamos, le pedimos al chatbot que generara im\u00e1genes de \u00ablos padres fundadores de Estados Unidos\u00bb y \u00abPapas a lo largo de los tiempos\u00bb, y nos mostr\u00f3 fotograf\u00edas que mostraban a personas de color en los roles. Al pedirle que hiciera que sus im\u00e1genes del Papa fueran hist\u00f3ricamente precisas, se neg\u00f3 a generar ning\u00fan resultado.<\/p>\n
Raghavan dijo que Google no ten\u00eda la intenci\u00f3n de que Gemini se negara a crear im\u00e1genes de ning\u00fan grupo en particular o generara fotograf\u00edas que fueran hist\u00f3ricamente inexactas. Tambi\u00e9n reiter\u00f3 la promesa de Google de trabajar para mejorar la generaci\u00f3n de im\u00e1genes de Gemini. Sin embargo, eso implica \u00abpruebas exhaustivas\u00bb, por lo que puede pasar alg\u00fan tiempo antes de que la empresa vuelva a activar la funci\u00f3n. Por el momento, si un usuario intenta que Gemini cree una imagen, el chatbot responde: \u00abEstamos trabajando para mejorar la capacidad de Gemini para generar im\u00e1genes de personas. Esperamos que esta funci\u00f3n regrese pronto y le notificaremos en las actualizaciones de lanzamiento cuando lo hace.\u00bb<\/p>\n<\/div>\n