El director ejecutivo de Google, Sundar Pichai, abordó los problemas recientes de la compañía con su herramienta de generación de imágenes Gemini impulsada por inteligencia artificial en imágenes históricas. Calificó el giro de los acontecimientos como «inaceptable» y dijo que la empresa está «trabajando las veinticuatro horas del día» para solucionarlo, según un informe.
«Ninguna IA es perfecta, especialmente en esta etapa emergente del desarrollo de la industria, pero sabemos que el listón es alto para nosotros y lo mantendremos durante el tiempo que sea necesario», escribió Pichai a su personal. «Y revisaremos lo que sucedió y nos aseguraremos de solucionarlo a escala».
Pichai sigue siendo optimista sobre el futuro del chatbot Gemini, anteriormente llamado Bard, y señala que el equipo ya ha «observado mejoras sustanciales en una amplia gama de indicaciones». El aspecto de generación de imágenes de Gemini hasta que se solucione por completo.
Esto comenzó cuando los usuarios de Gemini comenzaron a notar que el generador comenzó a generar imágenes históricamente inexactas, como fotografías de nazis y padres fundadores de Estados Unidos como personas de color. Esto rápidamente se convirtió en algo muy importante en las redes sociales, y la palabra «despertó» se usó mucho.
Prabhakar Raghavan, vicepresidente senior de conocimiento e información de Google, no culpó al estado de vigilia. Básicamente, el modelo se ajustó para permitir diversos grupos de personas en las imágenes, pero «no tuvo en cuenta casos que claramente no deberían mostrarse». un rango.” Esto llevó a imágenes controvertidas como personas de color apareciendo como vikingos y papas católicos nativos americanos.
Raghavan también dijo que el modelo se volvió más cauteloso con el tiempo, negándose ocasionalmente a responder ciertas preguntas después de interpretarlas erróneamente como sensibles. Esto explica los informes de que la modelo se negó a generar imágenes de personas blancas.
Parece que la compañía estaba tratando de complacer a una audiencia global y garantizar que el modelo no cayera en algunas de las trampas de los productos rivales, como crear imágenes sexualmente explícitas o representaciones de personas reales. Ajustar estos modelos de IA es un trabajo extremadamente delicado y el software puede fácilmente. Es lo que hacen. En cualquier caso, preferiría un Papa católico históricamente inexacto cualquier día de la semana. Considere esto como un recordatorio más de que a la IA todavía le queda un largo camino por recorrer.
En cuanto a Gemini, la compañía promete que el generador de imágenes regresará en un futuro cercano, pero aún requiere un conjunto de correcciones y pruebas para garantizar que esto nunca vuelva a suceder, incluidos «cambios estructurales, pautas de producto actualizadas, procesos de lanzamiento mejorados, evaluaciones sólidas». y recomendaciones técnicas y de equipos rojos”.