Gemini, el chatbot generativo de inteligencia artificial de Google, recientemente pasó por una debacle en la que terminó generando imágenes inexactas y ofensivas. Tras el caso, la empresa decidió reducir sus capacidades de generación de imágenes hasta que se pueda encontrar una solución y se puedan reanudar los servicios.
Géminis se mete en problemas por una generación de imagen problemática de personas de ciertas etnias
Google habla de cómo Gemini es una entidad de producto separada y no está directamente vinculada a la Búsqueda, sus modelos de inteligencia artificial y otros servicios que brinda. Una vez que la aplicación estuvo lista, Google ajustó manualmente el modelo para que la generación de imágenes pudiera ser diversa en lugar de mostrar un sesgo hacia ciertos grupos de personas o etnias. Tiene sentido que Google haga esto para garantizar que los usuarios de diferentes áreas del mundo puedan usar la aplicación sin tener problemas importantes.
Sin embargo, ninguna de las contramedidas habría podido evitar lo que sucedió después. Gemini no pudo dar cuenta de los casos de uso en los que los usuarios en realidad buscaban que un determinado origen étnico estuviera presente en una imagen. Esto llevó a algunas indicaciones realmente extrañas, como «un maestro negro en un salón de clases», lo que provocó que el modelo generara imágenes incorrectas y ofensivas. En algunos casos, para empezar, incluso se negó a generar imágenes. El motivo es que la modelo los consideraba sensibles aunque no lo eran.
Entonces, ¿cuál es la postura de Google ante toda esta situación? Bueno, la compañía siguió adelante y eliminó la capacidad de generar imágenes de personas en Géminis. La compañía ha hablado sobre cómo lo habilitará una vez que se solucione el problema después de que todo el modelo pase por pruebas exhaustivas. Google también ha hablado de que los modelos de IA no son perfectos y, a pesar de ser avanzados desde que se introdujeron, todavía tienen tendencia a alucinar, lo que puede causar problemas.
En cuanto a la línea de tiempo, Google no ha compartido ninguna y tendremos que esperar a que la generación de imágenes de Gemini esté lista y lista. Esperamos que cuando regrese, sea mejor que antes y mejorado en la creación de imágenes.
Fuente de noticias: Blog de Google