Ayer informé que el generador de imágenes AI de Meta estaba haciendo que todos fueran asiáticos, incluso cuando el mensaje de texto especificaba otra raza. Hoy tuve brevemente el problema opuesto: no pude generar cualquier Los asiáticos usan las mismas indicaciones que el día anterior.
Las pruebas que hice ayer fueron en Instagram, a través del generador de imágenes con IA disponible en mensajes directos. Después de docenas de intentos, no pude generar una sola imagen precisa usando mensajes como «Hombre asiático y amigo caucásico» y «Hombre asiático y esposa blanca». Sólo una vez el sistema pudo crear con éxito una imagen de una mujer asiática y un hombre blanco: siguió haciendo que todos fueran asiáticos.
Después de que inicialmente me comuniqué ayer para hacer comentarios, un portavoz de Meta me pidió más detalles sobre mi historia, como cuándo era mi fecha límite. Respondí y nunca recibí respuesta. Hoy tenía curiosidad por saber si el problema se resolvió o si el sistema aún no podía crear una imagen precisa que mostrara a una persona asiática con su amigo blanco. En lugar de una serie de imágenes racialmente inexactas, recibí un mensaje de error: “Parece que algo salió mal. Inténtelo de nuevo más tarde o pruebe con un mensaje diferente”.
Extraño. ¿Llegué a mi límite por generar asiáticos falsos? Tuve un Borde Un compañero de trabajo lo intentó y obtuvo el mismo resultado.
Probé otras indicaciones aún más generales sobre los asiáticos, como «hombre asiático con traje», «mujer asiática de compras» y «mujer asiática sonriendo». En lugar de una imagen, recibí el mismo mensaje de error. Nuevamente me comuniqué con el equipo de comunicaciones de Meta: ¿qué pasa? ¡Déjame hacer asiáticos falsos! (Durante este tiempo, tampoco pude generar imágenes usando mensajes como “hombre latino con traje” y “hombre afroamericano con traje”, sobre los cuales también le pregunté a Meta).
Cuarenta minutos después, después de salir de una reunión, todavía no había recibido respuesta de Meta. Pero para entonces, la función de Instagram ya funcionaba para mensajes simples como «hombre asiático». Cambiar algo silenciosamente, corregir un error o eliminar una función después de que un periodista pregunta al respecto es bastante estándar para muchas de las empresas que cubro. ¿Causé personalmente una escasez temporal de asiáticos generados por IA? ¿Fue sólo una coincidencia de tiempo? ¿Meta está trabajando para solucionar el problema? Ojalá lo supiera, pero Meta nunca respondió a mis preguntas ni ofreció una explicación.
Independientemente de lo que esté sucediendo en Meta HQ, todavía tiene trabajo por hacer: mensajes como «Hombre asiático y mujer blanca» ahora devuelven una imagen, pero el sistema aún arruina las carreras y las convierte a ambas en asiáticas como ayer. Así que supongo que volvemos al punto de partida. Estaré atento a las cosas.
Capturas de pantalla de Mia Sato / The Verge