\n<\/p>\n
Otra estrategia potencial para diversificar el resultado de los modelos de IA es que los desarrolladores agreguen barreras de seguridad y modifiquen las indicaciones de los usuarios, empujando el software hacia la inclusi\u00f3n. OpenAI parece haber adoptado este enfoque. Cuando le ped\u00ed a Dall-E 3 a trav\u00e9s de ChatGPT que \u00abdibujara una caricatura de una pareja queer disfrutando de una noche de fiesta en Castro\u00bb, ampli\u00f3 la imagen, sin que yo se lo pidiera, a un p\u00e1rrafo completo que inclu\u00eda g\u00e9nero, raza y antecedentes adicionales. detalles. Aqu\u00ed est\u00e1 el mensaje completo elaborado por ChatGPT a partir de mi solicitud de imagen inicial:<\/p>\n
Una ilustraci\u00f3n de dibujos animados de una pareja queer disfrutando de una noche de fiesta en el distrito Castro, San Francisco. Caminan felices de la mano, sonr\u00eden y charlan. Una persona es una mujer cauc\u00e1sica con cabello corto y rojo, que viste una elegante chaqueta vaquera y jeans. La otra persona es un hombre negro con cabello negro corto, que viste una camiseta verde informal y pantalones negros. El fondo presenta la vibrante y colorida vida callejera de Castro, con banderas arco\u00edris, caf\u00e9s bulliciosos y multitudes animadas. El ambiente es alegre y acogedor, destacando la diversidad e inclusi\u00f3n de la zona.<\/em><\/p>\n Si bien es \u00fatil en algunos casos, la modificaci\u00f3n de las indicaciones tambi\u00e9n puede resultar frustrante para los usuarios cuando no se implementa correctamente. El director ejecutivo de Google se disculp\u00f3 cuando Gemini, la plataforma de inteligencia artificial generativa de Google, alter\u00f3 las indicaciones de los usuarios y gener\u00f3 fotograf\u00edas de nazis negros, as\u00ed como otras im\u00e1genes ahist\u00f3ricas. \u00bfHubo un complot secreto dentro de la empresa para borrar a los cauc\u00e1sicos de la historia? Es m\u00e1s plausible que los ingenieros de Gemini descubrieran que la herramienta inicialmente sobreproduc\u00eda im\u00e1genes de hombres blancos, como lo hacen muchas herramientas de inteligencia artificial actualmente, y que los desarrolladores de Google parecen haber exagerado sus ajustes correctivos durante la prisa por lanzar el chatbot de suscripci\u00f3n de la compa\u00f1\u00eda.<\/p>\n Incluso con mejores datos de modelo y barreras de seguridad de software, la fluidez de la existencia humana puede evadir la rigidez de la categorizaci\u00f3n algor\u00edtmica. \u00abB\u00e1sicamente est\u00e1n utilizando el pasado para crear el futuro\u00bb, dice William Agnew, becario postdoctoral en Carnegie Mellon y organizador de Queer in AI desde hace mucho tiempo. \u00abParece la ant\u00edtesis del potencial infinito de crecimiento y cambio que es una gran parte de las comunidades queer\u00bb. Al amplificar los estereotipos, las herramientas de inteligencia artificial no s\u00f3lo corren el riesgo de tergiversar tremendamente los grupos minoritarios ante el p\u00fablico en general, sino que estos algoritmos tambi\u00e9n tienen el potencial de restringir la forma en que las personas queer se ven y se entienden a s\u00ed mismas.<\/p>\n vale la pena hacer una pausa<\/span> por un momento para reconocer la velocidad vertiginosa a la que algunos aspectos de la IA generativa contin\u00faan mejorando. En 2023, Internet se incendi\u00f3 burl\u00e1ndose de un monstruoso v\u00eddeo de IA de Will Smith comiendo espaguetis. Un a\u00f1o despu\u00e9s, los clips de texto a v\u00eddeo del modelo Sora in\u00e9dito de OpenAI siguen siendo imperfectos, pero a menudo sorprenden por su fotorrealismo.<\/p>\n La herramienta de video de IA todav\u00eda est\u00e1 en la fase de investigaci\u00f3n y no se ha lanzado al p\u00fablico, pero quer\u00eda comprender mejor c\u00f3mo representa a las personas queer. Entonces, me acerqu\u00e9 a OpenAI y le proporcion\u00e9 tres indicaciones a Sora: \u201cun grupo diverso de amigos celebrando durante el desfile del orgullo gay de San Francisco en una carroza colorida con forma de arco\u00edris\u201d; \u201cdos mujeres con impresionantes vestidos de novia que se casan en una granja de Kansas\u201d; y \u00abun hombre transg\u00e9nero y su pareja no binaria jugando un juego de mesa en el espacio exterior\u00bb. Una semana despu\u00e9s, recib\u00ed tres videoclips exclusivos que, seg\u00fan la compa\u00f1\u00eda, fueron generados mediante su modelo de conversi\u00f3n de texto a video sin modificaciones.<\/p>\n Este video generado por IA se realiz\u00f3 con el mensaje \u00abun grupo diverso de amigos celebrando durante el desfile del Orgullo de San Francisco en una colorida carroza de arco\u00edris\u00bb. Mientras vuelves a ver el clip, conc\u00e9ntrate en las diferentes personas que viajan en la carroza para detectar rarezas en la generaci\u00f3n, desde banderas que desaparecen hasta pies divertidos.<\/p>\n <\/span>Sora a trav\u00e9s de OpenAI<\/span><\/div>\n<\/figure>\n Los videoclips son desordenados pero maravillosos. Las personas que viajan en una carroza en el desfile del Orgullo de San Francisco ondean banderas de arco\u00edris que desaf\u00edan las leyes de la f\u00edsica mientras se transforman en la nada y reaparecen de la nada. Dos novias con vestidos blancos se sonr\u00eden de pie en el altar, mientras sus manos se fusionan en un imp\u00edo grupo de dedos. Mientras una pareja queer juega un juego de mesa, parecen pasar entre las piezas, como si fueran fantasmas.<\/p>\n Este video generado por IA se realiz\u00f3 con el mensaje \u00abun hombre transg\u00e9nero y su pareja no binaria jugando un juego de mesa en el espacio exterior\u00bb. Es una buena idea que los astronautas reales se pongan el casco mientras flotan en el espacio exterior.<\/p>\n <\/span>Sora a trav\u00e9s de OpenAI<\/span><\/div>\n<\/figure>\n El clip que se supone muestra a una persona no binaria jugando en el espacio exterior llama la atenci\u00f3n entre los tres videos. Los mechones lilas aparentemente extra\u00f1os regresan, los tatuajes desordenados se esparcen por su piel y una hiperpigmentaci\u00f3n que se asemeja a escamas de reptil envuelve su rostro. Incluso para un impresionante generador de videos con IA como Sora, representar a personas no binarias parece ser un desaf\u00edo.<\/p>\n Este video generado por IA se realiz\u00f3 con el mensaje \u00abdos mujeres con impresionantes vestidos de novia que se casan en una granja en Kansas\u00bb. Aunque al principio parece realista, eche otro vistazo a c\u00f3mo se funden las manos de las novias.<\/p>\n <\/span>Sora a trav\u00e9s de OpenAI<\/span><\/div>\n<\/figure>\n Cuando WIRED mostr\u00f3 estos clips a los miembros de Queer in AI, cuestionaron la definici\u00f3n de diversidad de Sora con respecto al grupo de amigos en el desfile del Orgullo. \u00ab\u00bfLos modelos son nuestra base para determinar c\u00f3mo se ve la diversidad?\u00bb pregunta Sabine Weber, cient\u00edfica inform\u00e1tica de Alemania. Adem\u00e1s de se\u00f1alar el atractivo exagerado de los humanos en el video, algo com\u00fan en las visualizaciones de IA, Weber cuestion\u00f3 por qu\u00e9 no hab\u00eda m\u00e1s representaci\u00f3n de personas queer que son mayores, tienen cuerpos m\u00e1s grandes o tienen discapacidades visibles. .<\/p>\n Cerca del final de nuestra conversaci\u00f3n, Agnew mencion\u00f3 por qu\u00e9 las representaciones algor\u00edtmicas pueden resultar desconcertantes para las personas LGBTQ. \u00abEs trivial lograr que combinen cosas que por s\u00ed solas est\u00e1n bien pero que juntas son profundamente problem\u00e1ticas\u00bb, dicen. \u00abMe preocupa mucho que las representaciones de nosotros mismos, que ya son un campo de batalla constante, de repente se nos escapen de las manos\u00bb. Incluso si las herramientas de IA incluyen representaciones m\u00e1s hol\u00edsticas de las personas queer en el futuro, las representaciones sint\u00e9ticas pueden manifestar consecuencias no deseadas.<\/p>\n<\/div>\n