\n<\/p>\n
Hab\u00eda una vez<\/span> una asistente virtual llamada Sra. Dewey, una atractiva bibliotecaria interpretada por Janina Gavankar que lo ayud\u00f3 con sus consultas sobre el primer intento de Microsoft en un motor de b\u00fasqueda. Ms. Dewey se lanz\u00f3 en 2006, completo con m\u00e1s de 600 l\u00edneas de di\u00e1logo grabado. Se adelant\u00f3 a su tiempo en algunos aspectos, pero un ejemplo particularmente pasado por alto fue capturado por la estudiosa de la informaci\u00f3n Miriam Sweeney en su tesis doctoral de 2013, donde detall\u00f3 las implicaciones raciales y de g\u00e9nero de las respuestas de Dewey. Eso inclu\u00eda l\u00edneas como: \u00abOye, si puedes entrar a tu computadora, puedes hacerme lo que quieras\u00bb. O c\u00f3mo la b\u00fasqueda de \u00abmamadas\u00bb hizo que se reprodujera un clip de ella comiendo un pl\u00e1tano, o el ingreso de t\u00e9rminos como \u00abgueto\u00bb la hizo interpretar un rap con letras que inclu\u00edan gemas como \u00abNo, diente de oro, ghetto-fabulous mutha-fucker BEEP pasos a esta pieza de [ass] BIP.\u00bb Sweeney analiza lo obvio: que Dewey fue dise\u00f1ado para atender a un usuario masculino blanco y heterosexual. Despu\u00e9s de todo, los blogs de la \u00e9poca elogiaban el coqueteo de Dewey. <\/p>\n Microsoft desconect\u00f3 a la Sra. Dewey en 2009, pero los cr\u00edticos posteriores, incluido yo mismo, identificar\u00edan un patr\u00f3n similar de prejuicio en la forma en que algunos usuarios interactuaban con asistentes virtuales como Siri o Cortana. Cuando los ingenieros de Microsoft revelaron que programaron a Cortana para rechazar con firmeza las consultas o avances sexuales, hubo una gran indignaci\u00f3n en Reddit. Una publicaci\u00f3n altamente votada dec\u00eda: \u201c\u00a1\u00bfEstas jodidas personas hablan en serio?! \u00a1Todo su prop\u00f3sito es hacer lo que la gente le diga! Oye, perra, agrega esto a mi calendario\u2026 El d\u00eda que Cortana se convierta en una ‘mujer independiente’ es el d\u00eda en que el software se vuelve jodidamente in\u00fatil\u201d. Las cr\u00edticas a tal comportamiento florecieron, incluso por parte de su humilde corresponsal.<\/p>\n Ahora, en medio del retroceso contra ChatGPT y sus similares, el p\u00e9ndulo ha retrocedido con fuerza, y se nos advierte contra<\/em> empatizando con estas cosas. Es un punto que plante\u00e9 a ra\u00edz del fiasco de LaMDA AI el a\u00f1o pasado: un bot no necesita ser inteligente para que podamos antropomorfizarlo, y ese hecho ser\u00e1 explotado por los especuladores. Mantengo esa advertencia. Pero algunos han ido m\u00e1s all\u00e1 al sugerir que las cr\u00edticas anteriores a las personas que abusaron de sus asistentes virtuales son habilitaciones ingenuas en retrospectiva. \u00a1Quiz\u00e1s los hombres que repetidamente llamaron a Cortana \u00abperra\u00bb estaban en algo!<\/p>\n Puede que te sorprenda saber que este no es el caso. Las cr\u00edticas anteriores al abuso de la IA no solo fueron correctas, sino que anticiparon el panorama digital m\u00e1s peligroso al que nos enfrentamos ahora. La verdadera raz\u00f3n por la que la cr\u00edtica ha cambiado de \u00ablas personas son demasiado malas con los bots\u00bb a \u00ablas personas son demasiado amables con ellos\u00bb es que la econom\u00eda pol\u00edtica de la IA ha cambiado repentina y dr\u00e1sticamente, y junto con ella, los argumentos de venta de las empresas tecnol\u00f3gicas. Donde una vez nos vendieron los bots como el sirviente perfecto, ahora nos los vender\u00e1n como nuestro mejor amigo. Pero en cada caso, la respuesta patol\u00f3gica a cada generaci\u00f3n de bots ha requerido impl\u00edcitamente que los humanicemos. Los due\u00f1os del bot siempre han armado nuestros peores y mejores impulsos.<\/p>\n Una verdad contraria a la intuici\u00f3n sobre la violencia es que, aunque deshumaniza, en realidad requiere que el perpetrador te vea como humano. Es una realidad sombr\u00eda, pero todos, desde los criminales de guerra hasta los asquerosos en el pub, hasta cierto punto, se est\u00e1n volviendo locos con la idea de que sus v\u00edctimas sienten dolor. La deshumanizaci\u00f3n no es la incapacidad de ver a alguien como humano, sino el deseo de ver a alguien como menos que humano y actuar en consecuencia. As\u00ed, en cierto nivel, era precisamente el grado en que las personas confund\u00edan a sus asistentes virtuales con seres humanos reales lo que les animaba a abusar de ellos. De lo contrario, no ser\u00eda divertido. Eso nos lleva al momento presente.<\/p>\n la generacion anterior<\/span> de IA se nos vendi\u00f3 como sirvientes perfectos: un PA sofisticado o tal vez la computadora Starship Enterprise de Majel Barrett. Cedente, omnisciente, siempre listo para servir. Los nuevos motores de b\u00fasqueda de chatbots tambi\u00e9n tienen algunas de las mismas asociaciones, pero a medida que evolucionan, tambi\u00e9n se nos vender\u00e1n como nuestros nuevos confidentes, incluso nuestros nuevos terapeutas. <\/p>\n<\/div>\n