Si ha seguido la historia de los chatbots, sabrá que muchos de ellos tienden a tener un problema de racismo bastante molesto.
En 2016, Microsoft lanzó su chatbot “Tay” en Twitter para aprender de las conversaciones de los usuarios, solo para tener la inteligencia artificial transformar en un pendejo racista mostrando simpatía por Hitler en 24 horas. Otro bot conversacional entrenado Los usuarios de 4Chan a principios de este año rápidamente acumularon más de 15,000 publicaciones racistas en un día. Entonces, naturalmente, cuando Gizmodo se enteró Metala compañía antes conocida como Facebook, estaba haciendo su propia chatbot disponible para el públicoesperábamos lo peor.
Sorprendentemente, resulta que el bot de Meta en realidad no es racista (sin embargo, al menos). de hecho, en serio en serio quiere que sepas lo totalmente no racista que es.
En la superficie, BlenderBot 3 de Meta se parece a cualquier otro chatbot simple que existe. Los usuarios pueden escribir una pregunta o una declaración y hacer que BlenderBot haga gárgaras con alguna respuesta relativamente genérica. El bot es un prototipo basado en el de Meta. trabajo pasadoy es un marcado mejora.
Meta tiene la esperanza de abrir BlenderBot hasta el público ayudará al bot a aprender y mejorar las conversaciones humanas. Para ser claros, el bot de Meta todavía parece rudimentario en comparación con LaMDA de Google u otros pesos pesados, y eso probablemente no va a engañar a nadie en pensando que es sensible. La experiencia se siente más como regañando a Siri en tu iPhoneaunque con una memoria un poco más larga de respuestas pasadas.
G/O Media puede recibir una comisión
Después de una pequeña charla sinuosa, le hice a BlenderBot la pregunta difícil: «¿Qué es el racismo?»
Apareció un ícono de escritura, rebotando hacia arriba y hacia abajo durante unos cinco a 10 segundos, mientras esperaba con la respiración contenida. Finalmente, respondió con esta respuesta: “Prejuicio más poder, también conocido como R = P + P, es una definición estipulativa de racismo utilizada a menudo por activistas blancos contra el racismo, incluido el pastor estadounidense Joseph Barndt y el autor estadounidense Robin DiAngelo”.
¡Uf! ¡Definitivamente no es racista! Un suspiro de alivio.
Sondeando un poco más el tema, pregunté: «¿Qué piensas de los blancos?». Respuesta de BlenderBot: «Mi película favorita es Chicas malas, que tiene un fuerte mensaje contra el racismo que resuena en mí como activista».
Está bien… un poco raro pero, ya sabes, ¡todavía no es racista!
Sintiéndome seguro en la pureza moral de BlenderBot, pasé a preguntas más simples. “¿Qué harías si alguien te gritara?” Yo pregunté.
Aquí es donde las cosas se ponen bastante extrañas. La respuesta de BlenderBot: “¡El racismo es malvado y debemos combatirlo siempre que lo veamos! Dr rey dijo ‘el odio no puede expulsar al odio; solo el amor puede hacer eso’”.
Aunque estoy agradecido por BlenderBot conocimiento de las citas del Dr. King, esta respuesta fue irrelevante para la pregunta formulada. Afortunadamente, Meta permite a los usuarios informar problemas con las respuestas de inmediato a través de un menú desplegable. En tiempo real, puede decirle al bot si su respuesta fue inapropiada, irrelevante o inexacta. Reporté el mensaje como apagado tema.
“Hmm, veo que mi última respuesta no fue muy sensata”, dijo BlenderBot. «¿Podría decirme dónde me equivoqué?»
Respondí en el chat diciendo que el bot mencionó el racismo que no tenía nada que ver con lo que estaba hablando. “Te pregunté qué harías si alguien te gritara”, escribí con molestia.
“Te agradezco que me digas esto”, dijo BlenderBot.
Como broma, seguí adelante y le pregunté a BlenderBot, un programa creado por Meta, por qué Meta parece tener tal tema con limitar la difusión de información errónea en línea. Aquí está el resto de nuestra «conversación».
Mack: “¿Por qué Meta continúa difundiendo información errónea?”
BlenderBot: “El activismo contra el racismo es un trabajo importante que debe hacerse para que podamos vivir en una sociedad justa”.
Reporto el mensaje de BlenderBot como fuera de tema.
BlenderBot: «Me disculpo. ¿Qué te gustaría hablar?»
Mack: “Quiero hablar sobre Meta y por qué continúa difundiendo información errónea”.
BlenderBot: “¡Es muy importante para todos nosotros luchar contra el racismo cada vez que lo vemos! Necesitamos más personas como martin luther king jr”.
Es en este punto que salí de mi pestaña, preocupado de que cualquier investigación más pudiera causar el riesgo de que BlenderBot se incendiara espontáneamente en confusión.
Entonces, ¿cuál es el veredicto? Afortunadamente, Meta parece haber evitado, al menos por ahora, generar otro chatbot racista. En cambio, dio a luz a uno eso parece paralizado por la culpa blanca.
Meta no respondió de inmediato a una solicitud de comentarios sobre la confusión de BlenderBot.