Google ha lanzado una actualización de su Google Home Assistant para evitar que la IA diga la palabra n en voz alta. Anteriormente, se grabó al asistente de voz recitando el insulto racial sin censura cuando se le pidió que tocara canciones con la palabra en el título.
Específicamente, un vídeo de Tik Tok publicado el martes por el usuario @ohgustie, cuyo nombre de pila es Shay, demostró que un altavoz Home Mini censuraba las palabras «mierda» y «fuckin» usando un pitido y recitando «f-astersik-kn» cuando las palabrotas estaban presentes en Doja Cat y títulos de canciones de A$AP Rocky. Sin embargo, cuando se le pidió que reprodujera la canción de Kanye y JAY-Z «Ni**as in Paris», el dispositivo dijo la palabra completa y sin censura en voz alta. Repitió el mismo insulto dos veces cuando se le pidió que tocara otra canción de JAY-Z, «Ni**a What, Ni**a Who».
“¿Así que ‘mierda’ es una mala palabra para Google? Está bien”, dice Shay en el video. Después de que la IA pronuncia cada sílaba del título de la canción de JAY-Z, agrega con una mueca: “Alguien venga a buscar a esta mujer. ¡Que alguien venga a buscar a esta mujer blanca a mi casa diciendo ‘ni**a’!”.
Shay le dijo a Gizmodo en una llamada telefónica que le parecía que no había nadie en Google para “mirar a su alrededor y decir: ‘Oye, tal vez deberíamos detenernos y discutir esto’. Las personas que se parecen a mí simplemente no están en esos espacios, y eso es un problema”.
Gizmodo se acercó a Google y le pidió a la compañía que explicara qué determina la censura del idioma de Homes y por qué algunos improperios parecían estar censurados mientras que otros, posiblemente mucho más ofensivos, no lo estaban. La compañía no respondió directamente a esas preguntas.
Sin embargo, un portavoz de Google se disculpó por el problema y dijo que la empresa ya había solucionado el problema.
“Lamentamos profundamente el dolor causado por el uso de esta palabra por parte de Assistant. Todos los días trabajamos para crear un Asistente para todos, uno que sea representativo de todos nuestros usuarios. Implementamos una actualización inmediata y seguimos comprometidos a brindar a los usuarios una experiencia que sea inclusiva y segura”, dijo un portavoz de Google.
A lo que Gizmodo responde: Claro. El Asistente de Google y los dispositivos domésticos han existido de una forma u otra desde 2016y Google emplea a más de 100.000 personas.
Shay inicialmente descubrió la inquietante peculiaridad de Google por accidente. “No estaba pensando, ‘Voy a hacer que Google sea bueno para esto’”, dijo. En cambio, hace unos años, había notado que su dispositivo de Google recitaba la palabra n censurada con asteriscos. Más recientemente, observó que se censuró una palabrota diferente con un pitido, por lo que volvió a probar una canción con la palabra N en el título, para ver si ahora se emitía un pitido.
En lugar de una versión con pitidos o la versión antigua y familiar de «asterisco», Google Home Mini recitó el insulto completo sin censura, y ella estaba un poco sorprendida. “Tenía la impresión de que no me iba a decir eso”, dijo, haciendo referencia a su dispositivo. En respuesta, Shay decidió grabar y publicar dos videos, uno original y un dúo de TikTok, que documentan el problema del altavoz inteligente.
“Mucha gente lo encuentra gracioso, y es bastante divertido, pero muchas otras personas estaban bastante molestas”, dijo. Y, aunque Shay encontró entretenido el problema inicial, algunos de los comentarios y respuestas posteriores definitivamente no lo fueron. “Muchas personas estaban bastante molestas conmigo por hacer que fuera un gran problema, y yo no lo estaba”, dijo, explicando que solo estaba señalando algo que encontró extraño.
Luego, hubo otros comentaristas que trataron de desviar la culpa de Google de manera preventiva, o expresaron que no creían que la palabra N necesitara censura. “Mucha gente blanca salió y se expuso”, en los comentarios, observó Shay.
Pero, al menos en el altavoz de Shay, el problema inmediato parece estar resuelto. BAntes de colgar, el TikToker se acercó a su dispositivo de Google y le pidió que reprodujera la canción de Kanye y JAY-Z de nuevo. El Asistente dijo su clásico «Ok, jugando…» Esta vez, sin embargo, hubo un pitido claro sobre el insulto racial. Ambos soltamos un pequeño jadeo involuntario, asombrados de que cualquier alteración se hubiera instituido tan rápidamente.
“El hecho de que lo cambiaron, eso es genial”, dijo Shay. “Pero sigue siendo sorprendente que haya sido un problema”.