Pero su trabajo comenzó a verse descuidado en solicitudes más específicas. Cuando se le pidió que escribiera un memorando sobre las preferencias de los consumidores en Paraguay en comparación con Uruguay, el sistema describió incorrectamente a Paraguay como menos poblado. Alucinaba, o inventaba, el significado de una canción de una película hindi de la década de 1960 que se interpretaba en mi evento de bienvenida previo a la boda.
Lo más irónico es que, cuando se le preguntó acerca de los beneficios de Duet AI, el sistema describió a Duet AI como una empresa nueva fundada por dos ex empleados de Google para desarrollar inteligencia artificial para la industria de la música con más de $10 millones en fondos de inversionistas como Andreessen Horowitz y Y Combinator. Parece que no existe tal empresa. Google alienta a los usuarios a informar imprecisiones a través de un botón de pulgar hacia abajo debajo de las respuestas generadas por IA.
Behr dice que Google analiza temas, palabras clave y otras pistas de contenido para evitar respuestas que sean ofensivas o que afecten injustamente a las personas, especialmente en función de su demografía o sus creencias políticas o religiosas. Reconoció que el sistema comete errores, pero dijo que los comentarios de las pruebas públicas son vitales para contrarrestar la tendencia de los sistemas de IA a reflejar los sesgos observados en sus datos de entrenamiento o transmitir información inventada. “La IA va a ser un proyecto para siempre”, dice ella.
Aún así, Behr dice que los primeros usuarios, como los empleados de Instacart y la marca de ropa interior Adore Me de Victoria’s Secret, se han mostrado positivos con respecto a la tecnología. La portavoz de Instacart, Lauren Svensson, dice, en un correo electrónico escrito a mano, que la empresa está emocionada por probar las funciones de inteligencia artificial de Google, pero que no está lista para compartir ninguna información.
Mis pruebas me dejaron preocupado de que las ayudas de escritura de IA pudieran extinguir la originalidad, en detrimento de los humanos en el extremo receptor del texto elaborado por IA. Me imagino a los lectores contemplando correos electrónicos y documentos obsoletos como lo harían si se les obligara a leer la política de privacidad de casi 6.000 palabras de Google. No está claro cuánta personalidad individual pueden absorber las herramientas de Google y si vendrán a ayudarnos o reemplazarnos.
Behr dice que en las pruebas internas de Google, los correos electrónicos de colegas no se han vuelto «vainilla» o «genéricos» hasta el momento. Las herramientas han impulsado el ingenio y la creatividad humanos, no los han suprimido, dice ella. A Behr también le encantaría un modelo de IA que imite su estilo, pero dice que «esos son los tipos de cosas que todavía estamos evaluando».
A pesar de sus decepciones y limitaciones, es probable que las funciones de Duet en Docs y Gmail atraigan a algunos usuarios que comenzaron a confiar en ChatGPT o en el software de escritura de inteligencia artificial rival. Google va más allá de lo que la mayoría de las otras opciones pueden igualar, y lo que estamos viendo hoy es solo una vista previa de lo que está por venir.
Cuando, o si, Duet pasa de ser un redactor prometedor a un finalizador de documentos experto e imparcial, su uso será imparable. Hasta entonces, cuando se trata de escribir esos votos y discursos sinceros, esa es una pantalla en blanco que me queda completamente a mí.