Blake Lemoine, un ingeniero que pasó los últimos siete años en Google, fue despedido, informa Alex Kantrowitz del boletín Big Technology. Supuestamente, la noticia la dio el propio Lemoine durante una grabación del podcast del mismo nombre, aunque el episodio aún no es público. Google confirmó el despido a Engadget.
Lemoine, quien más recientemente formó parte del proyecto de inteligencia artificial responsable de Google, acudió al Washington Post el mes pasado con afirmaciones de que uno de los proyectos de inteligencia artificial de la compañía supuestamente había ganado sensibilidad. La IA en cuestión, LaMDA, abreviatura de Language Model for Dialogue Applications, fue presentada públicamente por Google el año pasado como un medio para que las computadoras imiten mejor una conversación abierta. Lemoine parece no solo haber creído que LaMDA alcanzó la sensibilidad, sino que estaba cuestionando abiertamente si poseía un alma. Y en caso de que haya alguna duda de que sus puntos de vista se expresan sin hipérboles, le dijo a Wired: «Creo legítimamente que LaMDA es una persona».
Después de hacer estas declaraciones a la prensa, aparentemente sin autorización de su empleador, Lemoine fue puesto en licencia administrativa pagada. Google, tanto en declaraciones al Washington Post entonces como desde entonces, ha afirmado firmemente que su IA no es consciente de ninguna manera.
Varios miembros de la comunidad de investigación de IA también se pronunciaron en contra de las afirmaciones de Lemoine. Margaret Mitchell, quien fue despedida de Google después de denunciar la falta de diversidad dentro de la organización, escribió en Gorjeo que los sistemas como LaMDA no desarrollan la intención, sino que están «modelando cómo las personas expresan la intención comunicativa en forma de cadenas de texto». Con menos tacto, Gary Marcus se refirió a las afirmaciones de Lemoine como «tonterías sobre pilotes».
Cuando se le solicitó un comentario, Google compartió la siguiente declaración con Engadget:
Al compartir nuestros Principios de IA, nos tomamos muy en serio el desarrollo de la IA y seguimos comprometidos con la innovación responsable. LaMDA ha pasado por 11 revisiones distintas y publicamos un artículo de investigación a principios de este año que detalla el trabajo que se dedica a su desarrollo responsable. Si un empleado comparte inquietudes sobre nuestro trabajo, como lo hizo Blake, las revisamos exhaustivamente. Encontramos que las afirmaciones de Blake de que LaMDA es sensible son totalmente infundadas y trabajamos para aclarar eso con él durante muchos meses. Estas discusiones fueron parte de la cultura abierta que nos ayuda a innovar responsablemente. Por lo tanto, es lamentable que, a pesar de un compromiso prolongado con este tema, Blake aún opte por violar de manera persistente políticas claras de empleo y seguridad de datos que incluyen la necesidad de salvaguardar la información del producto. Continuaremos nuestro cuidadoso desarrollo de modelos de lenguaje y le deseamos lo mejor a Blake.
Todos los productos recomendados por Engadget son seleccionados por nuestro equipo editorial, independiente de nuestra empresa matriz. Algunas de nuestras historias incluyen enlaces de afiliados. Si compra algo a través de uno de estos enlaces, podemos ganar una comisión de afiliado.