Esas preocupaciones son parte de la razón por la que OpenAI dijo en enero que prohibiría a las personas usar su tecnología para crear chatbots que imitaran a candidatos políticos o proporcionaran información falsa relacionada con la votación. La compañía también dijo que no permitiría a las personas crear aplicaciones para campañas políticas o lobby.
Si bien la página del chatbot Kennedy no revela el modelo subyacente que lo impulsa, el código fuente del sitio conecta ese bot con LiveChatAI, una compañía que anuncia su capacidad para proporcionar chatbots de atención al cliente con tecnología GPT-4 y GPT-3.5 a las empresas. El sitio web de LiveChatAI describe sus bots como «aprovechando las capacidades de ChatGPT».
Cuando se le preguntó qué modelo de lenguaje grande impulsa el bot de la campaña de Kennedy, el cofundador de LiveChatAI, Emre Elbeyoglu, dijo en un comunicado enviado por correo electrónico el jueves que la plataforma «utiliza una variedad de tecnologías como Llama y Mistral», además de GPT-3.5 y GPT-4. «No podemos confirmar ni negar los detalles del uso de ningún cliente debido a nuestro compromiso con la confidencialidad del cliente», dijo Elbeyoglu.
El portavoz de OpenAI, Niko Felix, dijo a WIRED el jueves que la compañía «no tenía ninguna indicación» de que el chatbot de la campaña de Kennedy estuviera construyendo directamente sobre sus servicios, pero sugirió que LiveChatAI podría estar usando uno de sus modelos a través de los servicios de Microsoft. Desde 2019, Microsoft ha invertido más de 13 mil millones de dólares en OpenAI. Desde entonces, los modelos ChatGPT de OpenAI se han integrado en el motor de búsqueda Bing de Microsoft y en el Office 365 Copilot de la empresa.
El viernes, un portavoz de Microsoft confirmó que el chatbot Kennedy «aprovecha las capacidades del servicio Microsoft Azure OpenAI». Microsoft dijo que sus clientes no estaban sujetos a los términos de servicio de OpenAI y que el chatbot Kennedy no violaba las políticas de Microsoft.
«Nuestras pruebas limitadas de este chatbot demuestran su capacidad para generar respuestas que reflejen el contexto previsto, con las advertencias apropiadas para ayudar a prevenir información errónea», dijo el portavoz. «Cuando encontramos problemas, nos involucramos con los clientes para comprenderlos y guiarlos hacia usos que sean consistentes con esos principios y, en algunos escenarios, esto podría llevarnos a suspender el acceso de un cliente a nuestra tecnología».
OpenAI no respondió de inmediato a una solicitud de comentarios de WIRED sobre si el bot violó sus reglas. A principios de este año, la compañía bloqueó al desarrollador de Dean.bot, un chatbot construido sobre los modelos de OpenAI que imitaba al candidato presidencial demócrata Dean Phillips y entregaba respuestas a las preguntas de los votantes.
A última hora de la tarde del domingo, el servicio de chatbot ya no estaba disponible. Si bien la página sigue siendo accesible en el sitio de la campaña de Kennedy, la ventana del chatbot integrado ahora muestra un ícono de signo de exclamación rojo y simplemente dice «Chatbot no encontrado». WIRED contactó a Microsoft, OpenAI, LiveChatAI y la campaña Kennedy para comentar sobre la aparente eliminación del chatbot, pero no recibió una respuesta inmediata.
Dada la propensión de los chatbots a alucinar y tener hipo, su uso en contextos políticos ha sido controvertido. Actualmente, OpenAI es el único modelo de lenguaje importante que prohíbe explícitamente su uso en campañas; Meta, Microsoft, Google y Mistral tienen términos de servicio, pero no abordan la política directamente. Y dado que aparentemente una campaña puede acceder a GPT-3.5 y GPT-4 a través de un tercero sin consecuencias, apenas existen limitaciones.
«OpenAI puede decir que no permite el uso electoral de sus herramientas o el uso de sus herramientas en campañas, por un lado», dijo Woolley. “Pero, por otro lado, también hace que estas herramientas estén disponibles de forma bastante gratuita. Dada la naturaleza distribuida de esta tecnología, uno debe preguntarse cómo OpenAI hará cumplir sus propias políticas”.