Investigadores de la Universidad de Stanford han eliminado su chatbot de corta duración que aprovechó LLaMA AI de Meta, apodado Alpaca AI. Los investigadores lanzó Alpaca con una demostración pública que cualquiera podía probar la semana pasada, pero rápidamente desconectó el modelo gracias al aumento de los costos, las preocupaciones de seguridad y las «alucinaciones», que es la palabra de la comunidad de IA. se ha decidido por cuando un chatbot declara con confianza información errónea, imaginando un hecho que no existe.
Junto con una demostración interactiva, el instituto de inteligencia artificial centrada en el ser humano de Stanford también publicó los datos de entrenamiento de Alpaca, el código para su proceso de generación de datos y el código de entrenamiento utilizado para ajustar el modelo. de acuerdo a el registro.
en un presione soltar anunciando la inicial liberarse de Alpaca , el autor principal Rohan Taori, estudiante de doctorado en informática en Stanford, reconoció que una prueba pública tiene riesgos. “La implementación de una demostración interactiva para Alpaca también presenta riesgos potenciales, como una difusión más amplia de contenido dañino y la reducción de la barrera para el correo no deseado, el fraude o la desinformación”, dijeron los investigadores. taori dijo el equipo implementó un filtro de contenido y un sistema de marca de agua que podía identificar las palabras de Alpaca para mitigar esos riesgos.
No se sabe exactamente qué salió mal. “El objetivo original de lanzar una demostración era difundir nuestra investigación de una manera accesible. Sentimos que en su mayoría hemos logrado este objetivo, y dados los costos de hospedaje y las deficiencias de nuestros filtros de contenido, decidimos cancelar la demostración”, un portavoz del departamento le dijo al Registro. Instituto de inteligencia artificial centrada en el ser humano de Stanford no respondió de inmediato a una solicitud de comentarios.
A pesar de sus aparentes fallas, Alpaca tiene algunas facetas emocionantes que hacen que el proyecto de investigación sea interesante. Sus bajos costos iniciales son particularmente notables. Los investigadores gastaron solo $ 600 para que funcionara y, según se informa, ejecutaron la IA utilizando máquinas de bajo consumo., incluidas las computadoras Raspberry Pi e incluso un teléfono inteligente Pixel 6, en contraste con las supercomputadoras multimillonarias de Microsoft.
Ya no puede acceder a una copia de trabajo de Alpaca, pero el código y los datos subyacentes aún están disponibles. GitHub.
“Alentamos a los usuarios a que nos ayuden a identificar nuevos tipos de fallas marcándolas en la demostración web”, dijeron los investigadores en el comunicado de prensa. “En general, esperamos que el lanzamiento de Alpaca pueda facilitar una mayor investigación sobre los modelos de seguimiento de instrucciones y su alineación con los valores humanos”.
¿Quiere saber más sobre la IA, los chatbots y el futuro del aprendizaje automático? Consulte nuestra cobertura completa de inteligencia artificialo explore nuestras guías para Los mejores generadores de arte de IA gratuitos y Todo lo que sabemos sobre ChatGPT de OpenAI.