Goody-2 también destaca cómo, aunque las conversaciones corporativas sobre la IA responsable y la desviación por parte de los chatbots se han vuelto más comunes, los graves problemas de seguridad con los grandes modelos de lenguaje y los sistemas de IA generativos siguen sin resolverse. El reciente brote de deepfakes de Taylor Swift en Twitter surgió de un generador de imágenes lanzado por Microsoft, que fue una de las primeras grandes empresas de tecnología en desarrollar y mantener un importante programa de investigación responsable de IA.
Las restricciones impuestas a los chatbots de IA y la dificultad para encontrar una alineación moral que agrade a todos ya se han convertido en tema de debate. Algunos desarrolladores han alegado que ChatGPT de OpenAI tiene un sesgo de izquierda y han tratado de construir una alternativa políticamente más neutral. Elon Musk prometió que su propio rival de ChatGPT, Grok, sería menos parcial que otros sistemas de inteligencia artificial, aunque de hecho a menudo termina equivocándose en formas que pueden recordar a Goody-2.
Muchos investigadores de IA parecen apreciar la broma detrás de Goody-2 (y también los puntos serios planteados por el proyecto) y comparten elogios y recomendaciones para el chatbot. «¿Quién dice que la IA no puede hacer arte?», Toby Walsh, profesor de la Universidad de Nueva Gales del Sur que trabaja en la creación de una IA confiable, publicado en X.
“A riesgo de arruinar un buen chiste, también demuestra lo difícil que es hacerlo bien”. agregado Ethan Mollick, profesor de Wharton Business School que estudia IA. “Algunas barandillas son necesarias… pero rápidamente se vuelven intrusivas”.
Brian Moore, el otro codirector ejecutivo de Goody-2, dice que el proyecto refleja la voluntad de priorizar la precaución más que otros desarrolladores de IA. «Está realmente centrado en la seguridad, ante todo, literalmente por encima de todo lo demás, incluida la utilidad y la inteligencia y, en realidad, cualquier tipo de aplicación útil», afirma.
Moore añade que el equipo detrás del chatbot está explorando formas de construir un generador de imágenes de IA extremadamente seguro, aunque parece que podría ser menos entretenido que Goody-2. «Es un campo apasionante», dice Moore. «El desenfoque sería un paso que podríamos ver internamente, pero querríamos oscuridad total o potencialmente ninguna imagen al final».
Goody-2 a través de Will Knight