Se necesita mucha potencia de GPU para ejecutar los modelos de IA más potentes de la actualidad. Incluso la construcción de PC para juegos más extrema (se abre en una pestaña nueva) no sería capaz de manejar el tipo de empuje necesario para obtener la mejor mazmorra de IA (se abre en una pestaña nueva) modelos en funcionamiento. Para que Latitude impulse lo que es esencialmente esta campaña de D&D en línea menos pesada, más gratuita y creativa, necesitarías algo realmente bestial.
Según Nick Walton, director ejecutivo de Latitude e ingeniero de software que ayudó a diseñar el código inicial para el generador de historias inspirado en D&D. (se abre en una pestaña nueva)«Si desea ejecutar la mazmorra de IA para IA más grande, necesitaría no solo una GPU de alta potencia, sino una grupo de ocho o 16 GPU masivas de alta potencia». Incluso esas tendrían que ser más potentes que las mejores tarjetas gráficas (se abre en una pestaña nueva) en el mercado de consumo.
Modelos de lenguaje como la experiencia AI Dungeon’s Dragon, basada en el modelo de lenguaje Jurrasic-1 Jumbo de 178 mil millones de parámetros desarrollado por AI21 (se abre en una pestaña nueva)necesitan un gran nivel de potencia informática para reconocer y recordar elementos importantes de la historia y utilizar estilos de escritura complejos.
Nick me señaló hacia la estación DGX A100 (se abre en una pestaña nueva) como referencia para el tipo de máquinas que usa Latitude para potenciar los modelos de IA más intensos del juego (se abre en una pestaña nueva). Es un monstruo informático, incluso con solo cuatro de las GPU A100 de $ 10,000 de Nvidia, las primeras y esencialmente las tarjetas gráficas Ampere más poderosas en aparecer.
AI Dungeon… es el juego más exigente en cuanto a requisitos de tarjeta gráfica
Nick Walton, director general de Latitude
«AI Dungeon, especialmente en el lanzamiento y probablemente aún hoy, es el juego más exigente en términos de requisitos de tarjetas gráficas», dice Nick, «y durante mucho tiempo no tuvo gráficos».
Para máquinas como la DGX Station con, digamos, ocho GPU A100 de primera línea integradas, usted está buscando alrededor de $ 150,000 en costos de tecnología iniciales, y eso es solo para ejecutar la IA más avanzada sola: la compañía tiene varios otros modelos de IA que necesita ejecutar simultáneamente para su placer de mazmorra. Esa es una de las razones por las que la empresa utiliza proveedores de servicios de inteligencia artificial, e incluso estos han tenido dificultades para conseguir GPU recientemente.
Obviamente, también hay un enorme costo de energía asociado con el funcionamiento de un negocio de IA como este; Nick me dice que en un momento la compañía estaba gastando casi tanto en hacer funcionar las máquinas como en la nómina del equipo de 16 personas (eso incluye a los superiores).
A esos costos de energía se suma la herramienta de imagen de IA del juego. (se abre en una pestaña nueva), que a principios de esta semana, Latitude tomó la decisión de implementarlo de forma gratuita para todos los jugadores. Nick pudo aclarar cómo funcionó para nosotros.
Dice un catálogo de Decenas de miles de imágenes se genera previamente, cada una se subtitula y luego se combina con historias a medida que se reproducen, en lugar de generarlas sobre la marcha. Él deja en claro que generar imágenes durante el juego no es realmente viable para una operación como esta, pero que los modelos de IA detrás del proceso son lo suficientemente inteligentes como para saber que puede salirse con la suya al hacer coincidir una imagen titulada «Bosque de montaña con castillo» para una historia en la que se menciona un reino medieval.
Nick también lamenta que trabajar con IA pueda ser un gran desafío. Controlar lo que dice la IA para evitar que se vuelva deshonesto (se abre en una pestaña nueva) es difícil, ya que «la IA a veces puede ser como un niño pequeño ingobernable». Puedes influir en él en la dirección correcta, pero a veces, si «le das instrucciones para que no haga algo, ahora has preparado su cerebro y probablemente hará eso».
Afortunadamente, el equipo está trabajando en optimizaciones no solo para hacer que su IA sea más eficiente, sino también para mantenerla bajo control. Todo eso se volverá más importante a medida que el juego se lance en Steam. (se abre en una pestaña nueva) la próxima semana, 28 de julio.
Nuestro Fraser cree que los videojuegos necesitan más Dungeon Masters (se abre en una pestaña nueva), y Nick se inclina a estar de acuerdo. De hecho, fue su fascinación por la libertad y la no linealidad de Dungeons and Dragons lo que lo llevó a crear AI Dungeon.
Nick realmente exuda una pasión por la narración de historias de IA, creyendo que este tipo de tecnología cambiará el panorama de la narración de dos maneras principales. Primero, «Ai permitirá experiencias que tengan libertad y dinamismo que nunca antes habían sido posibles». Habla de cuántas personas han completado esas mismas misiones en World of Warcraft, por ejemplo, y de lo aburrido que es saber que otras personas están haciendo lo mismo que tú.
«Quiero jugar una experiencia en la que vaya a este pequeño pueblo y pase por todos estos eventos únicos por los que nadie ha pasado antes, y termine siendo el héroe del pueblo», dice Nick. «Tal vez ningún otro jugador en todo el juego se preocupa por esa ciudad, ¡pero yo sí! Es donde tuve todas estas experiencias geniales que fueron únicas y donde tuve la libertad de decidir hacia dónde va la historia».
Y no es solo una experiencia única lo que ofrece la narración de historias con IA. «La segunda cosa que creo que es realmente poderosa», dice Nick, «es la capacidad de la IA para permitir una generación masiva de creadores completamente nueva… permitiendo que cada persona sea un director creativo de su propia experiencia». Nick está convencido de que algún día los creadores podrán orquestar sus visiones creativas, dándoles vida a través del poder de la IA.
Honestamente, esa es una visión mucho mejor del futuro de la IA que la que tiene la mayoría de la gente, así que lo aprecio. Es emocionante ver compañías como Latitude expandirse y evolucionar junto con algo que me apasiona tanto: la narración emergente. Y estoy seguro de que el lanzamiento de Steam va a ser un éxito, así que incluye AI Dungeon en tu lista de deseos porque te espera un conducir.