En 2019, Herndon liberado PROTO, una colaboración con una IA creada por Herndon y su grupo habitual de colaboradores, incluido su socio Mat Dryhurst. Lo llamaron Spawn y lo vieron como un «niño de IA que estábamos entrenando con datos de la granja a la mesa», dice Herndon. «Estábamos pensando, ‘¿Qué le daríamos de comer a nuestro bebé?'». Herndon y su equipo comenzaron a usar el verbo desove “para describir la capacidad de generar medios basados en un conjunto de entrenamiento”. Ahora Spawning es una organización enfocada en crear una «capa de consentimiento» para datos de entrenamiento. Está detrás de HaveIBeenTrained.com, que de manera seductora le permite buscar miles de millones de imágenes para ver si sus datos se han utilizado en modelos de arte de IA.
“Existe la idea de que ‘todo es de código abierto’ es bueno”, dice Herndon. “Eso es más complicado cuando puedes crear un trabajo generativo infinito a semejanza de otra persona. Tenemos que asegurarnos de que no haya un desequilibrio de poder insano en el que quien tenga la computadora más potente pueda dominarlo todo”.
A partir de sus experiencias de comunicación y colaboración con empresas de inteligencia artificial como Stability y LAION, Herndon se ha mostrado optimista. “A menudo se enfrenta como si fuéramos nosotros contra”—susurra—“estas compañías malvadas.” Pero Herndon cree que “quieren que se resuelva este problema. Quieren tener conjuntos de entrenamiento consensuados. Es algo muy difícil cuando no hay forma de optar por participar o no. Es por eso que nos estamos enfocando en herramientas para que los artistas puedan participar de manera consensuada en este ecosistema”.
Para Herndon, Holly+ es una excelente manera de «recalcar lo personal que puede ser» que lo usen en un conjunto de entrenamiento. “La única IP con la que realmente me siento cómodo jugando hasta ese punto es la mía”.
es interesante para contrasta el DIY AI Holly+ con algo como FN Meka, un músico virtual creado por el sello principal Capitol Music Group y anunciado como un rapero de IA. En su apogeo, según la BBC, FN Meka obtuvo «más de 500,000 suscriptores mensuales de Spotify y más de mil millones de visitas en su cuenta de TikTok».
A medida que FN Meka se hizo más prominente, creció una reacción violenta. El grupo Industry Blackout, que impulsa reformas en la industria de la música, escribió una carta abierta llamando a FN Meka una «fusión de estereotipos groseros, gestos apropiados que se derivan de los artistas negros, completos con insultos infundidos en las letras». Agregaron: “Si bien aplaudimos la innovación que conecta a los oyentes con la música y mejora la experiencia”, el proyecto FN Meka fue “un insulto directo a la comunidad negra y nuestra cultura”.
Este verano, Capitol canceló FN Meka y escribió una declaración ofreciendo sus “más profundas disculpas a la comunidad negra por nuestra insensibilidad”. En un artículo de opinión para VariedadIndustry Blackout dejó en claro que la debacle de FN Meka, aunque extraña, en realidad no era nada nuevo: “En algún momento, cada persona que trabaja en la industria de la música tiene que lidiar con el hecho de que no es tan distante. pasado tiene sus raíces en el racismo y la explotación financiera”.
Lo que subraya el punto de Herndon. Son los artistas, no las empresas, los que deberían dictar el uso futuro de la IA en la música. Pero por mucho que Herndon espere que Holly+ aliente a los músicos a aprender cómo maniobrar mejor en el futuro venidero, finalmente lo ve como un ambicioso proyecto creativo. “Me encanta el procesamiento digital. Me encanta el procesamiento vocal”, dice. «Y para mí, es un sueño total hecho realidad tener esta extraña voz incorpórea que puedo hacer gimnasia vocal loca que nunca sería capaz de hacer».
O que alguien más pueda utilizarlo, de la forma que elija, con su bendición, por supuesto. Todo es tan alucinante para Herndon. «Alguien puede, literalmente, ser tú», dice ella. «Si quieres que lo sean».