nada, para siempreun motor impulsado por IA Seinfeld programa de parodia en Twitch, se estaba convirtiendo rápidamente en la próxima gran cosa en la plataforma. Durante la transmisión permanente, un elenco de Seinfeld-Los personajes adyacentes tenían conversaciones desconcertantes, hacían bromas extrañas y se movían a través de un mundo de gráficos toscos y en bloque, todo respaldado por una pista de risa y dirigido por IA.
pero entonces fue suspendido por dos semanas después de que el personaje al estilo de Jerry Seinfeld hiciera comentarios transfóbicos. Esa suspensión se levantará el lunes, y aunque sus creadores en Mismatch Media han estado trabajando para asegurarse de que los comentarios transfóbicos no vuelvan a ocurrir, no pueden garantizarlo.
Los comentarios transfóbicos ocurrieron después de que Mismatch cambiara los modelos de IA que sustentan la transmisión. “Comenzamos a tener una interrupción utilizando el modelo GPT-3 Davinci de OpenAI, lo que provocó que el programa exhibiera comportamientos errantes”, según un anuncio en el nada, para siempre Discordia. “OpenAI tiene un modelo menos sofisticado, Curie, que fue el predecesor de Davinci. Cuando Davinci comenzó a fallar, cambiamos a Curie para intentar que el espectáculo siguiera funcionando sin tiempo de inactividad. El cambio a Curie fue lo que resultó en la generación de un texto inapropiado”.
En una publicación posterior, Mismatch agregó que «creíamos erróneamente que estábamos aprovechando el sistema de moderación de contenido de OpenAI para sus modelos de generación de texto» y que estaría trabajando para implementar la API de moderación de contenido de OpenAI antes de que el programa volviera a funcionar.
“Por supuesto, con el software, siempre hay variabilidad”
Desde entonces, Mismatch ha estado realizando pruebas de estabilidad contra esa implementación y asegurándose de que no haya falsos negativos, dijo el cofundador de Mismatch, Skyler Hartle, en una entrevista con el borde. “Hasta ahora, se ve muy bien”, dijo. Pero luego, se evadió, diciendo que «por supuesto, con el software, siempre hay variabilidad». Le pregunté a Hartle cómo Mismatch se asegura de que funcionen las barandillas. “Creo que en el espacio de la IA generativa y los medios generativos, existe una incertidumbre inherente”.
Hizo referencia a muchas de las cosas increíbles que la gente ya ha podido obtener ChatGPT y el nuevo chatbot de Bing AI para decir:: “Creo que todos en este espacio deben estar preocupados y pensando en esto”. Mismatch Media está abordando esto al crear un «equipo de corte del consejo de seguridad» de IA, dijo Hartle, que está tratando de descubrir estrategias de mitigación para que las medidas de seguridad de IA puedan evolucionar junto con piezas generativas de IA. “Creemos firmemente que es nuestro deber como personas en el espacio generativo hacer esto de la manera más segura posible”.
Además de aprovechar la API oficial de moderación de contenido de OpenAI, Mismatch también quiere usar OpenAI para asistir en el proceso de moderación. “Estamos trabajando para crear barandillas que realmente aprovechen OpenAI para pasarles nuestro contenido y hacerles una serie de preguntas e indicaciones”, dijo Hartle. Mismatch es “descubrir las formas correctas de tener OpenAI y estos grandes modelos de lenguaje ayudan a moderar este proceso. Estos modelos son lo mejor para analizar el lenguaje natural en este momento, por lo que tiene mucho sentido intentar usarlos también como un sistema secundario”.
Hartle no espera el tono de nada, para siempre para cambiar con los sistemas adicionales de moderación de contenido. Eso probablemente significa que continuaremos viendo que el programa sigue creando momentos más extraños e irreverentes, pero con suerte esta vez, no hay transfobia.
Hartle quiere introducir un sistema de interacción con la audiencia
Hartle también dijo que Mismatch quiere introducir un sistema de interacción con la audiencia que había creado anteriormente pero que decidió no lanzar con nada, para siempre. El sistema “permite a los fanáticos interactuar de manera segura con el programa y potencialmente masajear la dirección en la que se dirige el programa mientras conserva su espíritu generativo”, según Hartle. Mismatch espera lanzar el sistema junto con el levantamiento de la suspensión de Twitch, pero no «quiere prometer nada en este momento».
Personalmente, soy escéptico de una herramienta de interacción con la audiencia en una aplicación como esta. Si bien podría usarse en un gran momento de unidad de Internet como el apogeo de TwitchPlaysPokemonme preocupa que se convierta en algo asi como el fiasco de Tay.
Más allá de nada, para siempre, Mismatch Media quiere crear una plataforma para que los creadores hagan sus propios programas. “Hay mucho que implica eso, y mucho que estamos averiguando y repitiendo, pero el plan es empoderar, como la próxima generación de personas para hacer este tipo de cosas”, dijo Hartle. El objetivo es poner en funcionamiento esta plataforma en los próximos seis a 12 meses.
También le pregunté a Hartle algo que me había estado preguntando desde que vi el programa por primera vez: ¿el plan es realmente hacer que funcione para siempre? “Nuestra esperanza es ejecutar el programa durante el mayor tiempo que podamos, siempre que económicamente tenga sentido hacerlo porque es muy costoso”, dijo Hartle. “Pero dicho esto, estamos construyendo esto como una plataforma tecnológica. Y queremos hacer más de los espectáculos. Si tenemos éxito en eso y somos capaces de construir un negocio a nuestro alrededor, no veo ninguna razón por la cual nada, para siempre no debería durar tanto tiempo como los fans y la comunidad quieran que funcione”.