nada, para siempre<\/em>un motor impulsado por IA Seinfeld<\/em> programa de parodia en Twitch, se estaba convirtiendo r\u00e1pidamente en la pr\u00f3xima gran cosa en la plataforma. Durante la transmisi\u00f3n permanente, un elenco de Seinfeld<\/em>-Los personajes adyacentes ten\u00edan conversaciones desconcertantes, hac\u00edan bromas extra\u00f1as y se mov\u00edan a trav\u00e9s de un mundo de gr\u00e1ficos toscos y en bloque, todo respaldado por una pista de risa y dirigido por IA.<\/p>\n<\/div>\n pero entonces fue suspendido por dos semanas<\/a> despu\u00e9s de que el personaje al estilo de Jerry Seinfeld hiciera comentarios transf\u00f3bicos. Esa suspensi\u00f3n se levantar\u00e1 el lunes, y aunque sus creadores en Mismatch Media han estado trabajando para asegurarse de que los comentarios transf\u00f3bicos no vuelvan a ocurrir, no pueden garantizarlo.<\/p>\n<\/div>\n Los comentarios transf\u00f3bicos ocurrieron despu\u00e9s de que Mismatch cambiara los modelos de IA que sustentan la transmisi\u00f3n. \u201cComenzamos a tener una interrupci\u00f3n utilizando el modelo GPT-3 Davinci de OpenAI, lo que provoc\u00f3 que el programa exhibiera comportamientos errantes\u201d, seg\u00fan un anuncio en el nada, para siempre<\/em> Discordia. \u201cOpenAI tiene un modelo menos sofisticado, Curie, que fue el predecesor de Davinci. Cuando Davinci comenz\u00f3 a fallar, cambiamos a Curie para intentar que el espect\u00e1culo siguiera funcionando sin tiempo de inactividad. El cambio a Curie fue lo que result\u00f3 en la generaci\u00f3n de un texto inapropiado\u201d.<\/p>\n<\/div>\n En una publicaci\u00f3n posterior, Mismatch agreg\u00f3 que \u00abcre\u00edamos err\u00f3neamente que est\u00e1bamos aprovechando el sistema de moderaci\u00f3n de contenido de OpenAI para sus modelos de generaci\u00f3n de texto\u00bb y que estar\u00eda trabajando para implementar la API de moderaci\u00f3n de contenido de OpenAI antes de que el programa volviera a funcionar.<\/p>\n<\/div>\n \u201cPor supuesto, con el software, siempre hay variabilidad\u201d<\/p>\n<\/div>\n<\/div>\n Desde entonces, Mismatch ha estado realizando pruebas de estabilidad contra esa implementaci\u00f3n y asegur\u00e1ndose de que no haya falsos negativos, dijo el cofundador de Mismatch, Skyler Hartle, en una entrevista con el borde<\/em>. \u201cHasta ahora, se ve muy bien\u201d, dijo. Pero luego, se evadi\u00f3, diciendo que \u00abpor supuesto, con el software, siempre hay variabilidad\u00bb. Le pregunt\u00e9 a Hartle c\u00f3mo Mismatch se asegura de que funcionen las barandillas. \u201cCreo que en el espacio de la IA generativa y los medios generativos, existe una incertidumbre inherente\u201d.<\/p>\n<\/div>\n Hizo referencia a muchas de las cosas incre\u00edbles que la gente ya ha podido obtener ChatGPT y el nuevo chatbot de Bing AI para decir<\/a>:: \u201cCreo que todos en este espacio deben estar preocupados y pensando en esto\u201d. Mismatch Media est\u00e1 abordando esto al crear un \u00abequipo de corte del consejo de seguridad\u00bb de IA, dijo Hartle, que est\u00e1 tratando de descubrir estrategias de mitigaci\u00f3n para que las medidas de seguridad de IA puedan evolucionar junto con piezas generativas de IA. \u201cCreemos firmemente que es nuestro deber como personas en el espacio generativo hacer esto de la manera m\u00e1s segura posible\u201d.<\/p>\n<\/div>\n Adem\u00e1s de aprovechar la API oficial de moderaci\u00f3n de contenido de OpenAI, Mismatch tambi\u00e9n quiere usar OpenAI para asistir<\/em> en el proceso de moderaci\u00f3n. \u201cEstamos trabajando para crear barandillas que realmente aprovechen OpenAI para pasarles nuestro contenido y hacerles una serie de preguntas e indicaciones\u201d, dijo Hartle. Mismatch es \u201cdescubrir las formas correctas de tener OpenAI y estos grandes modelos de lenguaje ayudan a moderar este proceso. Estos modelos son lo mejor para analizar el lenguaje natural en este momento, por lo que tiene mucho sentido intentar usarlos tambi\u00e9n como un sistema secundario\u201d.<\/p>\n<\/div>\n Hartle no espera el tono de nada, para siempre<\/em> para cambiar con los sistemas adicionales de moderaci\u00f3n de contenido. Eso probablemente significa que continuaremos viendo que el programa sigue creando momentos m\u00e1s extra\u00f1os e irreverentes, pero con suerte esta vez, no hay transfobia.<\/p>\n<\/div>\n Hartle quiere introducir un sistema de interacci\u00f3n con la audiencia<\/p>\n<\/div>\n<\/div>\n Hartle tambi\u00e9n dijo que Mismatch quiere introducir un sistema de interacci\u00f3n con la audiencia que hab\u00eda creado anteriormente pero que decidi\u00f3 no lanzar con nada, para siempre<\/em>. El sistema \u201cpermite a los fan\u00e1ticos interactuar de manera segura con el programa y potencialmente masajear la direcci\u00f3n en la que se dirige el programa mientras conserva su esp\u00edritu generativo\u201d, seg\u00fan Hartle. Mismatch espera lanzar el sistema junto con el levantamiento de la suspensi\u00f3n de Twitch, pero no \u00abquiere prometer nada en este momento\u00bb.<\/p>\n<\/div>\n Personalmente, soy esc\u00e9ptico de una herramienta de interacci\u00f3n con la audiencia en una aplicaci\u00f3n como esta. Si bien podr\u00eda usarse en un gran momento de unidad de Internet como el apogeo de TwitchPlaysPokemon<\/a>me preocupa que se convierta en algo asi como el fiasco de Tay<\/a>. <\/p>\n<\/div>\n M\u00e1s all\u00e1 de nada, para siempre<\/em>, Mismatch Media quiere crear una plataforma para que los creadores hagan sus propios programas. \u201cHay mucho que implica eso, y mucho que estamos averiguando y repitiendo, pero el plan es empoderar, como la pr\u00f3xima generaci\u00f3n de personas para hacer este tipo de cosas\u201d, dijo Hartle. El objetivo es poner en funcionamiento esta plataforma en los pr\u00f3ximos seis a 12 meses. <\/p>\n<\/div>\n Tambi\u00e9n le pregunt\u00e9 a Hartle algo que me hab\u00eda estado preguntando desde que vi el programa por primera vez: \u00bfel plan es realmente hacer que funcione para siempre? \u201cNuestra esperanza es ejecutar el programa durante el mayor tiempo que podamos, siempre que econ\u00f3micamente tenga sentido hacerlo porque es muy costoso\u201d, dijo Hartle. \u201cPero dicho esto, estamos construyendo esto como una plataforma tecnol\u00f3gica. Y queremos hacer m\u00e1s de los espect\u00e1culos. Si tenemos \u00e9xito en eso y somos capaces de construir un negocio a nuestro alrededor, no veo ninguna raz\u00f3n por la cual nada, para siempre<\/em> no deber\u00eda durar tanto tiempo como los fans y la comunidad quieran que funcione\u201d.<\/p>\n<\/div>\n<\/div>\n