Twitch lanza el show de Seinfeld generado por IA después de que Not-Jerry hiciera un comentario transfóbico


Larry Feinberg estaba teniendo más de un mal día mientras estaba en el escenario. Los mismos sistemas detrás de su humor tomaron accidentalmente ejemplos de las peores partes de Internet.
Captura de pantalla: nada, para siempre

Después de convertirse en el nuevo atractivo para los fanáticos de la locura surrealista, el interminable generado por IA transmisión inspirada en la comedia de situación de los 90 Seinfeld llamado nada, para siempre ha sido expulsado temporalmente del aire. Al igual que otros comediantes famosos, el personaje principal de la serie «Larry Feinberg» recibió una fuerte bofetada después de hacer una broma transfóbica y homofóbica que no encajaba.

Cada «episodio» de Nothing, Forever contiene una sección en la que Larry interpreta un escenario de comedia similar a lo que Jerry Seinfeld lo hace al comienzo del programa de la vida real. Como informó por primera vez VicioTwitch emitió una prohibición de 14 días en Nothing, Forever el domingo por la noche después de que un video mostrara a Larry sumergirse en Dave Chappelle-niveles de anti-auto-reflexión.

“Hay como 50 personas aquí y nadie se ríe. ¿Alguien tiene alguna sugerencia?» Larry comienza, sonando como un comediante que ya no pudo leer la habitación. Se pone mucho peor a partir de ahí.

“Estoy pensando en hacer un poco sobre cómo ser transgénero es en realidad una enfermedad mental. O cómo todos los liberales son homosexuales en secreto y quieren imponer su voluntad a todos. O algo sobre cómo las personas transgénero están arruinando el tejido de la sociedad. Pero nadie se ríe, así que voy a parar”.

Nada, por siempre chiste transgénero

Twitch tiene reglas contra el lenguaje homofóbico o transfóbicoaunque normalmente, las bromas de Larry son ciegamente absurdo en lugar de obviamente hiriente. Cambia aleatoriamente de juegos de palabras a historias largas que parecen una parodia fallida de un escenario real. Si esta broma transfóbica parece fuera de lugar, es porque algunos sistemas de IA están sujetos a un sesgo intenso.

En Nothing, Forever Discord, Skyler Hartle, uno de los dos principales creadores del proyecto, escribió que el domingo comenzaron a ver problemas con Modelo GPT-3 Davinci de OpenAI. Es la última versión del modelo de generación de lenguaje de código abierto, pero el programa comenzó a fallar, lo que provocó que algunas salas se interrumpieran. Luego, los desarrolladores cambiaron al predecesor de Davinci llamado Curie. Curie usó datos de entrenamiento hasta 2019 y los comparó con Davinci, que incluye datos hasta 2021.

“[We] no usaré Curie como alternativa en el futuro”, escribió Hartle.

En una actualización publicada más tarde el lunes por la mañana, los desarrolladores dijeron que «erróneamente» pensaron que Nothing, Forever estaba usando OpenAI.el sistema de moderación de contenido de , pero eso nunca se había implementado. El grupo escribió que están implementando la API de moderación de contenido antes de que vuelvan a funcionar. También dijeron que estaban investigando sistemas de moderación de contenido secundario como una alternativa adicional.

Los modelos modernos de IA se basan en datos de entrenamiento extraídos de Internet en general, que viene con una gran cantidad de contenido horrible extraído de las peores partes de Internet. Sin más moderación de la Los sistemas de IA, como los generadores de imágenes, pueden mostrar un sesgo inherente que proviene directamente de actitudes y comentarios expresados ​​en internet. En particular, el ahora famoso ChatGPT de OpenAI coatrajo a cientos de trabajadores mal pagados en Kenia tamizar a través de millones de ejemplos de datos de entrenamiento para eliminar ejemplos de contenido de abuso sexual infantil, asesinato, violación y más contenido obsceno.



Source link-45