\n<\/p>\n
Twitch ha prohibido \u00abNothing, Forever\u00bb, la transmisi\u00f3n de Seinfeld generada por IA, durante al menos 14 d\u00edas luego de un arrebato transf\u00f3bico y homof\u00f3bico. Es el \u00faltimo ejemplo de \u00abodio adentro, odio afuera\u00bb cuando los chatbots de IA est\u00e1n entrenados en contenido ofensivo sin la moderaci\u00f3n adecuada.<\/p>\n
Como Seinfeld<\/em>, \u00abNothing, Forever\u00bb alterna entre fragmentos de comedia y escenas en el apartamento del comediante (se llama \u00abLarry Feinberg\u00bb en la versi\u00f3n de IA). Como inform\u00f3 por primera vez Vicio<\/em>, durante uno de los actos de standup recientes con gui\u00f3n de IA, la contraparte de Seinfeld sugiri\u00f3 que ser transg\u00e9nero es una enfermedad mental. En lo que casi parec\u00eda ser consciente de lo ofensivo del material, el comediante de IA agreg\u00f3 r\u00e1pidamente: \u201cPero nadie se r\u00ede, as\u00ed que me detendr\u00e9. Gracias por venir esta noche. Nos vemos la pr\u00f3xima vez. \u00bfAd\u00f3nde fueron todos? <\/p>\n <\/p>\n Aunque Twitch no ha confirmado que la \u00abbroma\u00bb fuera el motivo de la prohibici\u00f3n, la transmisi\u00f3n se elimin\u00f3 poco despu\u00e9s de que se emitiera el segmento problem\u00e1tico. Los creadores del programa culpan de la diatriba hiriente a un cambio de modelo que, sin darse cuenta, dej\u00f3 la transmisi\u00f3n sin herramientas de moderaci\u00f3n.<\/p>\n \u201cEsta noche, comenzamos a tener una interrupci\u00f3n en el uso del modelo GPT-3 Davinci de OpenAI, lo que provoc\u00f3 que el programa exhibiera comportamientos err\u00e1ticos (es posible que haya visto salas vac\u00edas cicl\u00e1ndose)\u201d, escribi\u00f3 un miembro del personal en Discord. \u201cOpenAI tiene un modelo menos sofisticado, Curie, que fue el predecesor de Davinci. Cuando davinci comenz\u00f3 a fallar, cambiamos a Curie para tratar de mantener el programa funcionando sin ning\u00fan tiempo de inactividad. El cambio a Curie fue lo que result\u00f3 en la generaci\u00f3n de un texto inapropiado. Aprovechamos las herramientas de moderaci\u00f3n de contenido de OpenAI, que han funcionado hasta ahora para el modelo Davinci, pero no tuvieron \u00e9xito con Curie. Hemos podido identificar la causa ra\u00edz de nuestro problema con el modelo Davinci y no utilizaremos Curie como alternativa en el futuro. Esperamos que esto arroje un poco de luz sobre c\u00f3mo sucedi\u00f3 esto\u201d.<\/p>\n Contracci\u00f3n nerviosa<\/p>\n<\/figure>\n El equipo elabor\u00f3 \u200b\u200ben otra publicaci\u00f3n de Discord (a trav\u00e9s de el borde<\/em>). \u201cCre\u00edmos err\u00f3neamente que est\u00e1bamos aprovechando el sistema de moderaci\u00f3n de contenido de OpenAI para sus modelos de generaci\u00f3n de texto. Estamos trabajando ahora para implementar la API de moderaci\u00f3n de contenido de OpenAI (es una herramienta que podemos usar para verificar la seguridad del contenido) antes de volver a ponerlo en marcha e investigando los sistemas secundarios de moderaci\u00f3n de contenido como redundancias\u00bb.<\/p>\n Aunque el equipo parece disculparse genuinamente, enfatizando que la diatriba intolerante fue un error t\u00e9cnico que no representa sus puntos de vista, reitera la importancia de la moderaci\u00f3n constante de la IA. Es posible que recuerde el chatbot de Twitter de Microsoft, que solo dur\u00f3 unas 16 horas despu\u00e9s de que los usuarios le ense\u00f1aran a arrojar teor\u00edas de conspiraci\u00f3n, puntos de vista racistas y comentarios mis\u00f3ginos. Luego estaba el bot entrenado completamente en 4chan, que result\u00f3 exactamente como era de esperar. Ya sea que \u00abNothing, Forever\u00bb regrese o no, la pr\u00f3xima vez que un equipo de desarrolladores se enfrente a la elecci\u00f3n entre evitar un tiempo de inactividad inesperado y asegurarse de que esos filtros est\u00e9n en su lugar, elija lo \u00faltimo.<\/p>\n<\/div>\n Todos los productos recomendados por Engadget son seleccionados por nuestro equipo editorial, independiente de nuestra empresa matriz. Algunas de nuestras historias incluyen enlaces de afiliados. Si compra algo a trav\u00e9s de uno de estos enlaces, podemos ganar una comisi\u00f3n de afiliado. Todos los precios son correctos en el momento de la publicaci\u00f3n.<\/em><\/p>\n