\n<\/p>\n
OctoML dice que ha puesto fin a su relaci\u00f3n comercial con Civitai d\u00edas despu\u00e9s de una investigaci\u00f3n de 404 Medios<\/em> revel\u00f3 que la plataforma de conversi\u00f3n de texto a imagen se estaba utilizando para generar im\u00e1genes que \u00abpodr\u00edan clasificarse como pornograf\u00eda infantil\u00bb. Civitai anteriormente confiaba en OctoAI de OctoML para la generaci\u00f3n de im\u00e1genes. Si bien OctoML inicialmente indic\u00f3 que continuar\u00eda trabajando con Civitai e introdujo nuevas medidas para frenar la creaci\u00f3n de im\u00e1genes da\u00f1inas, 404 Medios<\/em> inform\u00f3 el s\u00e1bado que ahora ha decidido cortar los lazos con la plataforma por completo.<\/p>\n De acuerdo a 404 Medios<\/em>En el informe del 5 de diciembre, las comunicaciones internas mostraron que OctoML era consciente de que algunos usuarios de Civitai estaban creando material sexualmente expl\u00edcito que inclu\u00eda im\u00e1genes no consensuadas de personas reales. <\/em>y representaciones pornogr\u00e1ficas de ni\u00f1os. En un informe de seguimiento este fin de semana, la publicaci\u00f3n se\u00f1al\u00f3 que OctoML implement\u00f3 un filtro para bloquear la generaci\u00f3n de todo el contenido NSFW en Civitai antes de anunciar su decisi\u00f3n de retirarse. Civitai tambi\u00e9n agreg\u00f3 nuevos m\u00e9todos de moderaci\u00f3n en respuesta a la investigaci\u00f3n a principios de esta semana, incluida una incrustaci\u00f3n obligatoria llamada Civitai Safe Helper (Minor) que impide que el modelo genere im\u00e1genes de ni\u00f1os si \u00abse detecta un tema o palabra clave para adultos\u00bb, seg\u00fan 404<\/em>.<\/p>\n Civitai, respaldada por Andreessen Horowitz, ha sido objeto de escrutinio anteriormente por su funci\u00f3n de \u201crecompensas\u201d que desaf\u00eda a los usuarios a generar im\u00e1genes realistas de personas reales para obtener recompensas. En noviembre, 404 Medios<\/em> descubri\u00f3 que se estaba utilizando para hacer deepfakes no consensuados de celebridades, personas influyentes e incluso un ciudadano privado que eran, en muchos casos, de naturaleza sexual. Los sujetos eran principalmente mujeres. De acuerdo a 404 Medios<\/em>Desde entonces, Civitai ha agregado un filtro para evitar la creaci\u00f3n de contenido NSFW con \u201cciertas\u201d celebridades.<\/p>\n Sin embargo, OctoML, que utiliza los servidores de Amazon Web Services, ya no quiere participar. En una declaraci\u00f3n a 404 Medios<\/em> El s\u00e1bado, OctoML dijo: \u201cHemos decidido terminar nuestra relaci\u00f3n comercial con Civitai. Esta decisi\u00f3n se alinea con nuestro compromiso de garantizar el uso seguro y responsable de la IA\u201d.<\/p>\n<\/div>\n