Después de que algunos usuarios de la integración DALL-E 3 de Bing encontraron una laguna en las barreras de seguridad de la herramienta y generaron arte con varios personajes animados queridos y las Torres Gemelas, Microsoft parece haber bloqueado la capacidad de mostrar cualquier cosa relacionada con las Torres Gemelas.
Según lo informado por 404 Mediosusuarios de Bing Chat de Microsoft y su generador de imágenes Bing, recientemente integrado con DALL-E 3 de OpenAI — usé las herramientas para crear fotografías de Bob Esponja, Kirby y pilotos de Neon Genesis Evangeliony muchos otros volando un avión contra las Torres Gemelas.
Las personas han podido crear fotografías verdaderamente desquiciadas utilizando generadores de imágenes de IA, algunas con personajes protegidos por derechos de autor. Pero a medida que los generadores de imágenes de IA se han ido adentrando Agua caliente por reclamos de derechos de autor. y deepfakes, los desarrolladores han sido más cuidadosos al permitir que las personas usen sus herramientas para crear fotografías cuestionables. El desarrollador de DALL-E 3, OpenAI, había prometido que no generaría imágenes de mensajes con nombres destacados.
Caitlin Roulston, directora de comunicaciones de Microsoft, dijo en un comunicado enviado por correo electrónico a El borde que la empresa planea mejorar sus sistemas “para ayudar a prevenir la creación de contenido dañino”.
«Al igual que con cualquier tecnología nueva, algunos están tratando de usarla de maneras que no estaban previstas, por lo que estamos implementando una variedad de barreras y filtros para hacer de Bing Image Creator una experiencia positiva y útil para los usuarios», dijo Roulston.
Microsoft no amplió cómo podrían verse estas barreras o filtros y no comentó si recientemente bloqueó contenido relacionado con las Torres Gemelas.
El bloqueo de algunos contenidos puede llegar un poco tarde, ya que 404 Medios reportado Los carteles en sitios como 4chan han estado guiando a las personas sobre cómo manipular herramientas gratuitas como Bing Chat y Stable Diffusion para crear y distribuir imágenes racistas.
Los desarrolladores de DALL-E 3 admitieron abiertamente que sus medidas de seguridad «no son perfectas» y se actualizan constantemente. Probablemente no esperaban que las fotos de Bob Esponja cometiendo actos de terrorismo fueran la prueba que estaban esperando.