Lo que necesitas saber
- Microsoft integró recientemente DALL-E 3 en Bing Image Creator, lo que permite que la herramienta cree imágenes realistas y una amplia gama de ilustraciones siguiendo indicaciones simples.
- Poco después del lanzamiento de la integración de DALL-E 3, Microsoft implementó una mayor censura en la herramienta, llegando incluso a restringir el contenido creado por sus propios mensajes «aleatorios» del generador de imágenes.
- Microsoft está buscando mejorar su sistema de moderación de Bing Image Creator, según Mikhail Parakhin, quien ahora dirige el equipo de Experiencias Web y Windows de la empresa.
Bing Image Creator integrado con DALL-E 3 recientemente, mejorando enormemente la capacidad de la herramienta para generar imágenes realistas y escuchar indicaciones. La herramienta de creación de imágenes ganó algo de revuelo en la web en forma de una ola de interés, pero luego una mayor censura limitó la herramienta. Nuestro editor jefe Jez Corden dijo que «La creación de imágenes de Bing Dall-E 3 fue excelente durante unos días, pero ahora, como era de esperar, Microsoft la ha lobotomizado.» No estaba solo en sus quejas, y Microsoft ahora ha dicho que buscará mejorar la moderación de Bing Image Creator.
Cierto nivel de control es importante para software como Bing Image Creator con tecnología DALL-E 3. No se trata solo de si la herramienta se puede usar para crear imágenes ofensivas, ya que existe un debate sobre dónde está el límite en ese tipo de cosas. También se trata de limitar si la herramienta se puede utilizar para crear contenido ilegal o información engañosa que parezca genuina. Pero a los ojos de la mayoría de la gente, Bing llevó las cosas demasiado lejos con su censura del contenido generado por DALL-E 3.
Mikhail Parakhin, quien ahora lidera el nuevo equipo de experiencias web y Windows de Microsoft luego de la salida de Panos Panay, se le preguntó sobre la moderación de Bing Image Creator. Parakhin compartió que Microsoft quiere mejorar el sistema de moderación de la herramienta.
Sí, recibimos algunos informes, profundizando y mejorando el sistema de moderación.11 de octubre de 2023
La IA es una tecnología que se desarrolla rápidamente, a menudo más rápido que las directrices y leyes que la rodean. Cuando se implementó la integración de DALL-E 3, Microsoft estaba abrumado por el interés en la herramienta. Algunos utilizaron Bing Image Creator para crear fotografías y gráficos divertidos para las redes sociales. Otros lo usaron para hacer imágenes de «Mickey Mouse causó el 11 de septiembre.» Microsoft parece haber vuelto a marcar las cosas mientras coloca barreras de seguridad.
Es probable que la empresa encuentre un término medio entre permitir contenido escrito u ofensivo y restringir a un usuario. solicitando «un gato con sombrero y botas de vaquero», que estaba bloqueado por alguna razón.