¿Dónde termina la diversión y comienza el daño social? Las empresas de inteligencia artificial detrás de los generadores de imágenes y texto parecen estar lidiando con esa pregunta en tiempo real, a medida que sus productos ganan terreno en Internet. Al mismo tiempo, las mismas empresas también se enfrentan a algunos problemas de Internet muy comunes, como los usuarios que buscan aprovechar las ofertas de prueba gratuitas.
Popular Generador de imágenes AI, Midjourneydetuvo su acceso de prueba gratuito esta semana, según lo informado por primera vez por el poste de washington. El anuncio se produjo en una publicación de Discord del martes por la mañana del CEO de Midjourney, David Holz, citando «demanda extraordinaria y abuso de juicio».
Según una publicación de seguimiento, Holz y compañía intentaron abordar los problemas de abuso con parches de seguridad. Sin embargo, los cambios intentados no fueron suficientes para solucionar los problemas. «Intentamos volver a activar las pruebas con nuevas medidas de seguridad para el abuso, pero no parecían ser suficientes… las estamos volviendo a desactivar», publicó el director ejecutivo el miércoles por la tarde. El servicio pago de la compañía permanece disponible y, aunque las pruebas gratuitas permanecen en pausa por ahora, podrían volver en cualquier momento.
G/O Media puede recibir una comisión
42% de descuento
Amazon Fire TV Smart TV 4K de 50″
Imágenes increíbles
Este televisor inteligente tiene acceso a una amplia gama de servicios de transmisión, todos los cuales son más fáciles de navegar, tiene imágenes 4K para una imagen impresionante y también viene con un control remoto de voz de Alexa.
Aunque el informe del Washington Post inicialmente insinuó que el «abuso» en cuestión estaba relacionado con una serie reciente de falsificaciones virales profundas, la compañía niega esa versión. “Hubo algunos malentendidos bastante grandes en el [WaPo] artículo”, escribió Holz a Gizmodo en un correo electrónico. “Detuvimos las pruebas debido a la gran cantidad de personas que crearon cuentas desechables para obtener imágenes gratuitas… Esto sucedió al mismo tiempo que había una escasez temporal de GPU. Las dos cosas se unieron y estaba cayendo el servicio para los usuarios pagos”, agregó.
¿Los «nuevos dispositivos de seguridad» a los que se hace referencia en la publicación de Discord del miércoles? Según Holz, esto también se trataba de tratar de limitar a los usuarios a una prueba gratuita cada uno. «Todavía estamos tratando de descubrir cómo recuperar las pruebas gratuitas, tratamos de solicitar un correo electrónico activo, pero eso no fue suficiente, así que volvimos a la mesa de dibujo», dijo a Gizmodo.
Gracias al reciente auge de la IA generativa, el uso de generadores de imágenes para crear deepfakes está teniendo un momento. Los feeds de las redes sociales se han atascado con imágenes no reales, pero bastante convincentes, de cosas como un papa Francisco de la AF elegante y elegante con una chaqueta acolchada de Balenciaga o firmando el capó de un auto deportivo tipo Ferrari.
Varias falsificaciones de Donald Trump siendo arrestado en varias posiciones circuló ampliamente tras conocerse la noticia del expresidente acusación esperada.
En otros lugares, es posible que haya encontrado imágenes como la del presidente ruso, Vladimir Putin, frente a un tribunal de la hayao tal vez John F. Kennedy apuntando un rifle por una ventana. Todas estas imágenes se crearon con Midjourney, una de las IA más populares y disponibles públicamente.
Sin embargo, las imágenes no son motivo suficiente para restringir o cerrar el acceso a Midjourney, insinuó Holz. En cambio, la compañía afirma que su prohibición actual de pruebas gratuitas es una forma de protección de ganancias. Quiere que los usuarios pasen de la prueba gratuita a una suscripción paga, no a otra prueba gratuita.
Holz insinuó además que el conjunto más reciente de imágenes políticas problemáticas es el producto de Midjourney v5, que de todos modos solo se ha puesto a disposición de los usuarios que pagan. Cuando estaban abiertos, los registros de prueba gratuitos limitaban a los usuarios a la v4 de 5 meses, dijo Holz.
No obstante, el CEO aún dijo que Midjourney está trabajando para mejorar la moderación. “Creo que todavía estamos tratando de averiguar cuáles son las políticas de moderación correctas. Estamos recibiendo comentarios de expertos y de la comunidad y tratando de ser realmente reflexivos. Ya tenemos algunos sistemas nuevos que deberían enviarse pronto”, escribió.
Los esfuerzos hasta ahora limitados de la compañía para detener el aumento de imágenes falsas entretenidas, pero potencialmente peligrosas y engañosas, demuestran los turbios problemas de la regulación de la IA en los que nos hemos metido. ¿Cómo equilibrarán los desarrolladores de software de IA generativa la presión por el acceso, la «libertad de expresión» y la creación de un producto que la gente realmente quiera usar? responsabilidad social y el riesgo de un uso indebido flagrante? Y ¿Intervendrá alguna agencia estadounidense??
Por ahora, las respuestas siguen sin estar claras para todos, incluidos los directores ejecutivos de tecnología.
En comparación con algunos de sus pares como DALL-E de OpenAI, que tiene políticas que prohíben usuarios de crear cualquier contenido sexual o violento e incluir figuras políticas reales, los estándares de Midjourney son mucho más permisivos. Sin embargo, en comparación con Stable Diffusion, donde los usuarios pueden descargar un software de código abierto y hacer lo que quieran de manera efectiva, Midjourney tiene más barreras.
No puede, por ejemplo, usar Midjourney para generar imágenes del presidente de China, Xi Jinping, aunque otros líderes mundiales siguen siendo un juego justo. Holz explicó esta decisión con una publicación de Discord el año pasado. “La sátira política en [China] no está bien”, escribió el CEO, según el Washington Post. “La capacidad de las personas en China para usar esta tecnología es más importante que su capacidad para generar sátira”, agregó.
Y la compañía agregó recientemente el término «arrestado» a su lista de frases rápidas prohibidas, según el bordeprobablemente en respuesta a las imágenes de Trump antes mencionadas.
Pero aún así, navegar por el vasto y nebuloso centro de lo que debería y no debería permitirse en Internet está resultando claramente difícil para Holz. El miércoles, durante una sesión en vivo de Discord, el ejecutivo le dijo a una audiencia de miles de personas que estaba teniendo dificultades para concentrarse en las reglas de contenido, particularmente en lo que respecta al uso de imágenes de personas reales, según WaPo. “Hay una discusión entre Disney o el Salvaje Oeste, y todo en el medio es un poco doloroso”, dijo el director ejecutivo. “Estamos como en el medio en este momento, y no sé cómo sentirme al respecto”.
La moratoria sobre el acceso gratuito a Midjourney no resuelve el problema. Y, nuevamente, el CEO afirma que la decisión de detener las pruebas gratuitas no es el resultado de la difusión de deepfakes en absoluto. Pero tal vez, tal vez, podría ralentizar el problema al limitar la cantidad de personas que pueden producir imágenes falsas y aterradoras de casi lo que quieran. Para $10, $30 o $60 por mescualquiera que esté dispuesto a pagar aún puede optar por el caos de contenido.
¿Quiere saber más sobre la IA, los chatbots y el futuro del aprendizaje automático? Consulte nuestra cobertura completa de inteligencia artificialo explore nuestras guías para Los mejores generadores de arte de IA gratuitos y Todo lo que sabemos sobre ChatGPT de OpenAI.