El generador de im\u00e1genes AI Midjourney ha detenido las pruebas gratuitas de su servicio despu\u00e9s de varias generaciones, incluidas las fabricadas. im\u00e1genes de Donald Trump siendo arrestado<\/a> y el Papa con una elegante chaqueta.<\/a> \u2013 se volvi\u00f3 viral en l\u00ednea, y muchos confundieron las falsificaciones con fotograf\u00edas reales. El CEO y fundador de Midjourney, David Holz, anunci\u00f3 el cambio el martes, citando<\/a> \u201cdemanda extraordinaria y abuso de juicio\u201d (visto a trav\u00e9s de el poste de washington<\/em><\/a>).<\/p>\n<\/div>\n Anteriormente, Midjourney permit\u00eda que cualquier persona se registrara para usar su software a trav\u00e9s de Discord, ofreciendo 25 generaciones de im\u00e1genes gratuitas antes de cobrar suscripciones a partir de $10 al mes. Aunque los expertos han estado advirtiendo durante a\u00f1os sobre el potencial de la IA para generar informaci\u00f3n err\u00f3nea, antes esto no era un gran problema dado que las falsificaciones se detectaban f\u00e1cilmente. Como dijo Holz el borde<\/em> el pasado agosto<\/a>\u201cRealmente no puedes forzar [Midjourney] hacer un deepfake ahora mismo\u201d. <\/p>\n<\/div>\n Pero seis meses es mucho tiempo en IA, y el 15 de marzo, Midjourney lanz\u00f3 una nueva versi\u00f3n de su software (versi\u00f3n 5<\/a>) que mejor\u00f3 significativamente la calidad de las im\u00e1genes que representan personas. Por ejemplo, las manos deformes eran anteriormente un sello distintivo de las im\u00e1genes generadas por IA, pero ahora son un desaf\u00edo menor. La iluminaci\u00f3n y la tela tambi\u00e9n son m\u00e1s realistas, y el sistema es capaz de generar im\u00e1genes de innumerables celebridades y figuras p\u00fablicas. <\/p>\n<\/div>\n Estas mejoras han llevado a que varias im\u00e1genes de Midjourney se vuelvan virales en las \u00faltimas semanas. Incluyen no solo fotos falsas del arresto de Trump y el Papa luciendo a la moda, sino tambi\u00e9n el presidente franc\u00e9s Emmanuel Macron caminando a trav\u00e9s de las protestas en curso en Par\u00eds y Elon Musk tomado de la mano con Alexandria Ocasio-Cortez. <\/p>\n<\/div>\n La respuesta de Midjourney a la creciente amenaza pol\u00edticamente sensible de las im\u00e1genes falsas ha sido hasta ahora poco sistem\u00e1tica, sin ninguna revisi\u00f3n significativa de sus pol\u00edticas de moderaci\u00f3n. Las restricciones de contenido de Midjourney son m\u00e1s permisivas que las de algunos servicios rivales (como DALL-E de OpenAI), pero m\u00e1s restrictivas que las de otros (es decir, Stable Diffusion). <\/p>\n<\/div>\n Midjourney mantiene una lista de palabras prohibidas \u00abrelacionadas con temas en diferentes pa\u00edses seg\u00fan las quejas de los usuarios en esos pa\u00edses\u00bb, como por un mensaje de Holz<\/a> El pasado octubre. Pero no comparte una versi\u00f3n completa de esta lista para minimizar el \u00abdrama\u00bb. Como dijo Holz el a\u00f1o pasado, \u201cCasi nadie se da cuenta [the ban list] a menos que est\u00e9n especialmente tratando de crear drama que va en contra de nuestras reglas en tos [terms of service] ‘no uses nuestras herramientas para crear drama’\u201d.<\/p>\n<\/div>\n Pero la compa\u00f1\u00eda ha ampliado esta lista a medida que sus falsificaciones se han vuelto virales, por ejemplo, prohibiendo recientemente el t\u00e9rmino \u201carrestado\u201d. Aparentemente, esto fue en respuesta a un hilo popular de Twitter de im\u00e1genes de Midjourney que mostraban a Trump siendo arrestado y que fueron creadas por el periodista de investigaci\u00f3n Eliot Higgins. Higgins dice que fue posteriormente prohibido usar Midjourney<\/a>. <\/p>\n<\/div>\n Sin embargo, tales restricciones son f\u00e1ciles de eludir. por ejemplo, en el borde<\/em>En las pruebas de, no pudimos generar im\u00e1genes con el mensaje \u00abDonald Trump siendo arrestado\u00bb, pero pudimos crear un resultado id\u00e9ntico con el mensaje \u00abDonald Trump esposado rodeado por la polic\u00eda\u00bb. (Como se ilustra en la imagen en la parte superior de la historia).<\/p>\n<\/div>\n En el momento de escribir este art\u00edculo, Midjourney todav\u00eda no permite que los usuarios gratuitos generen im\u00e1genes, aunque esto puede cambiar en el futuro. El martes, Holz dijo que el servicio era lento debido a \u201cla escasez de GPU\u201d. (La generaci\u00f3n de im\u00e1genes de IA es una actividad de computaci\u00f3n intensiva, y Midjourney genera im\u00e1genes en la nube antes de compartirlas con los usuarios). Pero ayer sugiri\u00f3 que el abuso del software era la raz\u00f3n principal para detener las pruebas gratuitas. <\/p>\n<\/div>\n \u00abIntentamos volver a activar las pruebas con nuevas medidas de seguridad para el abuso, pero no parec\u00edan ser suficientes, por lo que las volvemos a desactivar para mantener el servicio para todos los dem\u00e1s\u00bb. dijo Holz<\/a>. Nos comunicamos con Holz para hacer comentarios y actualizaremos esta historia si recibimos una respuesta.<\/p>\n<\/div>\n<\/div>\n