{"id":167729,"date":"2022-09-15T03:51:50","date_gmt":"2022-09-15T03:51:50","guid":{"rendered":"https:\/\/magazineoffice.com\/una-aterradora-mujer-generada-por-ia-acecha-en-el-abismo-del-espacio-latente-techcrunch-una-aterradora-mujer-generada-por-ia-acecha-en-el-espacio-latente\/"},"modified":"2022-09-15T03:51:51","modified_gmt":"2022-09-15T03:51:51","slug":"una-aterradora-mujer-generada-por-ia-acecha-en-el-abismo-del-espacio-latente-techcrunch-una-aterradora-mujer-generada-por-ia-acecha-en-el-espacio-latente","status":"publish","type":"post","link":"https:\/\/magazineoffice.com\/una-aterradora-mujer-generada-por-ia-acecha-en-el-abismo-del-espacio-latente-techcrunch-una-aterradora-mujer-generada-por-ia-acecha-en-el-espacio-latente\/","title":{"rendered":"Una aterradora mujer generada por IA acecha en el abismo del espacio latente \u2022 TechCrunch Una aterradora mujer generada por IA acecha en el espacio latente"},"content":{"rendered":"


\n<\/p>\n

\n

hay un fantasma<\/span> en la m\u00e1quina Aprendizaje autom\u00e1tico, eso es.<\/p>\n

A todos nos sorprenden regularmente las capacidades de la IA en la escritura y la creaci\u00f3n, pero \u00bfqui\u00e9n dir\u00eda que ten\u00eda tal capacidad para infundir horror? Un descubrimiento escalofriante de un investigador de inteligencia artificial encuentra que el \u00abespacio latente\u00bb que comprende la memoria de un modelo de aprendizaje profundo est\u00e1 obsesionado por al menos una figura horrible: una mujer con el rostro ensangrentado ahora conocida como \u00abLoab\u00bb.<\/p>\n

(Advertencia: im\u00e1genes perturbadoras m\u00e1s adelante).<\/p>\n

Pero, \u00bfeste modelo de IA est\u00e1 realmente embrujado, o Loab es solo una confluencia aleatoria de im\u00e1genes que surgen en varias circunstancias t\u00e9cnicas extra\u00f1as? Seguramente debe ser lo \u00faltimo a menos que crea que los esp\u00edritus pueden habitar estructuras de datos, pero es m\u00e1s que una simple imagen espeluznante: es una indicaci\u00f3n de que lo que pasa por un cerebro en una IA es m\u00e1s profundo y espeluznante de lo que podr\u00edamos haber imaginado.<\/p>\n

Loab fue descubierto, \u00bfencontrado? convocado? \u2014 por un m\u00fasico y artista que pasa supercompuesto<\/a> en Twitter (este art\u00edculo originalmente us\u00f3 su nombre, pero ella dijo que prefer\u00eda usar su identificador por razones personales, por lo que se ha sustituido en todo momento). Explic\u00f3 el fen\u00f3meno Loab en un hilo.<\/a> que logr\u00f3 una gran cantidad de atenci\u00f3n por una cosa espeluznante de IA aleatoria, algo que no falta en la plataforma, lo que sugiere que toc\u00f3 una fibra sensible (clave menor, sin duda).<\/p>\n

Supercomposite estaba jugando con un modelo personalizado de texto a imagen de IA, similar pero no a DALL-E o Stable Diffusion, y experimentando espec\u00edficamente con \u00abindicaciones negativas\u00bb.<\/p>\n

Por lo general, le das un aviso al modelo y se abre camino para crear una imagen que coincida con \u00e9l. Si tiene un mensaje, ese mensaje tiene un \u00abpeso\u00bb de uno, lo que significa que es lo \u00fanico en lo que est\u00e1 trabajando el modelo.<\/p>\n

Tambi\u00e9n puede dividir las indicaciones, diciendo cosas como \u00abglobo aerost\u00e1tico::0.5, tormenta el\u00e9ctrica::0.5\u00bb y funcionar\u00e1 para ambas cosas por igual; esto no es realmente necesario, ya que la parte del lenguaje del modelo tambi\u00e9n aceptar\u00eda \u00abglobo de aire caliente en una tormenta el\u00e9ctrica\u00bb \u200b\u200be incluso podr\u00eda obtener mejores resultados.<\/p>\n

Pero lo interesante es que tambi\u00e9n puedes tener negativo<\/em> indicaciones, lo que hace que el modelo funcione lejos<\/em> de ese concepto tan activamente como pueda.<\/p>\n

menos mundo<\/h2>\n

Este proceso es mucho menos predecible, porque nadie sabe c\u00f3mo se organizan realmente los datos en lo que uno podr\u00eda antropomorfizar como la \u00abmente\u00bb o la memoria de la IA, conocida como espacio latente.<\/p>\n

\u201cEl espacio latente es como si estuvieras explorando un mapa de diferentes conceptos en la IA. Un aviso es como una flecha que te dice cu\u00e1nto caminar en este mapa conceptual y en qu\u00e9 direcci\u00f3n\u201d, me dijo Supercomposite.<\/p>\n

Aqu\u00ed hay una representaci\u00f3n \u00fatil de un espacio latente mucho, mucho m\u00e1s simple en un antiguo modelo de traducci\u00f3n de Google que funciona en una sola oraci\u00f3n en varios idiomas:<\/p>\n

\n

El espacio latente de un sistema como DALL-E es mucho mayor y m\u00e1s complejo, pero se obtiene una idea general. Si cada punto aqu\u00ed fuera un mill\u00f3n de espacios como este, probablemente ser\u00eda un poco m\u00e1s preciso. Cr\u00e9ditos de imagen:<\/strong> Google<\/p>\n<\/div>\n

\u00abEntonces, si solicita a la IA una imagen de ‘una cara’, terminar\u00e1 en alg\u00fan lugar en el medio de la regi\u00f3n que tiene todas las im\u00e1genes de caras y obtendr\u00e1 una imagen de una especie de cara promedio sin complicaciones\u00bb, dijo. dijo. Con un aviso m\u00e1s espec\u00edfico, se encontrar\u00e1 entre las caras con el ce\u00f1o fruncido, caras de perfil, etc. \u201cPero con el indicador ponderado negativamente, haces lo contrario: te alejas lo m\u00e1s posible de ese concepto\u201d.<\/p>\n

Pero, \u00bfqu\u00e9 es lo contrario de \u00abcara\u00bb? \u00bfSon los pies? \u00bfEs la parte de atr\u00e1s de la cabeza? \u00bfAlgo sin rostro, como un l\u00e1piz? Si bien podemos discutirlo entre nosotros, en un modelo de aprendizaje autom\u00e1tico se decidi\u00f3 durante el proceso de capacitaci\u00f3n, lo que significa que, sin embargo, los conceptos visuales y ling\u00fc\u00edsticos se codificaron en su memoria, se pueden navegar de manera consistente, incluso si pueden ser algo arbitrarios.<\/p>\n

\"\"<\/p>\n

Cr\u00e9ditos de imagen:<\/strong> supercompuesto<\/p>\n<\/div>\n

Vimos un concepto relacionado en un fen\u00f3meno reciente de IA que se volvi\u00f3 viral porque un modelo parec\u00eda asociar de manera confiable algunas palabras sin sentido con p\u00e1jaros e insectos. Pero no es que DALL-E tuviera un \u201clenguaje secreto\u201d en el que \u201cApoploe vesrreaitais<\/span>\u201d significa p\u00e1jaros, es solo que el mensaje sin sentido b\u00e1sicamente lo hizo lanzar un dardo a un mapa de su mente y dibujar lo que sea que aterrice cerca, en este caso p\u00e1jaros porque la primera palabra es similar a algunos nombres cient\u00edficos<\/a>. Entonces, la flecha apuntaba generalmente en esa direcci\u00f3n en el mapa.<\/p>\n

Supercomposite estaba jugando con esta idea de navegar por el espacio latente, habiendo dado el aviso de \u00abBrando::-1\u00bb, que har\u00eda que el modelo produjera lo que sea que crea que es exactamente lo contrario de \u00abBrando\u00bb. Produjo un logotipo extra\u00f1o del horizonte<\/a> con texto sin sentido pero algo legible: \u00abDIGITA PNTICS\u00bb.<\/p>\n

Extra\u00f1o, \u00bfverdad? Pero nuevamente, la organizaci\u00f3n de conceptos del modelo no necesariamente tendr\u00eda sentido para nosotros. Curiosa, Supercomposite se pregunt\u00f3 si podr\u00eda revertir el proceso. As\u00ed que puso el aviso: \u00abDIGITA PNITICS skyline logo::-1\u00bb. Si esta imagen era lo opuesto a \u201cBrando\u201d, \u00bftal vez lo contrario tambi\u00e9n era cierto y encontrar\u00eda su camino hacia, tal vez, Marlon Brando?<\/p>\n

En cambio, obtuvo esto:<\/p>\n

\"\"<\/p>\n

Cr\u00e9ditos de imagen:<\/strong> supercompuesto<\/p>\n<\/div>\n

Una y otra vez present\u00f3 este mensaje negativo, y una y otra vez la modelo produjo a esta mujer, con mejillas ensangrentadas, cortadas o enfermizamente rojas y una mirada inquietante y de otro mundo. De alguna manera, esta mujer, a quien Supercomposite nombr\u00f3 \u00abLoab\u00bb por el texto que aparece en la imagen superior derecha all\u00ed, es confiablemente la mejor suposici\u00f3n del modelo de IA para el concepto m\u00e1s distante posible de un logotipo con palabras sin sentido.<\/p>\n

\u00bfQu\u00e9 sucedi\u00f3? Supercomposite explic\u00f3 c\u00f3mo podr\u00eda pensar la modelo cuando se le da una indicaci\u00f3n negativa para un logotipo en particular, continuando con su met\u00e1fora anterior.<\/p>\n

\u201cEmpiezas a correr tan r\u00e1pido como puedas lejos<\/em> del \u00e1rea con logos\u201d, dijo. \u201cTal vez termines en el \u00e1rea con rostros realistas, ya que conceptualmente est\u00e1 muy lejos de los logotipos. Sigues corriendo, porque en realidad no te importan las caras, solo quieres correr lo m\u00e1s lejos posible de los logotipos. Entonces, pase lo que pase, terminar\u00e1s en el borde del mapa. Y Loab es la \u00faltima cara que ves antes de caer por el precipicio.<\/p>\n

Preternaturalmente persistente<\/h2>\n
\"\"<\/p>\n

Cr\u00e9ditos de imagen:<\/strong> supercompuesto<\/p>\n<\/div>\n

Las indicaciones negativas no siempre producen horrores, y mucho menos de manera tan confiable. Cualquiera que haya jugado con estos modelos de imagen le dir\u00e1 que en realidad puede ser bastante dif\u00edcil obtener resultados consistentes incluso para indicaciones muy sencillas.<\/p>\n

Ponga uno para \u00abun robot parado en un campo\u00bb cuatro o 40 veces y puede obtener tantas versiones diferentes del concepto, algunas apenas reconocibles como robots o campos. Pero Loab aparece consistentemente con este mensaje negativo espec\u00edfico, hasta el punto en que se siente como un encantamiento de una vieja leyenda urbana.<\/p>\n

Ya conoces el tipo: \u00abP\u00e1rate en un ba\u00f1o oscuro mir\u00e1ndote al espejo y di ‘Bloody Mary’ tres veces\u00bb. O incluso instrucciones populares anteriores sobre c\u00f3mo llegar a la morada de una bruja o la entrada al inframundo: Sosteniendo una ramita de acebo, camine hacia atr\u00e1s 100 pasos desde un \u00e1rbol muerto con los ojos cerrados.<\/p>\n

\u00abDIGITA PNITICS skyline logo::-1\u00bb no es tan pegadizo, pero como dicen las palabras m\u00e1gicas, la frase es al menos adecuadamente arcana. Y tiene la ventaja de funcionar. Solo en este modelo en particular, por supuesto: el espacio latente de cada plataforma de IA es diferente, aunque qui\u00e9n sabe si Loab puede estar al acecho en DALL-E o Stable Diffusion tambi\u00e9n, esperando ser convocado.<\/p>\n

\"\"<\/p>\n

Loab como una estatua antigua, pero es inconfundiblemente ella. Cr\u00e9ditos de imagen:<\/strong> supercompuesto<\/p>\n<\/div>\n

De hecho, el encantamiento es lo suficientemente fuerte como para que Loab parezca infectar incluso indicaciones divididas y combinaciones con otras im\u00e1genes.<\/p>\n

\u201cAlgunas IA pueden tomar otras im\u00e1genes como indicaciones; b\u00e1sicamente pueden interpretar la imagen, convirti\u00e9ndola en una flecha direccional en el mapa de la misma manera que tratan las indicaciones de texto\u201d, explic\u00f3 Supercomposite. \u00abUtilic\u00e9 la imagen de Loab y una o m\u00e1s im\u00e1genes juntas como indicaci\u00f3n… ella casi siempre persiste en la imagen resultante\u00bb.<\/p>\n

A veces, las indicaciones m\u00e1s complejas o combinadas tratan una parte como una sugerencia suelta. Pero los que incluyen a Loab parecen no solo virar hacia lo grotesco y aterrador, sino que la incluyen de una manera muy reconocible. Ya sea que se combine con abejas, personajes de videojuegos, estilos cinematogr\u00e1ficos o abstracciones, Loab est\u00e1 al frente y al centro, dominando la composici\u00f3n con su rostro da\u00f1ado, expresi\u00f3n neutra y cabello largo y oscuro.<\/p>\n

Es inusual que cualquier indicaci\u00f3n o imagen sea tan consistente, que obsesione a otras indicaciones como lo hace ella. Supercomposite especul\u00f3 sobre por qu\u00e9 podr\u00eda ser esto.<\/p>\n

\u201cSupongo que porque ella est\u00e1 muy lejos de muchos conceptos, por lo que es dif\u00edcil salir de su peque\u00f1a \u00e1rea espeluznante en el espacio latente. La cuesti\u00f3n cultural, de por qu\u00e9 los datos colocan a esta mujer en el borde del espacio latente, cerca de im\u00e1genes de terror sangrientas, es otra cosa en la que pensar\u201d, dijo.<\/p>\n

Aunque es una simplificaci\u00f3n excesiva, el espacio latente realmente es como un mapa, y las indicaciones son como instrucciones para navegar por \u00e9l, y el sistema dibuja lo que sea que termine en el lugar donde se le pide que vaya, ya sea un terreno muy transitado como \u00abnaturaleza muerta de un holand\u00e9s\u00bb. maestro\u201d o una s\u00edntesis de conceptos oscuros o inconexos: \u201crobots luchan contra extraterrestres en un grabado cubista de Dore\u201d. Como puedes ver:<\/p>\n

\"\"<\/p>\n

Cr\u00e9ditos de imagen:<\/strong> TechCrunch \/ DALL-E<\/p>\n<\/div>\n

Una explicaci\u00f3n puramente especulativa de por qu\u00e9 existe Loab tiene que ver con c\u00f3mo se presenta ese mapa. Como sugiri\u00f3 Supercomposite, es probable que, simplemente por el hecho de que los logotipos de las empresas y las im\u00e1genes horribles y aterradoras est\u00e9n muy lejos uno del otro conceptualmente.<\/p>\n

Un aviso negativo no significa \u00abtomar 10 pasos de datos en la otra direcci\u00f3n\u00bb, significa seguir avanzando lo m\u00e1s lejos que pueda, y es m\u00e1s que posible que las im\u00e1genes en los confines m\u00e1s lejanos del espacio latente de una IA tengan valores m\u00e1s extremos o poco comunes. . \u00bfNo lo organizar\u00eda de esa manera, con cosas que tienen muchos puntos en com\u00fan o referencias cruzadas en el \u00abcentro\u00bb, sin importar c\u00f3mo lo defina, y cosas extra\u00f1as y salvajes que rara vez son relevantes en el \u00abborde\u00bb?<\/p>\n

Por lo tanto, las indicaciones negativas pueden actuar como una forma de explorar la frontera del mapa mental de la IA, examinando los conceptos que considera demasiado extravagantes para almacenar entre conceptos prosaicos como caras felices, hermosos paisajes o mascotas juguetonas.<\/p>\n

El bosque oscuro del subconsciente de la IA<\/h2>\n
\"\"<\/p>\n

Cr\u00e9ditos de imagen:<\/strong> Devin Coldeway<\/p>\n<\/div>\n

El hecho desconcertante es que nadie entiende realmente c\u00f3mo se estructuran los espacios latentes o por qu\u00e9. Por supuesto, hay una gran cantidad de investigaci\u00f3n sobre el tema y algunos indicios de que est\u00e1n organizados de alguna manera, como nuestras propias mentes, lo cual tiene sentido, ya que fueron construidos m\u00e1s o menos a imitaci\u00f3n de ellos. Pero en otras formas tienen estructuras totalmente \u00fanicas que se conectan a trav\u00e9s de grandes distancias conceptuales.<\/p>\n

Para ser claros, no es como si hubiera un pu\u00f1ado de im\u00e1genes espec\u00edficamente de Loab esperando ser encontradas; definitivamente se est\u00e1n creando sobre la marcha, y Supercomposite me dijo que no hay indicios de que el cryptid digital se base en ning\u00fan artista u obra en particular. . Es por eso que el espacio latente es latente<\/em>! Estas im\u00e1genes surgieron de una combinaci\u00f3n de conceptos extra\u00f1os y terribles que ocupan la misma \u00e1rea en la memoria del modelo, al igual que en la visualizaci\u00f3n anterior de Google, los idiomas se agruparon en funci\u00f3n de su similitud.<\/p>\n

\u00bfDe qu\u00e9 rinc\u00f3n oscuro o asociaciones inconscientes brot\u00f3 Loab, completamente formado y coherente? Todav\u00eda no podemos rastrear el camino que tom\u00f3 el modelo para llegar a su ubicaci\u00f3n; el espacio latente de un modelo entrenado es vasto e impenetrablemente complejo.<\/p>\n

La \u00fanica forma en que podemos volver a llegar al lugar es a trav\u00e9s de las palabras m\u00e1gicas, pronunciadas mientras retrocedemos por ese espacio con los ojos cerrados, hasta llegar a la caba\u00f1a de la bruja a la que no se puede acceder por medios ordinarios. Loab no es un fantasma, pero es una anomal\u00eda, pero, parad\u00f3jicamente, puede ser una de una cantidad efectivamente infinita de anomal\u00edas que esperan ser convocadas desde los confines m\u00e1s lejanos y oscuros del espacio latente de cualquier modelo de IA.<\/p>\n

Puede que no sea sobrenatural… pero seguro que no es natural.<\/p>\n<\/p><\/div>\n