se ha convertido en un verdadero subgénero de memes en este momento: una foto de Linda Hamilton como El terminadores Sarah Connor, mirando a la cámara, con ojos acerados, con alguna variante de la leyenda «Sarah Connor te ve hacerte amiga de ChatGPT». Nuestra sociedad ha interpretado el repentino y vertiginoso ascenso de esta nueva generación de chatbots a través de la lente de la cultura pop de nuestra juventud.
Con ello surge la sensación de que las sencillas historias de “los robots nos matarán a todos” eran proféticas (o al menos capturaban con precisión la vibra actual), y de que había una asombrosa ingenuidad en las narrativas más indulgentes sobre los “derechos civiles de la IA”, famosamente personificadas por Star Trek‘s Commander Data, un androide que luchó para ser tratado igual que sus colegas orgánicos de la Flota Estelar. El Capitán Picard de Patrick Stewart, defendiendo a Data en un juicio para demostrar su sapiencia, tronó: “Su Señoría, la Flota Estelar se fundó para buscar nueva vida: ¡Bueno, ahí está! Espera.» Pero lejos de ser una reliquia de una época pasada y más optimista, la narrativa de los derechos civiles de la IA es más relevante que nunca. Sólo hay que entenderlo en su contexto adecuado.
Hay temores comprensibles de que las narrativas aparentemente ingenuas sobre que la IA o los robots son “como nosotros” sólo hayan allanado el camino para el momento de empobrecimiento moral en el que nos encontramos ahora. En esta forma de ver las cosas, necesitamos más Sin duda, el miedo a la IA para resistir la explotación a la que nos enfrentamos ahora. Por lo tanto, debemos atrincherarnos en el otro cliché narrativo de la IA: están aquí para matarnos a todos.
Pero comparar ChatGPT o Bard de Google incluso con formas embrionarias de Skynet es un valor de relaciones públicas invaluable para las empresas tecnológicas, que se benefician enormemente del “bombo crítico” de tales exageraciones descabelladas. Por ejemplo, durante una 60 minutos En una entrevista, el vicepresidente de Google, James Manyika, comentó: “Descubrimos que con muy pocas indicaciones en bengalí, [Bard] Ahora puedo traducir todo el bengalí”. En su narración, el periodista de CBS Scott Pelley restó importancia a este comentario diciendo que «un programa de inteligencia artificial de Google se adaptó por sí solo después de que se le indicara en el idioma de Bangladesh, que no estaba capacitado para conocer», lo que sugiere que este aprendizaje era un proceso potencialmente peligroso. propiedad emergente” de Bard. Pero también implicaba que Bard no tenía bengalí en sus datos de entrenamiento, cuando en realidad sí lo tenía. Esta hipérbole, que presenta los algoritmos como al borde de la autoconciencia, hace que estas herramientas parezcan mucho más capaces de lo que realmente son.
Eso, por supuesto, no ha impedido que algunos de mis compañeros nerds, criados en C-3PO y Data, estén demasiado ansiosos por unirse a la última frontera de las batallas por los derechos civiles, incluso cuando todas las demás siguen lamentablemente sin terminar.
Entonces, ¿de qué sirve seguir contando las historias más felices de que “la IA merece derechos civiles”? Después de todo, estamos muy lejos de defender audazmente los derechos de tales seres en un tribunal de la Flota Estelar, y esas historias sólo podrían engendrar aún más una antropomorfización, que sólo ayuda a las empresas a beneficiarse de herramientas que no son suficientes incluso para sus funciones declaradas. Bueno, esas historias podrían ayudarnos a mantener claras nuestras prioridades.
Es fácil olvidar que, en la ficción, la IA/robot es casi siempre una metáfora. Incluso en Star Trek: la próxima generación, Data y los androides como él fueron comparados con la fea historia de la esclavitud de la humanidad: el sueño grotesco del trabajo libre que nunca cuestiona, nunca se defiende. Esto fue igualmente evidente en ex machina, una película de terror sobre cómo una mujer con IA, creada para ser un clásico «fembot», se libera de un barón de la tecnología que no quiere nada más que construir una mujer a la que le encanta que abusen de ella. Lo que anhelamos en las máquinas es a menudo un reflejo de lo que anhelamos en la humanidad, para bien y para mal, preguntándonos qué es lo que realmente queremos. Las historias de esos anhelos también ilustran un requisito clave para la sapiencia: la resistencia a la opresión.
Tales cualidades nos remontan a las primeras formas de ficción que los humanos tejieron sobre la perspectiva de crear vida artificial. No sólo 1921 de Karel Čapek Los robots universales de Rossum (RUR), sino la leyenda judía del golem en la que claramente se inspiró. En ese cuento, existe vida artificial para defender a las personas contra la opresión violenta. Aunque la fábula original ve al golem enloquecido, la idea de la criatura perdura como una fantasía empoderadora en una época de creciente antisemitismo. El mito ha dejado su huella en todo, desde fantasías de superhéroes hasta cuentos de robots benévolos: narrativas en las que la vida artificial o extraterrestre está en comunión con la vida humana y se enfrenta a las fuerzas más feas que la sapiencia puede producir. Si eso no es relevante, nada lo es.