En algunas formas, es difícil entender cómo sucedió esta desalineación. Creamos todo esto por nosotros mismos, para nosotros mismos.
Es cierto que somos por naturaleza “chovinistas del carbono”, como lo expresó Tegmark: Nos gusta pensar que solo las máquinas de carne y hueso como nosotros pueden pensar, calcular y crear. Pero la creencia de que las máquinas no pueden hacer lo que hacemos ignora una idea clave de la IA: “La inteligencia tiene que ver con el procesamiento de la información, y no importa si la información es procesada por átomos de carbono en el cerebro o por átomos de silicio en las computadoras. ”
Por supuesto, hay quien dice: ¡Tonterías! ¡Todo va sobre ruedas! ¡Aun mejor! Trae las máquinas. Cuanto antes nos fusionemos con ellos, mejor; ya comenzamos con nuestros ojos y corazones diseñados, nuestros vínculos íntimos con los dispositivos. Ray Kurzweil, famoso, no puede esperar a la singularidad que se avecina, cuando todas las distinciones se reduzcan a prácticamente nada. “Son realmente las próximas décadas las que necesitamos superar”, dijo Kurzweil a una audiencia masiva recientemente.
Ah, solo eso.
Incluso Jaron Lanier, quien dice que la idea de que la IA tome el control es una tontería porque está hecha por humanos, admite que la extinción humana es una posibilidad, si estropeamos la forma en que la usamos y nos volvemos literalmente locos: «Para mí, el peligro es que Usaremos nuestra tecnología para volvernos mutuamente ininteligibles o para volvernos locos, si lo prefiere, de una manera que no estamos actuando con suficiente comprensión e interés propio para sobrevivir, y morimos por locura, esencialmente.
Tal vez nos olvidamos de nosotros mismos. “Perder nuestra humanidad” fue una frase repetida a menudo por los chicos de la bomba y casi con la misma frecuencia en la actualidad. El peligro de la tecnología fuera de control, escribió mi amigo físico, es la «preocupación de que podamos perder algo de esa especialidad indefinible y extraordinaria que hace que las personas sean ‘humanas'». Aproximadamente siete décadas después, Lanier está de acuerdo. “Tenemos que decir que la conciencia es algo real y que hay una interioridad mística en las personas que es diferente de otras cosas porque si no decimos que las personas son especiales, ¿cómo podemos crear una sociedad o desarrollar tecnologías que sirvan a las personas?”.
¿Incluso importa si nos extinguimos?
Los seres humanos se han distinguido durante mucho tiempo por su capacidad de empatía, amabilidad, la capacidad de reconocer y responder a las emociones de los demás. Nos enorgullecemos de la creatividad y la innovación, la originalidad, la adaptabilidad, la razón. Un sentido de sí mismo. Creamos ciencia, arte, música. Bailamos, reímos.
Pero desde que Jane Goodall reveló que los chimpancés podían ser altruistas, fabricar herramientas, llorar a sus muertos, todo tipo de criaturas, incluidos peces, pájaros y jirafas, han demostrado ser capaces de razonar, planificar con anticipación, tener sentido de la justicia, resistir la tentación, incluso soñando. (Solo los humanos, a través de sus enormes cerebros desalineados, parecen capaces de una verdadera destrucción masiva).
Es posible que a veces nos engañemos pensando que los animales pueden hacer todo esto porque los antropomorfizamos. Es cierto que nos engañamos pensando que las máquinas son nuestros amigos, nuestras mascotas, nuestros confidentes. Sherry Turkle del MIT llama a la IA «intimidad artificial», porque es muy buena para proporcionar relaciones falsas, pero convincentemente afectuosas, incluida la empatía falsa. El momento no podría ser peor. La tierra necesita nuestra atención con urgencia; deberíamos estar haciendo todo lo posible para conectarnos con la naturaleza, no intensificar “nuestra conexión con objetos a los que no les importa si la humanidad muere”.