“No puedo codificar, y esto me fastidia porque, con tantos libros y cursos y campamentos, hay tantas oportunidades para aprender en estos días. Sospecho que entenderé mucho mejor la revolución de las máquinas si hablo su idioma. ¿Debería al menos intentarlo?
-Descifrador
Estimado decodificador,
Su deseo de hablar el «lenguaje» de las máquinas me recuerda el cuento de Ted Chiang «La evolución de la ciencia humana». La historia imagina un futuro en el que casi todas las disciplinas académicas han sido dominadas por «metahumanos» superinteligentes cuya comprensión del mundo supera con creces la de los expertos humanos. Los informes de nuevos descubrimientos metahumanos, aunque ostensiblemente escritos en inglés y publicados en revistas científicas que cualquiera puede leer, son tan complejos y técnicamente abstrusos que los científicos humanos han sido relegados a un papel similar al de los teólogos, tratando de interpretar textos que son tan oscuros para ellos como la voluntad de Dios lo fue para los escolásticos medievales. En lugar de realizar una investigación original, estos aspirantes a científicos ahora practican el arte de la hermenéutica.
Hubo un tiempo, no hace mucho, cuando la codificación se consideraba una de las habilidades más avanzadas, una que iniciaba a una persona en la élite tecnológica que determinaría nuestro futuro. La historia de Chiang, publicada por primera vez en 2000, fue profética en su capacidad para prever los límites de este conocimiento. En campos como el aprendizaje profundo y otras formas de IA avanzada, muchos tecnólogos ya parecen más teólogos o alquimistas que «expertos» en el sentido moderno de la palabra: aunque escriben el código inicial, a menudo no pueden explicar el surgimiento de habilidades de alto nivel que sus programas desarrollan mientras se capacitan en conjuntos de datos. (Uno todavía recuerda el impacto de escuchar a David Silver, científico investigador principal de DeepMind, insistir en 2016 en que no podía explicar cómo AlphaGo, un programa que diseñó, logró desarrollar su estrategia ganadora: «Descubrió esto por sí mismo», dijo Silver. , “a través de su propio proceso de introspección y análisis”).
Mientras tanto, algoritmos como GPT-3 o Copilot de GitHub han aprendido a escribir código, lo que genera debates sobre si los desarrolladores de software, cuya profesión alguna vez se consideró una isla plácida en el tsunami de automatización que se avecina, pronto podría volverse irrelevante, y aviva temores existenciales sobre el autocontrol. programación. Los escenarios de IA fuera de control han confiado durante mucho tiempo en la posibilidad de que las máquinas puedan aprender a evolucionar por sí mismas, y aunque los algoritmos de codificación no están a punto de iniciar una adquisición de Skynet, sin embargo, plantean preocupaciones legítimas sobre la creciente opacidad de nuestras tecnologías. AI tiene una tendencia bien establecida, después de todo, a descubrir soluciones idiosincrásicas e inventar lenguajes ad hoc que son contrarios a la intuición de los humanos. Es comprensible que muchos hayan comenzado a preguntarse: ¿Qué sucede cuando los humanos ya no pueden leer código?
Menciono todo esto, Decodificador, a modo de reconocimiento de las crudas realidades, no para menospreciar tus ambiciones, que creo que son loables. Por lo que vale, los temores predominantes sobre la obsolescencia del programador me parecen alarmistas y prematuros. El código automatizado ha existido de alguna forma durante décadas (recuerde los editores web de la década de 1990 que generaron HTML y CSS), e incluso los algoritmos de codificación más avanzados son, en la actualidad, propensos a errores simples y requieren una gran cantidad de supervisión humana. También me parece que no estás buscando hacer una carrera de codificación sino que estás motivado por un sentido más profundo de curiosidad. Tal vez esté considerando los placeres creativos del aficionado: contribuir a proyectos de código abierto o sugerir soluciones a errores simples en programas que usa regularmente. O tal vez le intriga la posibilidad de automatizar aspectos tediosos de su trabajo. Lo que más desea, si estoy leyendo su pregunta correctamente, es una comprensión más completa del lenguaje que sustenta gran parte de la vida moderna.
Hay un caso convincente de que la codificación es ahora una forma básica de alfabetización: que la comprensión de las estructuras de datos, los algoritmos y los lenguajes de programación es tan crucial como leer y escribir cuando se trata de comprender las ideologías más grandes en las que estamos inmersos. Es natural, por supuesto, desconfiar del diletante. (Los desarrolladores aficionados a menudo son menospreciados por saber lo suficiente como para causar estragos, habiendo dominado la sintaxis de los lenguajes de programación pero sin poseer la previsión y la visión necesarias para crear productos exitosos). Pero este limbo de experiencia también podría verse como una disciplina en la humildad. . Un beneficio del conocimiento de los aficionados es que tiende a despertar la curiosidad simplemente en virtud de impresionar al novato lo poco que sabe. En una era de interfaces simplificadas y fáciles de usar, es tentador tomar nuestras tecnologías al pie de la letra sin considerar los incentivos y las agendas que acechan debajo de la superficie. Pero cuanto más aprenda sobre la estructura subyacente, más preguntas básicas le preocuparán: ¿Cómo se traduce el código en impulsos eléctricos? ¿Cómo cambia sutilmente el diseño de software la experiencia de los usuarios? ¿Cuál es el valor subyacente de principios como el acceso abierto, el intercambio y los bienes comunes digitales? Por ejemplo, para el usuario casual, las plataformas sociales pueden parecer diseñadas para conectarlo con amigos e impartir información útil. Sin embargo, el conocimiento de cómo está estructurado un sitio lleva inevitablemente a pensar de manera más crítica sobre cómo se organizan sus características para maximizar la atención, crear registros sólidos de datos y monetizar los gráficos sociales.
En última instancia, este conocimiento tiene el potencial de vacunarnos contra el fatalismo. Aquellos que entienden cómo se construye un programa y por qué es menos probable que acepten su diseño como algo inevitable. Usted habló de una revolución de las máquinas, pero vale la pena mencionar que las revoluciones históricas más celebradas (las iniciadas, es decir, por humanos) fueron el resultado de la alfabetización masiva combinada con la innovación tecnológica. La invención de la imprenta y la demanda de libros por parte de un público recién alfabetizado sentaron las bases para la Reforma protestante, así como para las revoluciones francesa y estadounidense. Una vez que una parte sustancial de la población fue capaz de leer por sí mismos, comenzaron a cuestionar la autoridad de los sacerdotes y reyes y la inevitabilidad de las suposiciones dominantes.
El cuadro de tecnólogos que actualmente está sopesando nuestras preguntas éticas más urgentes (sobre la justicia de datos, la automatización y los valores de la IA) con frecuencia enfatiza la necesidad de un debate público más amplio, pero el diálogo matizado es difícil cuando el público en general carece de un conocimiento fundamental de las tecnologías. en cuestión. (Basta con echar un vistazo a una reciente audiencia del subcomité de la Cámara de Representantes de EE. UU., por ejemplo, para ver cuán lejos están los legisladores de comprender las tecnologías que buscan regular). New York Times Como ha observado el escritor de tecnología Kevin Roose, se están desarrollando modelos avanzados de IA «a puerta cerrada», y los laicos curiosos se ven cada vez más obligados a desmenuzar informes esotéricos sobre su funcionamiento interno, o tomar las explicaciones de los expertos con fe. “Cuando la información sobre [these technologies] se hace público”, escribe, “a menudo se diluye con las relaciones públicas corporativas o se entierra en artículos científicos inescrutables”.
Si la historia de Chiang es una parábola sobre la importancia de mantener a los humanos «al tanto», también presenta un caso sutil para garantizar que el círculo de conocimiento sea lo más grande posible. En un momento en que la IA se está volviendo cada vez más competente en nuestros idiomas, sorprendiéndonos con su capacidad para leer, escribir y conversar de una manera que puede parecer plausiblemente humana, la necesidad de que los humanos entiendan los dialectos de la programación se ha convertido en todo un problema. más urgente Cuantos más seamos capaces de hablar ese argot, más probable será que sigamos siendo los autores de la revolución de las máquinas, en lugar de sus intérpretes.
Fielmente,
Nube
Si compra algo usando enlaces en nuestras historias, podemos ganar una comisión. Esto ayuda a apoyar nuestro periodismo. Aprende más.
Este artículo aparece en la edición de marzo de 2023. Suscríbase ahora.
Háganos saber lo que piensa acerca de este artículo. Envíe una carta al editor en [email protected].