El profesor de la Universidad de Toronto, Geoffrey Hinton, a menudo llamado el «» por su investigación pionera sobre redes neuronales, se convirtió recientemente en el perro guardián no oficial de la industria. Dejó de trabajar en Google esta primavera para criticar más libremente el campo que ayudó a promover. Vio el reciente aumento de las IA generativas como signos de una aceleración descontrolada y potencialmente peligrosa en el desarrollo. Mientras tanto, Google aparentemente estaba renunciando a su moderación anterior mientras perseguía a los competidores con productos como su .

En la conferencia Collision de esta semana en Toronto, Hinton amplió sus preocupaciones. Mientras las empresas promocionaban la IA como la solución para todo, desde cerrar un contrato de arrendamiento hasta enviar mercancías, Hinton estaba haciendo sonar la alarma. No está convencido de que la buena IA salga victoriosa de la mala variedad, y cree que la adopción ética de la IA puede tener un alto costo.

Una amenaza para la humanidad

Foto de Jon Fingas/Engadget

Hinton sostuvo que la IA solo era tan buena como las personas que la fabricaban, y que la mala tecnología aún podía ganar. «No estoy convencido de que una buena IA que intenta detener a los malos pueda obtener el control», explicó. Puede ser difícil evitar que el complejo militar-industrial produzca, por ejemplo, dice: las empresas y los ejércitos pueden «amar» las guerras en las que las víctimas son máquinas que pueden reemplazarse fácilmente. Y aunque Hinton cree que los grandes modelos de lenguaje (IA entrenada que produce texto similar al humano, como ) podrían conducir a grandes aumentos en la productividad, le preocupa que la clase dominante simplemente explote esto para enriquecerse, ampliando una brecha de riqueza ya grande. “Haría que los ricos sean más ricos y los pobres más pobres”, dijo Hinton.

Hinton también reiteró su muy publicitada opinión de que la IA podría ayudar a la humanidad. Si la inteligencia artificial se vuelve más inteligente que los humanos, no hay garantía de que las personas permanezcan a cargo. “Estamos en problemas” si AI decide que tomar el control es necesario para lograr sus objetivos, dijo Hinton. Para él, las amenazas “no son solo ciencia ficción”; hay que tomarlos en serio. Le preocupa que la sociedad solo frene a los robots asesinos después de haber tenido la oportunidad de ver «lo horribles» que son.

Hay muchos problemas existentes, agregó Hinton. Él argumenta que siguen siendo problemas, ya que los datos de entrenamiento de IA sesgados pueden producir resultados injustos. También se crean algoritmos que refuerzan la desinformación y los problemas de salud mental. A Hinton también le preocupa que la IA difunda información errónea más allá de esas cámaras. No está seguro de si es posible detectar todos los reclamos falsos, aunque es «importante marcar todo lo falso como falso».

Esto no quiere decir que Hinton se desespere por el impacto de la IA, aunque advierte que los usos saludables de la tecnología pueden tener un alto precio. Es posible que los humanos tengan que realizar un «trabajo empírico» para comprender cómo la IA podría fallar y evitar que tome el control. Ya es «factible» corregir los sesgos, agregó. Un gran modelo de lenguaje AI podría poner fin a las cámaras de eco, pero Hinton considera que los cambios en las políticas de la empresa son particularmente importantes.

El profesor no se anduvo con rodeos en su respuesta a las preguntas sobre personas que pierden sus trabajos debido a la automatización. Siente que se necesita el «socialismo» para abordar la desigualdad, y que las personas podrían protegerse contra el desempleo al tomar carreras que podrían cambiar con los tiempos, como la plomería (y no, no está bromeando). Efectivamente, la sociedad podría tener que hacer cambios amplios para adaptarse a la IA.

La industria se mantiene optimista

Foto de Jon Fingas/Engadget

Las conversaciones anteriores en Collision fueron más esperanzadoras. El jefe de negocios de Google DeepMind, Colin Murdoch, dijo en una discusión diferente que la IA estaba resolviendo algunos de los desafíos más difíciles del mundo. No hay mucha disputa en este frente: DeepMind está catalogando, luchando contra las bacterias resistentes a los antibióticos e incluso acelerando el trabajo en. Imaginó una «inteligencia general artificial» que podría resolver múltiples problemas y señaló los productos de Google como ejemplo. es útil para describir fotos, pero la tecnología subyacente también hace que YouTube Shorts se pueda buscar. Murdoch llegó a llamar a los últimos seis a 12 meses un «momento de bombilla» para la IA que desbloqueó su potencial.

El científico jefe de Roblox, Morgan McGuire, está en gran parte de acuerdo. Él cree que la plataforma de juego «cerró la brecha» entre los nuevos creadores y los veteranos, facilitando la escritura de código y la creación de materiales en el juego. Roblox incluso está lanzando un modelo de IA de código abierto, StarCoder, que espera ayude a otros al hacer que los modelos de lenguaje grandes sean más accesibles. Si bien McGuire en una discusión reconoció los desafíos para escalar y moderar el contenido, cree que tiene posibilidades «ilimitadas» gracias a su grupo creativo.

Tanto Murdoch como McGuire expresaron algunas de las mismas preocupaciones que Hinton, pero su tono fue decididamente menos alarmista. Murdoch enfatizó que DeepMind quería una IA «segura, ética e inclusiva», y señaló las consultas de expertos y las inversiones educativas como evidencia. El ejecutivo insiste en que está abierto a la regulación, pero solo mientras permita «avances sorprendentes». A su vez, McGuire dijo que Roblox siempre lanzó herramientas generativas de inteligencia artificial con moderación de contenido, se basó en diversos conjuntos de datos y practicó la transparencia.

Algo de esperanza para el futuro

Foto de Jon Fingas/Engadget

A pesar de los titulares que resumen sus comentarios recientes, el entusiasmo general de Hinton por la IA no ha disminuido después de dejar Google. Si no hubiera renunciado, estaba seguro de que estaría trabajando en modelos de IA multimodal donde la visión, el lenguaje y otras señales ayudan a informar las decisiones. “Los niños pequeños no aprenden solo del lenguaje”, dijo, sugiriendo que las máquinas podrían hacer lo mismo. Tan preocupado como está por los peligros de la IA, cree que, en última instancia, podría hacer cualquier cosa que un humano pueda y ya estaba demostrando «pequeños fragmentos de razonamiento». GPT-4 puede adaptarse para resolver acertijos más difíciles, por ejemplo.

Hinton reconoce que su charla sobre Colisión no dijo mucho sobre los buenos usos de la IA, como la lucha contra el cambio climático. El avance de la tecnología de IA probablemente fue saludable, incluso si todavía era importante preocuparse por las implicaciones. Y Hinton admitió abiertamente que su entusiasmo no ha disminuido a pesar de los problemas éticos y morales que se avecinan. “Me encantan estas cosas”, dijo. “¿Cómo no puedes amar hacer cosas inteligentes?”

20 de febrero de 2023

Esta guerra tiene una cualidad peculiar: de alguna manera se extiende hacia adelante y hacia atrás al mismo tiempo. A menudo escuchamos que sobrevivimos un día más, y eso significa que estamos un día más cerca de nuestra victoria. En realidad parece ser al revés: sobrevivimos un día, pero la victoria está a dos, cinco o diez días. El final de esta guerra está cada vez más lejos de nosotros.

Esto crea una sensación flotante de irrealidad: ningún objeto real, excepto el horizonte, puede comportarse así.

«Tal vez todos estamos soñando y no habrá guerra», dice Lena. Incluso si realmente es un sueño, no podremos despertar de él durante mucho tiempo.

La gente en Kharkiv dice que todos los paramédicos de nuestro hospital psiquiátrico, el Hospital Psiquiátrico No. 3 o Zaburova Dacha, sobre el que circulan miles de bromas, han sido reclutados. No se si es verdad o es solo un rumor. Probablemente no todos se vean afectados.

¿Pero por qué no? Después de todo, un paramédico en un hospital psiquiátrico es un hombre relativamente joven y físicamente fuerte que ha recibido formación médica. Sabe cómo comportarse en situaciones peligrosas y cómo lidiar con los locos y los locos, lo que lo hace particularmente útil en la lucha contra los rusos y el «racismo», la plaga mental del siglo XXI.

Mientras tanto, el flujo de armas modernas de EE. UU. y otros países que hasta ahora han apoyado a Ucrania en esta guerra puede comenzar a agotarse. Se dice que a los arsenales occidentales les resulta cada vez más difícil mantenerse al día con la intensidad de los combates y que no hay tiempo para reconstruir proyectiles y cohetes.

Rusia, oscura, evasora de sanciones y tecnológicamente atrasada, se las arregla para seguir produciendo proyectiles y misiles, mientras que Occidente no. El ejército ucraniano se está quedando rápidamente sin proyectiles de artillería, misiles guiados antitanque y misiles tierra-aire necesarios para destruir los tanques y misiles de crucero rusos.

En Rusia, las fábricas de armamento trabajaban en tres turnos para poder cumplir con las demandas del frente, se nos dice. Es desalentador saber que la fabricación rusa continuará operando en tres turnos durante al menos cien años y entregará lo que necesita. Esta guerra nunca se detendrá.

Es extraño que la Rusia pobre y subdesarrollada de Vladimir Putin esté tan bien situada en un lado de la balanza como lo están cincuenta países tecnológicamente avanzados del mundo civilizado en el otro. Casi parece que alguien está manipulando la balanza.

Hay una canción popular rusa en la que una chica no quiere casarse y con razón se niega, porque probablemente todavía es una niña. La madre tranquiliza a su hija todo el tiempo y le dice que nadie la va a regalar. La canción tiene forma de diálogo y es realmente conmovedora.

«Madre, madre, ¿por qué hay polvo en el campo?» – «Querido niño, estos son los caballos corriendo salvajemente».

«¡Madre, madre, los invitados vienen al patio!» – «Querido niño, no te traicionaré.»

«¡Madre, madre, están saliendo al porche!» – «Querido hijo, no tengas miedo.»

«¡Madre, madre, se van a la sala!» – «¡Querido niño, no te traicionaré!»

«¡Madre, madre, siéntense en las mesas!» – «¡Querido hijo, no tengas miedo!»

“Madre, madre, me bendicen. . .» – «Hijo querido, el Señor está contigo».

Parece que el mundo civilizado, en lugar de derribar a Putin lo más rápido posible, está tratando de lidiar con él como lo hizo la madre con su hija en la canción.

«Madre, madre, ¿quieres dar tanques modernos a Ucrania?» – “Querido niño, no lo creo.”

«Madre, madre, ¿Biden llega hoy a Ucrania?» – «Querido niño, sólo visitará Polonia.»

Y así sucesivamente, tan lentamente como se derriten los glaciares y tan tenazmente como crece la hierba.

Pero en la canción es sólo la niña la que sufre. En realidad, cientos de nuestros soldados mueren todos los días. Morirán mientras el cálculo triunfe sobre la moralidad. Y si nada cambia, llegará el día en que el cuerpo del último paramédico del último hospital psiquiátrico ucraniano se pudrirá en una zanja de campo. ¿Así que lo que?

Traducido del inglés por Andreas Breitenstein.