Anuncio publicitario <\/span> <\/p>\n<\/aside>\nGPT-3, posiblemente el m\u00e1s conocido de estos modelos, es una gigantesca red neuronal de aprendizaje profundo con 175 mil millones de par\u00e1metros. Fue entrenado para predecir la siguiente palabra en una oraci\u00f3n dada lo que hab\u00eda antes en cientos de miles de millones de palabras de Internet, libros y Wikipedia. Cuando hac\u00eda una predicci\u00f3n incorrecta, sus par\u00e1metros se ajustaban mediante un algoritmo de aprendizaje autom\u00e1tico.<\/p>\n
Sorprendentemente, GPT-3 puede generar texto cre\u00edble que reacciona a indicaciones como \u00abUn resumen de la \u00faltima R\u00e1pido y furioso<\/em> pel\u00edcula es\u2026\u201d o \u201cEscribe un poema al estilo de Emily Dickinson\u201d. Adem\u00e1s, GPT-3 puede responder a analog\u00edas de nivel SAT, preguntas de comprensi\u00f3n de lectura e incluso resolver problemas aritm\u00e9ticos simples, todo desde aprender a predecir la siguiente palabra.<\/p>\n\nAgrandar
\/<\/span> Un modelo de IA y un cerebro humano pueden generar el mismo lenguaje, pero \u00bflo est\u00e1n haciendo de la misma manera?<\/div>\nJust_Super\/E+ a trav\u00e9s de Getty<\/p>\n<\/figcaption><\/figure>\n
Comparaci\u00f3n de modelos de IA y cerebros humanos<\/h2>\n Sin embargo, la similitud con el lenguaje humano no se detiene aqu\u00ed. La investigaci\u00f3n publicada en Nature Neuroscience demostr\u00f3 que estas redes artificiales de aprendizaje profundo parecen utilizar los mismos principios computacionales que el cerebro humano. El grupo de investigaci\u00f3n, dirigido por el neurocient\u00edfico Uri Hasson, primero compar\u00f3 qu\u00e9 tan bien GPT-2, un \u00abhermano peque\u00f1o\u00bb de GPT-3, y los humanos pod\u00edan predecir la siguiente palabra en una historia tomada del podcast \u00abThis American Life\u00bb: Personas y la IA predijo exactamente la misma palabra casi el 50 por ciento de las veces.<\/p>\n
Los investigadores registraron la actividad cerebral de los voluntarios mientras escuchaban la historia. La mejor explicaci\u00f3n para los patrones de activaci\u00f3n que observaron fue que los cerebros de las personas, como GPT-2, no solo usaban una o dos palabras anteriores al hacer predicciones, sino que se basaban en el contexto acumulado de hasta 100 palabras anteriores. En conjunto, los autores concluyen: \u00abNuestro hallazgo de se\u00f1ales neuronales predictivas espont\u00e1neas cuando los participantes escuchan el habla natural sugiere que la predicci\u00f3n activa puede ser la base del aprendizaje de idiomas de por vida de los humanos\u00bb.<\/p>\n\n Anuncio publicitario <\/span> <\/p>\n<\/aside>\nUna posible preocupaci\u00f3n es que estos nuevos modelos de lenguaje de IA reciben muchos aportes: GPT-3 fue entrenado en una experiencia ling\u00fc\u00edstica equivalente a 20,000 a\u00f1os humanos. Pero un estudio preliminar que a\u00fan no ha sido revisado por pares encontr\u00f3 que GPT-2 a\u00fan puede modelar predicciones de pr\u00f3xima palabra y activaciones cerebrales humanas incluso cuando se entrena en solo 100 millones de palabras. Eso est\u00e1 dentro de la cantidad de informaci\u00f3n ling\u00fc\u00edstica que un ni\u00f1o promedio podr\u00eda escuchar durante los primeros 10 a\u00f1os de vida.<\/p>\n
No estamos sugiriendo que GPT-3 o GPT-2 aprendan el idioma exactamente como lo hacen los ni\u00f1os. De hecho, estos modelos de IA no parecen comprender mucho, si es que comprenden algo, de lo que dicen, mientras que la comprensi\u00f3n es fundamental para el uso del lenguaje humano. A\u00fan as\u00ed, lo que estos modelos prueban es que un alumno, aunque sea uno de silicio, puede aprender un idioma lo suficientemente bien con la mera exposici\u00f3n para producir oraciones gramaticales perfectamente buenas y hacerlo de una manera que se asemeja al procesamiento del cerebro humano.<\/p>\n\nAgrandar
\/<\/span> M\u00e1s ida y vuelta produce m\u00e1s aprendizaje de idiomas.<\/div>\n<\/figcaption><\/figure>\nRepensar el aprendizaje de idiomas<\/h2>\n Durante a\u00f1os, muchos ling\u00fcistas han cre\u00eddo que aprender un idioma es imposible sin una plantilla de gram\u00e1tica integrada. Los nuevos modelos de IA demuestran lo contrario. Demuestran que la capacidad de producir lenguaje gramatical se puede aprender solo de la experiencia ling\u00fc\u00edstica. Asimismo, sugerimos que los ni\u00f1os no necesitan una gram\u00e1tica innata para aprender el idioma.<\/p>\n
\u201cLos ni\u00f1os deben ser vistos, no escuchados\u201d, dice el viejo refr\u00e1n, pero los \u00faltimos modelos de lenguaje de IA sugieren que nada podr\u00eda estar m\u00e1s lejos de la verdad. En cambio, los ni\u00f1os deben participar en conversaciones de ida y vuelta tanto como sea posible para ayudarlos a desarrollar sus habilidades ling\u00fc\u00edsticas. La experiencia ling\u00fc\u00edstica, no la gram\u00e1tica, es clave para convertirse en un usuario competente del idioma.<\/p>\n
Morten H. Christiansen es profesor de psicolog\u00eda en la Universidad de Cornell y Pablo Contreras Kallens es Ph.D. estudiante de psicolog\u00eda en la Universidad de Cornell.<\/p>\n
Este art\u00edculo se vuelve a publicar de The Conversation bajo una licencia Creative Commons. Lea el art\u00edculo original.<\/p>\n