\n<\/p>\n
Ayud\u00f3 a la IA a abrirse paso. Ahora, a Geoffrey Hinton le preocupa que los chatbots como GPT-4 puedan causar da\u00f1os graves.<\/p>\n<\/p><\/div>\n<\/div>\n
<\/p>\n Cole Burston\/Bloomberg<\/span><\/p>\n<\/div>\n<\/figcaption><\/figure>\n <\/p>\n Geoffrey Hinton cambi\u00f3 la forma en que las m\u00e1quinas ven el mundo hace aproximadamente una d\u00e9cada. En la Universidad de Toronto, donde entonces era profesor, \u00e9l y dos estudiantes graduados desarrollaron una red neuronal que pod\u00eda analizar miles de fotos y aprender a reconocer objetos como flores o autom\u00f3viles. Y con una certeza que hasta entonces parec\u00eda inalcanzable.<\/p>\n <\/p>\n La empresa que fund\u00f3 Hinton con los dos estudiantes de posgrado fue comprada por Google poco despu\u00e9s por 44 millones de d\u00f3lares. Desde entonces, el psic\u00f3logo cognitivo e inform\u00e1tico de 75 a\u00f1os ha trabajado para la empresa de tecnolog\u00eda y se ha convertido en una de las figuras m\u00e1s destacadas en el campo. En 2018, \u00e9l y dos colegas de mucho tiempo recibieron el Premio Turing, que se considera el Premio Nobel en inform\u00e1tica.<\/p>\n <\/p>\n A principios de esta semana, Hinton, a quien a menudo se hace referencia como el \u00abpadrino\u00bb de la inteligencia artificial (IA), en el New York Times<\/a> anunci\u00f3 su salida de Google. Su edad jug\u00f3 un papel en esto. Pero tambi\u00e9n quiere poder hablar libremente sobre los peligros de la IA en el futuro.<\/p>\n <\/p>\n En declaraciones a la BBC,<\/a> quien luego lo entrevist\u00f3, describe a los chatbots de IA como \u00abbastante peligrosos\u00bb. Dice: \u00abPor el momento no son m\u00e1s inteligentes que nosotros, que yo sepa. Pero creo que podr\u00edan serlo pronto\u00bb.<\/p>\n <\/p>\n <\/p>\n La preocupaci\u00f3n inmediata de Hinton es que Internet podr\u00eda verse inundado con fotos, videos y textos falsos, lo que dejar\u00eda al usuario promedio incapaz de distinguir entre lo que es verdadero y lo que es falso. Le preocupa que la IA ponga patas arriba el mercado laboral, y que personas como asistentes legales o traductores que realizan trabajos rutinarios puedan perder sus empleos.<\/p>\n <\/p>\n Las futuras variantes de la tecnolog\u00eda podr\u00edan incluso representar una amenaza para la humanidad porque a menudo infieren un comportamiento inesperado a partir de la gran cantidad de datos que analizan, dice Hinton. Esto se convertir\u00eda en un problema si las empresas permitieran que la IA no solo generara c\u00f3digo de computadora de manera independiente, sino que tambi\u00e9n lo usara de manera independiente. Teme el d\u00eda en que los sistemas de armas verdaderamente aut\u00f3nomos (robots asesinos) se conviertan en realidad.<\/p>\n <\/p>\n El mismo Hinton ha contribuido al hecho de que la IA se est\u00e1 volviendo tan poderosa que ahora advierte contra ella. Su investigaci\u00f3n pionera en redes neuronales y aprendizaje profundo sent\u00f3 las bases para chatbots generativos como GPT-4 que actualmente electrifican al mundo. Bajo Redes neuronales<\/a> se refiere a sistemas formados por algoritmos que se modelan aproximadamente en la forma en que nuestro cerebro funciona y aprende. Las redes neuronales permiten que una IA aprenda de grandes conjuntos de datos lo que se conoce como aprendizaje profundo<\/a> designada.<\/p>\n <\/p>\n Las redes neuronales han acompa\u00f1ado a Hinton a lo largo de su carrera acad\u00e9mica. En 1972, como estudiante de doctorado en la Universidad de Edimburgo, Hinton descubri\u00f3 su fascinaci\u00f3n por este campo. Ocho a\u00f1os m\u00e1s tarde se convirti\u00f3 en profesor en la Universidad Carnegie Mellon en Pittsburgh, Pensilvania. Pronto decidi\u00f3 mudarse a Toronto. La raz\u00f3n que dio Hinton fue que no quer\u00eda aceptar fondos del Pent\u00e1gono. La mayor parte de la investigaci\u00f3n de IA en Estados Unidos fue financiada por el Departamento de Defensa en ese momento. Hinton siempre ha sido muy esc\u00e9ptico sobre la idea de usar IA en el campo de batalla.<\/p>\n <\/p>\n En 2012, en Toronto, hizo su gran avance en los sistemas neuronales, lo que finalmente llev\u00f3 a Hinton a Google. Ilya Sutskever, uno de los estudiantes de doctorado involucrados, se convirti\u00f3 m\u00e1s tarde en el cient\u00edfico jefe de la empresa Open AI, en la que Microsoft tiene una participaci\u00f3n. Ambas empresas siguieron adelante con el desarrollo de sus redes neuronales, que pod\u00edan procesar una cantidad cada vez mayor de datos. Hinton lo vio como una forma poderosa para que las m\u00e1quinas entendieran y generaran lenguaje. Pero pens\u00f3 que segu\u00eda siendo inferior a la forma en que los humanos manejaban el lenguaje.<\/p>\n <\/p>\n <\/p>\n En el \u00faltimo a\u00f1o ha cambiado de opini\u00f3n. Google y Open AI les hab\u00edan dado a sus chatbots Bard y Chat-GPT cantidades cada vez mayores de datos para procesar, y Hinton lleg\u00f3 a creer que los sistemas hab\u00edan superado parcialmente la inteligencia humana. \u00abTal vez lo que sucede en estos sistemas es en realidad mucho mejor que lo que sucede en el cerebro\u00bb, dijo Hinton al New York Times.<\/p>\n <\/p>\n Durante mucho tiempo, Google tuvo mucho cuidado con las aplicaciones de IA. Eso ahora ha cambiado, dice Hinton. Despu\u00e9s de que Microsoft enriqueciera su motor de b\u00fasqueda Bing con tecnolog\u00eda Open AI, estall\u00f3 una competencia entre las dos empresas que dif\u00edcilmente podr\u00eda detenerse sin una regulaci\u00f3n global. Sin embargo, Hinton estima que las perspectivas de esto son muy escasas. Su esperanza es que los investigadores se unan y trabajen en formas de controlar la tecnolog\u00eda.<\/p>\n <\/p>\n Hinton no est\u00e1 solo en su advertencia sobre el desarrollo de IA no regulado. En marzo de este a\u00f1o, alrededor de mil personas del sector tecnol\u00f3gico llamaron en una carta abierta para interrumpir el entrenamiento de los sistemas de IA durante seis meses.<\/a> Los firmantes tambi\u00e9n incluyen celebridades como Elon Musk, Yuval Noah Harari y Yoshua Bengio, quienes compartieron el Premio Turing 2018 con Hinton. El propio Hinton no firm\u00f3 este y otros llamamientos similares. No quer\u00eda criticar p\u00fablicamente a su empleador en ese momento, dice.<\/p>\n <\/p>\n \u00bfSe arrepiente del trabajo de su vida? Una parte de \u00e9l hace eso, dice hoy. Pero se tranquiliz\u00f3 con la excusa habitual en esos momentos: \u00abSi no lo hubiera hecho yo, lo habr\u00eda hecho otro\u00bb.<\/p>\n <\/p>\n <\/div>\nGeoffrey Hinton (izquierda) ha estado investigando la IA durante a\u00f1os. Ahora advierte de sus peligros.<\/h2>\n
Preoc\u00fapate por las fotos falsas y los robots asesinos<\/span><\/h2>\n
el desarrollo se ha acelerado<\/span><\/h2>\n