Las empresas tecnológicas megalíticas como Google, Meta y Microsoft están tan obsesionadas con el desarrollo de la IA que parece imposible guiar a ninguna de ellas para que reduzca la velocidad y realmente piense en las repercusiones. Ahora, una de las caras más prominentes en la investigación de la inteligencia artificial, el ex Googler Dr. Geoffrey Hinton, ha criticado duramente el ritmo primaveral del desarrollo de la IA y, en última instancia, exige algún tipo de regulación global.
Según una entrevista con Los New York TimesHinton, un investigador galardonado sobre IA, redes neuronales y aprendizaje automático, ya no se siente tan cómodo empujando los límites del desarrollo de IA sin mcualquier tipo de regulación o medida provisional. Hinton, de 75 años, quien fue investigador principal en cualquier aspecto del desarrollo de inteligencia artificial en Google, dijo: «Es difícil ver cómo se puede evitar que los malos actores usen [AI] por cosas malas.”
Se comparó directamente con Robert Oppenheimer, quien ayudó a desarrollar la bomba atómica para los EE. [AI] más hasta que hayan comprendido si pueden controlarlo”. Además, compartió sus preocupaciones de que la IA conduciría a Interrupciones laborales masivas en todo el mundo..
Hinton obtuvo su título de ‘Padrino’ no con una oferta que no pueda rechazar, sino con décadas de investigación sobre IA. Esto llegó a un punto crítico con la red neuronal que ayudó a construir en 2012 con dos de sus estudiantes en la Universidad de Toronto. Esa red era un programa de aprendizaje automático que podía aprender por sí mismo a identificar objetos como perros, flores, etc., y se convirtió en un importante trampolín para la IA moderna basada en transformadores, como los generadores de imágenes de IA de difusión y los grandes modelos de lenguaje.
Google había adquirido originalmente la empresa formada a partir de la investigación con sede en Toronto de Hinton en 2013. Esto le permitió establecer una Elemento de Google Brain con sede en Toronto equipo que supervisa el desarrollo de IA. Después de eso, Google se embarcó en una ola de gastos en inteligencia artificial cuando adquirió la empresa de aprendizaje profundo DeepMind en 2014. La empresa de Hinton, según un informe de 2021 informe por cablerecibió numerosas ofertas de gigantes tecnológicos como Microsoft y Baidu, con sede en China, ambos en lo profundo del fango con su propio empuje hacia la IA desarrollo. En una entrevista de marzo con Noticias CBSHinton comparó los rápidos avances recientes en IA con «la revolución industrial o la electricidad, o tal vez la rueda».
No está claro cuándo Hinton hizo este cambio de rumbo, pero hace solo unos meses, en cambio, estaba refiriéndose a la IA como “niño sobrenaturalmente precoz”. Comparó el entrenamiento de IA con orugas que se alimentan de nutrientes para convertirse en mariposas. llamando más El modelo de lenguaje grande GPT-4 de OpenAI es la «mariposa de la humanidad».
Según el Times, en abril, Hinton le dijo a Google que planeaba irse y finalmente cortó el cable después de una llamada con el director ejecutivo Sundar Pichai el jueves pasado. Aunque The New York Times dio a entender que Hinton había dejado Google para ofenderse específicamente con su antiguo jefe, el ganador del Premio Turing afirmó que solo deseaba hablar sobre los peligros de la IA y agregó que «Google ha actuado de manera muy responsable».
La partida de Hinton se produce en un momento de reorganización masiva en su antigua empresa. tras despidos masivos. El mes pasado, Google anunció que era consolidando dos de sus equipos de IA más importantes juntos. Combinando los equipos de Google Brain y DeepMind en una unidad y también reorganizó su liderazgo en IA, con el líder de Brain, Jeff Dean, siendo trasladado a un puesto de científico jefe, mientras que el CEO de DeepMind, Demis Hassabis, tomará el control de todo el desarrollo de IA.
Hasta ahora, los llamados abiertos para detener el desarrollo de la IA provienen de fuera de la gran tecnología. En marzo, cientos de mentes e investigadores destacados hizo circular una carta abierta exigiendo a las empresas que detuvieran los sistemas avanzados de IA. La carta criticaba cómo las principales empresas tecnológicas estaban atrapadas en una «carrera fuera de control para desarrollar y desplegar mentes digitales cada vez más poderosas» que nadie podía predecir o controlar. Aunque eso no quiere decir que la gente dentro de estas empresas no tenga reparos. Un informe reciente de Bloomberg afirmó que las personas dentro de Google estaban especialmente preocupadas por la empresa IA de bardo. El personal dijo que el chatbot era tan malo que constantemente proporcionar información errónea y mentiras a los usuarios.
¿Quiere saber más sobre la IA, los chatbots y el futuro del aprendizaje automático? Consulte nuestra cobertura completa de inteligencia artificialo explore nuestras guías para Los mejores generadores de arte de IA gratuitos, Las mejores alternativas de ChatGPT, y Todo lo que sabemos sobre ChatGPT de OpenAI.