Otro conocido tecnólogo de IA está hablando sobre los posibles peligros de la IA.
«Es difícil ver cómo puedes evitar que los malos actores lo usen para cosas malas», dice Geoffrey Hinton.(Se abre en una nueva ventana) Los New York Times. «Me consuelo con la excusa normal: si no lo hubiera hecho yo, lo habría hecho otro».
Hinton, de 75 años, renunció a Google el mes pasado después de más de una década para «hablar libremente sobre los riesgos de la IA», el Veces dice. Ganó un Premio Turing 2018 por ser pionero en parte de la tecnología que ahora impulsa ChatGPT y herramientas de IA generativas similares, y se ha ganado el apodo de «Padrino de la IA», pero ahora dice que una parte de él lamenta el trabajo de su vida.
La preocupación inmediata de Hinton es la difusión de información errónea: una avalancha de fotos, videos y textos falsos que hacen imposible saber «lo que es verdad». Las nuevas herramientas que crean deepfakes, o clones generados por computadora de la voz y la apariencia de una persona famosa, facilitan que cualquier persona con una computadora y conexión a Internet tergiverse las figuras públicas.
Midjourney, por ejemplo, detuvo recientemente el acceso gratuito a su generador de imágenes de IA en medio de un aumento en la demanda. Algunas personas estaban usando la plataforma para generar imágenes falsas de figuras públicas como Donald Trump (ver más abajo), Elon Musk y el Papa.
Hinton también dice que la IA reemplazará los trabajos a un ritmo alarmante. Reconoce que la mayoría de estos puestos son «trabajo pesado», pero AI «podría llevarse más que eso», dice.
A largo plazo, teme que las máquinas comiencen a exhibir un comportamiento no planificado, como escribir y ejecutar el código original por su cuenta. El resultado más apocalíptico de esto podría venir en forma de armas autónomas, robots asesinos, a los que Hinton se opone firmemente. (Los legisladores estadounidenses se movieron recientemente para asegurarse de que AI no participe en el lanzamiento de armas nucleares).
Hinton dice que Google fue un «administrador adecuado» de la IA durante la mayor parte de su mandato, pero el otoño pasado emitió un «código rojo» interno tras el lanzamiento del chatbot Bing AI de Microsoft. Posteriormente, Google lanzó Bard, y los dos gigantes tecnológicos ahora están «encerrados en una competencia que podría ser imposible de detener», dice Hinton al Veces.
Hinton no agregó su firma a una carta abierta de marzo firmada por Elon Musk, Steve Wozniak y cientos de otros expertos en IA que pedían una pausa temporal en el desarrollo de IA porque quería dejar Google antes de hablar.
Recomendado por Nuestros Editores
Hinton habló con el CEO de Google, Sundar Pichai, antes de su partida, pero se negó a decirle al Veces lo que discutieron.
Sin embargo, Google se ha enredado con ex empleados que criticaron su enfoque de la IA. En 2020, Timnit Gebru, investigador de IA, fue despedido después de advertencia(Se abre en una nueva ventana) de la capacidad de los grandes modelos lingüísticos para propagar retórica racista, sexista y dañina y difundir información errónea. En 2022, Blake Lemoine llamó al chatbot Google LaMDA «consciente» y acusó a Google de competir para llevar el producto al mercado sin comprender completamente sus capacidades. También lo dejaron ir.
Google ahora está trabajando en Bard, que se basa en una versión ligera de LaMDA. Pichai dice que la compañía planea agregar Bard al motor de búsqueda principal en algún momento, mientras que, según se informa, funciona en un motor de búsqueda separado basado en IA denominado Magi. Microsoft ya actualizó su motor de búsqueda Bing con una experiencia basada en chatbot de IA.
En un comunicado, Google le dice a la Veces que está «comprometido con un enfoque responsable de la IA. Estamos continuamente aprendiendo a comprender los riesgos emergentes al mismo tiempo que innovamos con audacia».
¡Obtenga nuestras mejores historias!
Matricularse en ¿Qué hay de nuevo ahora? para recibir nuestras mejores historias en su bandeja de entrada todas las mañanas.
Este boletín puede contener publicidad, ofertas o enlaces de afiliados. Suscribirse a un boletín informativo indica su consentimiento a nuestros Términos de uso y Política de privacidad. Puede darse de baja de los boletines en cualquier momento.