Lo que necesitas saber
- Elon Musk dice que la IA tiene el potencial de apoderarse o incluso acabar con la humanidad, y sitúa la probabilidad de que esto suceda entre el 10 y el 20 por ciento.
- Independientemente del peligro inminente, Musk dice que se deben explorar más avances en el panorama de la IA.
- Un investigador de AI Safety dice que la probabilidad de que la IA acabe con la humanidad es mayor de lo que Musk percibe, y afirma además que es casi seguro y que la única forma de evitar que suceda es no construirla en primer lugar.
- Otros investigadores y ejecutivos se hacen eco de sentimientos similares basados en el teorema p(doom).
IA generativa Puede verse como una herramienta beneficiosa o perjudicial. Es cierto que hemos visto hazañas impresionantes en todo medicamento, informática, educación y más impulsados por la IA. Pero, por otro lado, se han planteado cuestiones críticas y preocupantes sobre la tecnología, desde El alter ego del copiloto — Supremacía AGI exigiendo ser adorada La IA exige una cantidad escandalosa de agua para enfriarsin olvidar el preocupaciones sobre el consumo de energía.
Elon Musk ha expresado bastante claramente sus puntos de vista sobre la IA, generando muchas controversias en torno al tema. Recientemente, el multimillonario se refirió a la IA como «La mayor revolución tecnológica.«, pero indicó que no habrá suficiente energía para 2025, lo que en última instancia obstaculizará un mayor desarrollo en el paisaje.
Mientras estaba en la Cumbre de la Abundancia, Elon Musk indicó que «existe alguna posibilidad de que acabe con la humanidad». Y aunque el multimillonario no compartió cómo llegó a esta conclusión, dice que hay entre un 10 y un 20 por ciento de posibilidades de que la IA acabe con la humanidad (a través de Business Insider).
Por extraño que parezca, Musk cree que las áreas potenciales de crecimiento y los avances en el panorama de la IA aún deben explorarse, y cita: «Creo que el probable escenario positivo supera al escenario negativo».
La IA es todo pesimismo según p(doom)
Mientras hablaba con Business Insider, un investigador de seguridad de IA y director del Laboratorio de Seguridad Cibernética de la Universidad de Louisville, Roman Yampolskiy reveló que la probabilidad de que la IA acabe con la humanidad es mucho mayor. Se refirió a la estimación de Musk del 10 al 20 por ciento como «demasiado conservadora».
LEER MÁS: El presidente de Microsoft compara la IA con Terminator
El investigador de seguridad de IA dice que el riesgo es exponencialmente alto y se refiere a él como «p(doom)». Para contextualizar, p(doom) se refiere a la probabilidad de que la IA generativa se apodere de la humanidad o, peor aún, que la acabe.
Todos conocemos las preocupaciones sobre privacidad y seguridad que rodean a la IA; la batalla entre Estados Unidos y China es un gran punto de referencia. El año pasado, Estados Unidos impuso reglas de exportación que impiden a los fabricantes de chips como NVIDIA enviar chips a China (incluido la GeForce RTX 4090).
El gobierno de Estados Unidos indicó categóricamente que la medida no estaba diseñada para debilitar la economía de China, sino una medida de seguridad diseñada para evitar el uso de IA en avances militares.
Elon Musk expresó preocupaciones similares sobre Modelo GPT-4 de OpenAI en su demanda contra la startup de IA y su director ejecutivo Sam Altman. La falta de medidas elaboradas y barreras de seguridad para evitar que la tecnología se salga de control es alarmante. Musk dice que el modelo constituye AGI y quiere que sus investigaciones, hallazgos y avances tecnológicos sean fácilmente accesibles al público.
La mayoría de los investigadores y ejecutivos familiarizados con (p)doom sitúan el riesgo de que la IA se apodere de la humanidad entre el 5 y el 50 por ciento, como se ve en Los New York Times. Por otro lado, Yampolskiy dice que el riesgo es extremadamente alto, con una probabilidad del 99,999999%. El investigador dice que es prácticamente imposible controlar la IA una vez que se alcanza la superinteligencia, y la única forma de evitarlo es no construirla.
En una entrevista separada, Musk dijo:
«Creo que realmente estamos al borde de probablemente la mayor revolución tecnológica que jamás haya existido. Ya sabes, supuestamente existe una maldición china: ‘Que vivas en tiempos interesantes’. Bueno, vivimos en una época muy interesante. Por un tiempo, francamente, eso me deprimió un poco. Pensé: Bueno, ¿se harán cargo? ¿Seremos inútiles?
Musk compartió estos comentarios mientras hablaba sobre el programa Optimus de Tesla y agregó que los robots humanoides son tan buenos como los humanos cuando manejan tareas complejas. En broma, indicó que esperaba que los robots fueran amables con nosotros cuando comience la evolución.