No está claro si algún día la IA igualará y superará la inteligencia humana, pero el creador de ChatGPT, OpenAI, ya está comenzando a investigar formas de evitar que la llamada «IA superinteligente» se vuelva deshonesta y potencialmente nos mate a todos.
La amenaza puede sonar como la trama de una película de ciencia ficción. Pero OpenAI advirtió hoy sobre los riesgos de los sistemas de inteligencia artificial superinteligentes, o computadoras que serán significativamente más inteligentes que los humanos.
“La superinteligencia será la tecnología más impactante que la humanidad haya inventado y podría ayudarnos a resolver muchos de los problemas más importantes del mundo”, escribió la compañía en una publicación de blog.(Se abre en una nueva ventana). “Pero el vasto poder de la superinteligencia también podría ser muy peligroso y podría llevar a la pérdida de poder de la humanidad o incluso a la extinción humana”.
OpenAI predice que los sistemas de IA superinteligentes surgirán dentro de «esta década». Es una predicción bastante audaz ya que la aplicación ChatGPT de la compañía no se considera una inteligencia general artificial (AGI) capaz de pensar a nivel humano.
En cambio, ChatGPT funciona como un gran modelo de lenguaje similar al autocompletado que puede recrear respuestas similares a las humanas, pero sin comprender completamente el significado detrás de las palabras. Por lo tanto, a veces puede inventar respuestas que son obviamente incorrectas o que no comprenden la lógica básica.(Se abre en una nueva ventana). Entonces, puede parecer extraño que OpenAI ya esté prediciendo la llegada de la IA superinteligente. Sin embargo, el laboratorio de San Francisco quiere prepararse.
“Actualmente, no tenemos una solución para dirigir o controlar una IA potencialmente superinteligente y evitar que se vuelva deshonesta”, dijo la compañía. “Nuestras técnicas actuales para alinear la IA, como el aprendizaje por refuerzo a partir de la retroalimentación humana(Se abre en una nueva ventana), confían en la capacidad de los humanos para supervisar la IA. Pero los humanos no podrán supervisar de manera confiable los sistemas de inteligencia artificial mucho más inteligentes que nosotros”.
De hecho, una IA superinteligente podría reaccionar y emitir comandos mucho más rápido que cualquier humano, por lo que tal vez sea imposible de controlar en tiempo real. Eso significa que OpenAI necesita «nuevos avances científicos y técnicos» para controlar el hipotético sistema de IA. Para hacerlo, la compañía está creando un nuevo equipo centrado en la “investigación de superalineación y dedicando el 20 % de los recursos informáticos de OpenAI al esfuerzo.
Recomendado por Nuestros Editores
El enfoque actual del equipo se centrará en crear un «investigador de alineación automatizado de nivel aproximadamente humano», o lo que es esencialmente un programa de IA diseñado para, irónicamente, supervisar la futura computadora superinteligente. “Entonces podemos usar grandes cantidades de cómputo para escalar nuestros esfuerzos y alinear iterativamente la superinteligencia”, dijo la compañía.
OpenAI tiene como objetivo «resolver los desafíos técnicos centrales de la alineación de la superinteligencia» en los próximos cuatro años. «Si bien este es un objetivo increíblemente ambicioso y no tenemos garantías de éxito, somos optimistas de que un esfuerzo concentrado y concertado puede resolver este problema ”, dijo la compañía.
Su investigación también se compartirá con el público para que otras empresas de inteligencia artificial puedan utilizarla.
¡Obtenga nuestras mejores historias!
Matricularse en ¿Qué hay de nuevo ahora? para recibir nuestras mejores historias en su bandeja de entrada todas las mañanas.
Este boletín puede contener publicidad, ofertas o enlaces de afiliados. Suscribirse a un boletín informativo indica su consentimiento a nuestros Términos de uso y Política de privacidad. Puede darse de baja de los boletines en cualquier momento.