Vint Cerf, uno de los padres fundadores de Internet, tiene algunas palabras duras para la tecnología repentinamente caliente detrás del chatbot ChatGPT AI: «Aceite de serpiente».
El evangelista de Internet de Google no estaba completamente decepcionado con la tecnología de inteligencia artificial detrás de ChatGPT y el propio Bard de la competencia de Google, llamado modelo de lenguaje grande. Pero, hablando el lunes en la Cumbre TechSurge de Celesta Capital, advirtió sobre los problemas éticos de una tecnología que puede generar información que suena plausible pero incorrecta, incluso cuando se entrena sobre una base de material fáctico.
Si un ejecutivo intentara que aplicara ChatGPT a algún problema comercial, su respuesta sería llamarlo aceite de serpiente, en referencia a los medicamentos falsos que vendían los curanderos en el siglo XIX, dijo. Otra metáfora de ChatGPT involucraba electrodomésticos de cocina.
«Es como un tirador de ensaladas: ya sabes cómo la lechuga va por todas partes», dijo Cerf. «Los hechos están por todas partes, y los mezcla porque no sabe nada mejor».
Cerf compartió el Premio Turing 2004, el máximo galardón en computación, por ayudar a desarrollar la base de Internet llamada TCP/IP, que transfiere datos de una computadora a otra dividiéndola en pequeños paquetes dirigidos individualmente que pueden tomar diferentes rutas desde la fuente a la otra. destino. No es un investigador de IA, pero es un ingeniero informático al que le gustaría ver a sus colegas mejorar las deficiencias de la IA.
ChatGPT de OpenAI y competidores como Bard de Google tienen el potencial de transformar significativamente nuestras vidas en línea al responder preguntas, redactar correos electrónicos, resumir presentaciones y realizar muchas otras tareas. Microsoft ha comenzado a incorporar la tecnología de lenguaje de OpenAI en su motor de búsqueda Bing en un desafío significativo para Google, pero utiliza su propio índice de la web para tratar de «aterrizar» los vuelos de fantasía de OpenAI con documentos autorizados y confiables.
Cerf dijo que se sorprendió al saber que ChatGPT podría fabricar información falsa a partir de una base fáctica. “Le pedí: ‘Escríbeme una biografía de Vint Cerf’. Se equivocó en un montón de cosas», dijo Cerf. Fue entonces cuando aprendió el funcionamiento interno de la tecnología, que utiliza patrones estadísticos detectados a partir de grandes cantidades de datos de entrenamiento para construir su respuesta.
«Sabe cómo unir una oración que es gramaticalmente probable que sea correcta», pero no tiene un conocimiento real de lo que está diciendo, dijo Cerf. «Estamos muy lejos de la autoconciencia que queremos».
OpenAI, que a principios de febrero lanzó un plan de $ 20 por mes para usar ChatGPT, ha sido claro acerca de las deficiencias de la tecnología, pero apunta a mejorarla a través de la «iteración continua».
«ChatGPT a veces escribe respuestas que suenan plausibles pero incorrectas o sin sentido. Solucionar este problema es un desafío», dijo el laboratorio de investigación de IA cuando lanzó ChatGPT en noviembre.
Cerf también espera progreso. «Los ingenieros como yo deberían ser responsables de tratar de encontrar una manera de domar algunas de estas tecnologías para que sea menos probable que causen problemas», dijo.
Los comentarios de Cerf contrastaron con los de otro ganador del premio Turing en la conferencia, el pionero en diseño de chips y expresidente de Stanford, John Hennessy, quien ofreció una evaluación más optimista de la IA.
Nota de los editores: CNET está utilizando un motor de inteligencia artificial para crear algunos explicadores de finanzas personales que nuestros editores editan y verifican. Para obtener más información, consulte esta publicación.