Hay muchas opiniones dando vueltas sobre los pros y los contras del futuro de ChatGPTpero Arvind Narayanan, profesor de informática de la Universidad de Princeton, cree que la exageración sigue exagerado en este punto.
En una entrevista con El marcado la semana pasada, Narayanan amplió su reclamo anterior que ChatGPT es un «generador de tonterías» en su boletín sobre AI Snake petróleo. Narayanan argumenta que, dado que ChatGPT no está capacitado para producir texto verdadero, está capacitado para producir texto plausible: la precisión es un efecto secundario de su objetivo de ser persuasivo. Esto significa que la salida de ChatGPT generalmente puede sonar correcta, pero eventualmente fallará espectacularmente y producirá información errónea flagrante, que Narayanan dice que no es una buena opción para algo como educacióno periodismo.
“CNET ha estado publicando artículos escritos por AI sin la divulgación adecuada, hasta 75 artículos, y algunos resultaron tener errores que un escritor humano probablemente no habría cometido”, dijo Narayanan a The Markup. “Este no fue un caso de malicia, pero este es el tipo de peligro por el que deberíamos estar más preocupados hacia dónde recurre la gente debido a las limitaciones prácticas que enfrentan. Cuando combinas eso con el hecho de que la herramienta no tiene una buena noción de la verdad, es una receta para el desastre”.
Narayanan compara las habilidades de ChatGPT con las de DALLE-E’s. Él dice que la IA solía ser simplemente capaz de hacer la distinción entre dos imágenes, pero con la nueva tecnología, la IA puede revertir ese proceso y crear una imagen de un gato o un perro. ChatGPT se comporta de la misma manera, pero con texto: en lugar de encontrar las diferencias entre dos pasajes, puede producir otros completamente nuevos. Si bien esto puede indicar que la tecnología y las capacidades de ChatGPT aún están en pañales, Narayanan es consciente de que a las personas les preocupa cómo la IA podría revolucionar la fuerza laboral o, peor aún, costarles su trabajo.
“Algunos trabajos se han vuelto más eficientes. Algunos trabajos se han automatizado, por lo que las personas se han vuelto a capacitar o han cambiado de carrera. Hay algunos efectos nocivos de estas tecnologías, pero estamos aprendiendo a regularlos”, dijo. “Incluso con algo tan profundo como Internet, los motores de búsqueda o los teléfonos inteligentes, resultó ser una adaptación, donde maximizamos los beneficios y tratamos de minimizar los riesgos, en lugar de una especie de revolución. No creo que los grandes modelos de lenguaje estén siquiera en esa escala”.
G/O Media puede recibir una comisión
ChatGPT ha visto una creciente ola de popularidad desde su lanzamiento público hace solo unos meses, un nivel de popularidad que incluso ha conmocionó a sus creadores. En ese tiempo, la gente ha comenzado a experimentar con las diferentes habilidades del chatbot. En el caso de que ChatGPT tome una Examen final de nivel de MBA de Wharton, la IA aprobó, pero demostró algunos problemas claros con la aritmética de sexto grado. Si bien la revolución de la IA está sobre nosotros, una toma de control total de la fuerza laboral humana no es inminente.