{"id":483543,"date":"2023-02-25T21:25:42","date_gmt":"2023-02-25T21:25:42","guid":{"rendered":"https:\/\/magazineoffice.com\/es-absurdo-hablar-de-inteligencia-artificial-en-chat-gpt\/"},"modified":"2023-02-25T21:25:44","modified_gmt":"2023-02-25T21:25:44","slug":"es-absurdo-hablar-de-inteligencia-artificial-en-chat-gpt","status":"publish","type":"post","link":"https:\/\/magazineoffice.com\/es-absurdo-hablar-de-inteligencia-artificial-en-chat-gpt\/","title":{"rendered":"\u00abEs absurdo hablar de inteligencia artificial en Chat-GPT\u00bb"},"content":{"rendered":"


\n<\/p>\n

<\/p>\n
\n
\n

La ling\u00fcista computacional Emily Bender advirti\u00f3 hace a\u00f1os contra el uso de programas de chat para buscar en la web. En una entrevista, explica qu\u00e9 tiene que ver la moda actual de la IA con las fantas\u00edas de ciencia ficci\u00f3n.<\/p>\n<\/p><\/div>\n<\/div>\n

<\/p>\n

\n
<\/div>
\n
\n

\u00bfPor qu\u00e9 deber\u00edamos tratar de construir computadoras que piensen y sientan como nosotros?<\/h2>\n

Edwin Koo\/Bloomberg<\/span><\/p>\n<\/div>\n<\/figcaption><\/figure>\n

<\/p>\n

Usted ha estado involucrado con la tecnolog\u00eda del lenguaje durante a\u00f1os. Desde que se lanz\u00f3 Chat-GPT, ha habido un gran revuelo al respecto. \u00bfViste venir esto?<\/p>\n

<\/p>\n

He visto este bombo durante a\u00f1os. Ahora tambi\u00e9n ha llegado a personas que de otro modo no est\u00e1n tan preocupadas por la tecnolog\u00eda. Puedes intentar chatear con GPT t\u00fa mismo. O puedes leer en las redes sociales lo que puede hacer el chatbot. Sin embargo, estos ejemplos no son representativos: se comparten esos momentos en los que la IA es particularmente impresionante, o falla de manera particularmente miserable.<\/p>\n

<\/p>\n

Es conocido por su visi\u00f3n cr\u00edtica de los avances en la IA del habla. \u00bfQu\u00e9 le molesta del discurso al respecto?<\/p>\n

<\/p>\n

\u00a1Hay mucho! La atenci\u00f3n se centra a menudo en lo grande que es la m\u00e1quina. Eso distrae a las personas que est\u00e1n detr\u00e1s. Los programas de idiomas no aprenden m\u00e1gicamente por s\u00ed mismos, hay mucho trabajo detr\u00e1s de esto por parte de los desarrolladores y de las personas que etiquetan y clasifican los datos. Por lo general, trabajan en pa\u00edses con salarios bajos, y parte de su trabajo es buscar representaciones de violencia, pornograf\u00eda, insultos, etc. para que el chatbot no escupa ese tipo de cosas m\u00e1s adelante. Las condiciones de trabajo suelen ser malas, como investig\u00f3 \u00abTime Magazine\u00bb en el caso de Chat-GPT.<\/p>\n

<\/p>\n

Si las condiciones de trabajo fueran aceptables, se podr\u00eda decir: este es el precio de un producto interesante. <\/p>\n

<\/p>\n

No veo mucho valor en una m\u00e1quina que genera texto sint\u00e9tico. Y desafortunadamente, muchas ideas realmente malas sobre para qu\u00e9 usar el chat GPT est\u00e1n surgiendo en este momento.<\/p>\n

<\/p>\n

\n

a persona<\/h3>\n
\n
\n
\"Emily<\/div>\n

PD<\/span><\/p>\n<\/div>\n

<\/figure>\n

Emily Bender – Profesora de la Universidad de Washington<\/h2>\n

Emily Bender recibi\u00f3 su doctorado en Ling\u00fc\u00edstica de la Universidad de Stanford en 2000. Tras estancias de investigaci\u00f3n y experiencia en el sector privado, se traslad\u00f3 a la Universidad de Washington en 2004. Bender dirige all\u00ed el laboratorio de investigaci\u00f3n de ling\u00fc\u00edstica computacional. Tambi\u00e9n es vicepresidenta de la Society for Computational Linguistics.<\/p>\n<\/div>\n

<\/p>\n

\u00bfPor ejemplo?<\/p>\n

<\/p>\n

Una idea es usar los sistemas de IA con personas con problemas de salud mental en lugar de un terapeuta humano. La empresa Do Not Pay aconseja a las personas que usen su algoritmo para defenderse en los tribunales: deben leer las respuestas de la m\u00e1quina. Los encuentro a ambos muy irresponsables. Cualquiera que venda algo as\u00ed tendr\u00eda que cumplir unas normas, unas normas m\u00ednimas. Pero no lo hay. Ni siquiera se sabe c\u00f3mo se program\u00f3 exactamente Chat-GPT: \u00bfqu\u00e9 datos se utilizaron? \u00bfCu\u00e1les fueron los pasos de trabajo en detalle? Todo esto debe ser conocido por cualquiera que use este modelo para cualquier cosa relevante. Porque lo que dice el modelo depende de estas cosas.<\/p>\n

<\/p>\n

\u00bfNecesitamos nuevas leyes para la IA?<\/p>\n

<\/p>\n

No est\u00e1 claro si se necesitan nuevas reglas o si las reglas existentes ser\u00e1n suficientes si se aplican. El problema es que cuanto m\u00e1s hablamos de inteligencia artificial en lugar de tecnolog\u00edas espec\u00edficas como la s\u00edntesis de voz o los motores de b\u00fasqueda, m\u00e1s diferente, nuevo y dif\u00edcil de regular parece el campo. Entonces parece que no estamos tratando con m\u00e1quinas, sino con actores. Es absurdo hablar de inteligencia artificial en productos de hoy en d\u00eda como Chat-GPT.<\/p>\n

<\/p>\n

Muchos profesionales me dicen que no escriba sobre inteligencia artificial. Pero el t\u00e9rmino t\u00e9cnico \u00abaprendizaje autom\u00e1tico\u00bb tampoco es m\u00e1s claro. \u00bfQue sugieres?<\/p>\n

<\/p>\n

A mi colega Alex Hanna se le ocurri\u00f3 la idea de usar la palabra \u00abmathy-math\u00bb en su lugar. en uno Video<\/a> Para nuestra serie conjunta, le\u00edmos una publicaci\u00f3n de blog de un gerente de Google y reemplazamos el t\u00e9rmino AI con \u00abMathy-Math\u00bb. En realidad, solo hay matem\u00e1ticas detr\u00e1s de esto. Pero preguntar: \u00ab\u00bfDeber\u00eda ‘Mathy-Math’ asumir la responsabilidad moral?\u00bb de repente suena est\u00fapido. Eso pr\u00e1cticamente desacredita el bombo.<\/p>\n

<\/p>\n

Sin embargo, las matem\u00e1ticas conducen a resultados sorprendentes. Chat-GPT puede incluso contar chistes que no se han visto antes en Internet. \u00bfEs una exageraci\u00f3n decir que tal modelo tiene una determinada visi\u00f3n del mundo?<\/p>\n

<\/p>\n

Eso depende de lo que entiendas por imagen del mundo. Lo que GPT y modelos similares poseen es informaci\u00f3n muy detallada sobre la distribuci\u00f3n de palabras. Esta distribuci\u00f3n no es aleatoria. Depende de lo que ciertas personas hayan escrito en la web. Refleja una imagen del mundo. Pero eso no significa que el programa pueda abstraer, que pueda pensar l\u00f3gicamente. Las cantidades de datos son tan grandes, la informaci\u00f3n sobre la distribuci\u00f3n de palabras es tan precisa que ni siquiera podemos imaginarlo. Es contrario a la intuici\u00f3n pensar que un chiste puede surgir de este proceso computacional. La conclusi\u00f3n intuitiva es: wow, este chatbot es divertido. Tiene humor. \u00c9l sabe algo sobre el mundo. M\u00e1s a\u00fan porque estos bots imitan la forma en que las personas escriben y hablan. Pero un chatbot solo conoce distribuciones de palabras, que a su vez reflejan los pensamientos de las personas sobre el mundo.<\/p>\n

<\/p>\n

Aquellas personas cuyos textos est\u00e1n en l\u00ednea. . .<\/p>\n

<\/p>\n

S\u00ed, y eso es algo completamente diferente a tener acceso a la realidad. Estas cosmovisiones tambi\u00e9n incluyen, por ejemplo, los prejuicios y la discriminaci\u00f3n que son parte de nuestra sociedad. Ideas impl\u00edcitas sobre cu\u00e1l es la persona normal y cu\u00e1les son las desviaciones. Son parte de nuestro lenguaje. Y cualquier sistema construido sobre el lenguaje reproducir\u00e1 mec\u00e1nicamente estos juicios impl\u00edcitos.<\/p>\n

<\/p>\n

Alg\u00fan objeto: la gente tambi\u00e9n tiene prejuicios. \u00bfPor qu\u00e9 los est\u00e1ndares para la IA deber\u00edan ser mucho m\u00e1s altos?<\/p>\n

<\/p>\n

Siempre me frustra cuando surge este argumento. \u00a1El hecho de que la gente haga cosas est\u00fapidas no es excusa para automatizar estas cosas est\u00fapidas y repetirlas a gran escala! Esta comparaci\u00f3n tambi\u00e9n oscurece el hecho de que los humanos y las m\u00e1quinas cometen sus errores de maneras muy diferentes. Y cuando una persona hace algo mal, es responsable. Las personas tambi\u00e9n son responsables del software. La m\u00e1quina no tiene la culpa, sino quienes la fabrican y utilizan.<\/p>\n

<\/p>\n

Su educaci\u00f3n b\u00e1sica es la ling\u00fc\u00edstica: abord\u00f3 la ling\u00fc\u00edstica computacional desde este punto de vista y luego aprendi\u00f3 inform\u00e1tica. Para la mayor\u00eda de los ling\u00fcistas computacionales, es al rev\u00e9s. \u00bfSientes diferencias en el enfoque?<\/p>\n

<\/p>\n

Definitivo. He visto que el campo se vuelve cada vez m\u00e1s unilateral. Ha crecido con m\u00e1s y m\u00e1s personas del campo de la inform\u00e1tica. Tiene que ver con la financiaci\u00f3n. Los patrocinadores p\u00fablicos y privados se mostraron entusiastas y pusieron mucho dinero en inform\u00e1tica. Mucho menos fue a la ling\u00fc\u00edstica. Hoy los ingenieros son la mayor\u00eda. Cuando empec\u00e9 a trabajar con inform\u00e1ticos, era muy confuso.<\/p>\n

<\/p>\n

\u00bfPor qu\u00e9?<\/p>\n

<\/p>\n

Hablamos uno al lado del otro. Solo despu\u00e9s de un tiempo entend\u00ed: simplemente est\u00e1bamos interesados \u200b\u200b\u200b\u200ben cosas completamente diferentes. Para m\u00ed el lenguaje era interesante en s\u00ed mismo, para ella el lenguaje era interesante por la informaci\u00f3n sobre el mundo que contiene. Imagina una ventana lluviosa mirando hacia afuera. El disco y las gotas sobre \u00e9l son lenguaje. Me interesa su naturaleza y c\u00f3mo reflejan el mundo, reflejado y distorsionado. Mis colegas de TI, por otro lado, est\u00e1n interesados \u200b\u200ben lo que hay detr\u00e1s del panel. Entonces la ventana mojada, el lenguaje, es un factor disruptivo para ellos, no lo interesante. <\/p>\n

<\/p>\n

\u00bfUn lado es correcto?<\/p>\n

<\/p>\n

Se necesitan ambos. Si est\u00e1 desarrollando un producto que utiliza procesamiento de lenguaje natural en el cuidado de la salud, entonces necesita a alguien en ling\u00fc\u00edstica que comprenda los entresijos del lenguaje, un experto en aprendizaje autom\u00e1tico y luego alguien en el campo de inter\u00e9s, el cuidado de la salud. Necesita los tres dominios para poder desarrollar un buen producto.<\/p>\n

<\/p>\n

Por el momento se habla de que los chatbots podr\u00edan ser el futuro de la investigaci\u00f3n en Internet. Ya tienes 2022 en un papel profesional<\/a> advertido contra \u00bfPor qu\u00e9?<\/p>\n

<\/p>\n

entiendo la idea La b\u00fasqueda web habitual con su lista de enlaces, eso es trabajo. Con un chatbot, parece que puedes escribir una pregunta y obtener una respuesta de inmediato. Si prueba Chat-GPT, es posible que pregunte algo en su propia \u00e1rea de especializaci\u00f3n y se sorprenda de la respuesta bien formulada. Pero generalmente buscamos en la web cosas que a\u00fan no conocemos. Entonces no necesitamos un p\u00e1rrafo que suene plausible, sino una fuente confiable.<\/p>\n

<\/p>\n

Los chatbots de b\u00fasqueda de Microsoft y Google, Bing y Bart, a veces dan fuentes. \u00bfEsto alivia el problema?<\/p>\n

<\/p>\n

No tan bien. Lo que hace un modelo de lenguaje es predecir qu\u00e9 palabra es m\u00e1s probable que siga. Y luego el siguiente, luego el siguiente. No cita con precisi\u00f3n textos individuales. Las fuentes se pierden en el proceso de formaci\u00f3n. Entonces puedes crear un texto y luego comparar d\u00f3nde hay cosas similares en la red, pero eso es un gran desv\u00edo. O puede ejecutar una b\u00fasqueda en segundo plano y resumir los resultados, pero aqu\u00ed tambi\u00e9n, la llamada \u00abIA\u00bb no es confiable.<\/p>\n

<\/p>\n

\u00bfTienes un ejemplo?<\/p>\n

<\/p>\n

Durante un tiempo, Google escupi\u00f3 una lista de consejos incorrectos cuando buscaba \u00abQu\u00e9 hacer con la epilepsia\u00bb. Eran todas las cosas que tu no<\/em> deber\u00eda hacer. Google hab\u00eda sacado esto de un sitio web, pero desafortunadamente el \u00abno\u00bb se perdi\u00f3 en el proceso. Entonces, para cosas realmente importantes, recomendar\u00eda ir directamente a un sitio web. Esto tiene otras ventajas.<\/p>\n

<\/p>\n

\u00bfCual?<\/p>\n

<\/p>\n

Investigar en Internet te hace m\u00e1s competente. Aprende qu\u00e9 fuentes proporcionan buena informaci\u00f3n. Sobre qu\u00e9 cuestiones hay opiniones diferentes. Tal vez reenv\u00edes una p\u00e1gina que te gusta a tus amigos. Esto, a su vez, beneficia a los operadores. Cuando un chatbot transmite el contenido, quienes brindan la informaci\u00f3n ya no son recompensados.<\/p>\n

<\/p>\n

Tienes una visi\u00f3n muy cr\u00edtica del bombo de la IA. \u00bfPero no crees que hay avances interesantes?<\/p>\n

<\/p>\n

Definitivo. La transcripci\u00f3n autom\u00e1tica, por ejemplo, tiene beneficios tangibles para muchas personas. \u00bfC\u00f3mo hacer esto accesible para m\u00e1s idiomas y m\u00e1s acentos? Esas preguntas me interesan. Cuando se trata de problemas espec\u00edficos que los algoritmos pueden resolver, o c\u00f3mo hacer que los afectados piensen junto con ellos para que los algoritmos no aumenten la discriminaci\u00f3n. Veo valor en eso, esta investigaci\u00f3n me da esperanza. La idea err\u00f3nea es que estamos en el camino hacia la inteligencia artificial general que resolver\u00e1 todos nuestros problemas con solo presionar un bot\u00f3n. <\/p>\n

<\/p>\n

\u00bfQu\u00e9 te irrita de eso?<\/p>\n

<\/p>\n

Simplemente no es cierto que estamos en un camino inevitable hacia un futuro de m\u00e1quinas aut\u00f3nomas con inteligencia similar a la humana. Personajes como Data de \u00abStar Trek\u00bb o Hal de la pel\u00edcula \u00ab2001: Una odisea del espacio\u00bb, amistosos o no, provienen del \u00e1mbito de la ciencia ficci\u00f3n. Mirando hacia atr\u00e1s, parece que hubo un camino que nos llev\u00f3 a donde estamos hoy. Pero en realidad, se exploraron muchas ideas diferentes. No hay un camino hacia el futuro, sino una variedad de cosas para explorar. Pero a menudo se finge que hay un camino y que debemos seguirlo lo m\u00e1s r\u00e1pido posible, porque todos los dem\u00e1s tambi\u00e9n lo est\u00e1n haciendo.<\/p>\n

<\/p>\n

\u00bfNo crees que este tipo de IA existir\u00e1 alg\u00fan d\u00eda?<\/p>\n

<\/p>\n

No estoy interesado en construir algo como esto, as\u00ed que no puedo hacer ninguna predicci\u00f3n. Pero creo que deber\u00edamos pensar detenidamente por qu\u00e9 deber\u00edamos tratar de desarrollar una computadora con inteligencia o incluso conciencia. Cu\u00e1l es el punto de Yo tambi\u00e9n soy aficionado a la literatura especulativa. Pero, \u00bfpor qu\u00e9 recrear estos mundos imaginarios? Ahora mismo se est\u00e1 gastando mucho dinero en esto. En cambio, \u00bfpor qu\u00e9 no cuidar el mundo que ya es? Si queremos invertir mucho dinero en algo para resolver un problema, \u00bfpor qu\u00e9 no en el cambio clim\u00e1tico?<\/p>\n

<\/p>\n

<\/div>\n


\n
Source link-58 <\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

La ling\u00fcista computacional Emily Bender advirti\u00f3 hace a\u00f1os contra el uso de programas de chat para buscar en la web. En una entrevista, explica qu\u00e9 tiene que ver la moda…<\/p>\n","protected":false},"author":1,"featured_media":483544,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[38012,6119,65604,3708,5430],"_links":{"self":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/483543"}],"collection":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/comments?post=483543"}],"version-history":[{"count":1,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/483543\/revisions"}],"predecessor-version":[{"id":483545,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/483543\/revisions\/483545"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media\/483544"}],"wp:attachment":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media?parent=483543"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/categories?post=483543"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/tags?post=483543"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}