\n<\/p>\n
Eso me son\u00f3 como si estuviera antropomorfizando esos sistemas artificiales, algo que los cient\u00edficos constantemente les dicen a los legos y periodistas que no hagan. \u201cLos cient\u00edficos se esfuerzan por no hacer eso, porque antropomorfizar la mayor\u00eda de las cosas es una tonter\u00eda\u201d, reconoce Hinton. \u201cPero habr\u00e1n aprendido esas cosas de nosotros, aprender\u00e1n a comportarse ling\u00fc\u00edsticamente como nosotros. As\u00ed que creo que antropomorfizarlos es perfectamente razonable\u201d. Cuando su poderoso agente de IA est\u00e1 capacitado en la suma total del conocimiento digital humano, incluidas muchas conversaciones en l\u00ednea, puede ser m\u00e1s tonto no<\/em> esperar que act\u00fae como humano.<\/p>\n Pero, \u00bfqu\u00e9 pasa con la objeci\u00f3n de que un chatbot nunca podr\u00eda entender realmente lo que hacen los humanos, porque esos robots ling\u00fc\u00edsticos son solo impulsos en chips de computadora sin experiencia directa del mundo? Todo lo que est\u00e1n haciendo, despu\u00e9s de todo, es predecir la siguiente palabra necesaria para dar una respuesta que satisfaga estad\u00edsticamente un mensaje. Hinton se\u00f1ala que incluso nosotros<\/em> en realidad no te encuentras con el mundo directamente.<\/p>\n \u201cAlgunas personas piensan, hey, existe esta \u00faltima barrera, que es que tenemos experiencia subjetiva y [robots] no, por lo que realmente entendemos las cosas y ellos no\u201d, dice Hinton. \u201cEso es solo una mierda. Porque para predecir la siguiente palabra, debes entender cu\u00e1l era la pregunta. No puedes predecir la siguiente palabra sin entender, \u00bfverdad? Por supuesto, est\u00e1n entrenados para predecir la siguiente palabra, pero como resultado de predecir la siguiente palabra, entienden el mundo, porque esa es la \u00fanica forma de hacerlo\u201d.<\/p>\n Entonces esas cosas pueden ser… \u00bfsensibles? No quiero creer que Hinton se est\u00e1 poniendo como Blake Lemoine conmigo. Y no lo es, creo. \u201cPerm\u00edtanme continuar en mi nueva carrera como fil\u00f3sofo\u201d, dice Hinton, en broma, mientras nos adentramos m\u00e1s en la maleza. \u201cDejemos la sensibilidad y la conciencia fuera de esto. I<\/em> en realidad no perciben el mundo directamente. Lo que creo que hay en el mundo no es lo que realmente hay. Lo que pasa es que viene a mi mente, y realmente veo lo que hay en mi mente<\/em> directamente. Eso es lo que pensaba Descartes. Y luego est\u00e1 la cuesti\u00f3n de c\u00f3mo se conectan estas cosas en mi mente con el mundo real. \u00bfY c\u00f3mo conozco realmente el mundo real? Hinton contin\u00faa argumentando que, dado que nuestra propia experiencia es subjetiva, no podemos descartar que las m\u00e1quinas puedan tener sus propias experiencias igualmente v\u00e1lidas. \u201cBajo ese punto de vista, es bastante razonable decir que estas cosas ya pueden tener una experiencia subjetiva\u201d, dice.<\/p>\n Ahora considere las posibilidades combinadas de que las m\u00e1quinas realmente pueden entender el mundo, pueden aprender enga\u00f1os y otros malos h\u00e1bitos de los humanos, y que los sistemas gigantes de IA pueden procesar millones de veces m\u00e1s informaci\u00f3n de la que posiblemente pueden manejar los cerebros. Tal vez usted, como Hinton, ahora tenga una visi\u00f3n m\u00e1s preocupante de los resultados futuros de la IA.<\/p>\n Pero no estamos necesariamente en un viaje inevitable hacia el desastre. Hinton sugiere un enfoque tecnol\u00f3gico que podr\u00eda mitigar un juego de poder de la IA contra los humanos: la computaci\u00f3n anal\u00f3gica, tal como se encuentra en la biolog\u00eda y como algunos ingenieros creen que deber\u00edan funcionar las computadoras del futuro. Fue el \u00faltimo proyecto en el que trabaj\u00f3 Hinton en Google. \u201cFunciona para la gente\u201d, dice. Adoptar un enfoque anal\u00f3gico para la IA ser\u00eda menos peligroso porque cada instancia de hardware anal\u00f3gico tiene cierta singularidad, razona Hinton. Al igual que con nuestras peque\u00f1as mentes mojadas, los sistemas anal\u00f3gicos no pueden fusionarse tan f\u00e1cilmente en una especie de colmena de inteligencia de Skynet.<\/p>\n<\/div>\n