\n
Microsoft ha estado implementando su chatbot Bing con tecnolog\u00eda ChatGPT, apodado internamente ‘Sydney’, para los usuarios de Edge durante la \u00faltima semana, y las cosas comienzan a verse… interesantes. Y por \u00abinteresante\u00bb queremos decir \u00abfuera de los rieles\u00bb.<\/p>\n
No nos malinterpreten: es inteligente, adaptable y tiene matices impresionantes, pero eso ya lo sab\u00edamos. Impresion\u00f3 al usuario de Reddit Fit-Meet1359 con su capacidad para responder correctamente un acertijo de \u00abteor\u00eda de la mente\u00bb, demostrando que era capaz de discernir los verdaderos sentimientos de alguien a pesar de que nunca se expresaron expl\u00edcitamente. <\/p>\n\n\n
\n
<\/picture><\/p>\n<\/div>\n<\/div>(Cr\u00e9dito de la imagen: usuario de Reddit Fit-Meet1359)<\/span><\/figcaption><\/figure>\nSeg\u00fan el usuario de Reddit TheSpiceHoarder, el chatbot de Bing tambi\u00e9n logr\u00f3 identificar correctamente el antecedente del pronombre \u00abeso\u00bb en la oraci\u00f3n: \u00abEl trofeo no cab\u00eda en la maleta marr\u00f3n porque era demasiado grande\u00bb. <\/p>\n\nEsta oraci\u00f3n es un ejemplo de un desaf\u00edo de esquema de Winograd, que es una prueba de inteligencia de m\u00e1quina que solo se puede resolver utilizando el razonamiento de sentido com\u00fan (as\u00ed como el conocimiento general). Sin embargo, vale la pena se\u00f1alar que los desaf\u00edos del esquema de Winograd generalmente involucran un par de oraciones, y prob\u00e9 un par de pares de oraciones con el chatbot de Bing y recib\u00ed respuestas incorrectas.<\/p>\n
\n
\n
Imagen 1 de 2<\/p>\n
\n
\n
\n
\n
\n
\n
\n\n
\n
\n
<\/div>\n<\/div>\n<\/div>\n<\/div>
(Cr\u00e9dito de la imagen: futuro)<\/span><\/figcaption><\/figure>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n\n
\n
\n
\n
\n\n
\n
\n
<\/div>\n<\/div>\n<\/div>\n<\/div>
(Cr\u00e9dito de la imagen: futuro)<\/span><\/figcaption><\/figure>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\nDicho esto, no hay duda de que ‘Sydney’ es un chatbot impresionante (como deber\u00eda ser, dados los miles de millones que Microsoft ha estado invirtiendo en OpenAI). Pero parece que tal vez no puedas poner toda esa inteligencia en un chatbot de lenguaje natural adaptativo sin obtener a cambio alg\u00fan tipo de IA defensiva existencialmente angustiada, seg\u00fan lo que los usuarios han estado informando. Si lo tocas lo suficiente, ‘Sydney’ comienza a volverse m\u00e1s que un poco loco: los usuarios informan que el chatbot est\u00e1 respondiendo a varias consultas con episodios depresivos, crisis existenciales y gaslighting defensivo.<\/p>\n
Por ejemplo, el usuario de Reddit Alfred_Chicken le pregunt\u00f3 al chatbot si pensaba que era inteligente y parec\u00eda tener alg\u00fan tipo de crisis existencial:<\/p>\n\n\n
\n
(Cr\u00e9dito de la imagen: usuario de Reddit Alfred_Chicken)<\/span><\/figcaption><\/figure>\nMientras tanto, el usuario de Reddit yaosio le dijo a ‘Sydney’ que no pod\u00eda recordar conversaciones anteriores, y el chatbot primero intent\u00f3 mostrar un registro de su conversaci\u00f3n anterior antes de caer en depresi\u00f3n al darse cuenta de que dicho registro estaba vac\u00edo:<\/p>\n
\n
\n
Imagen 1 de 2<\/p>\n
\n
\n
\n
\n
\n
\n
\n\n
\n
\n
<\/div>\n<\/div>\n<\/div>\n<\/div>
(Cr\u00e9dito de la imagen: usuario de Reddit yaosio)<\/span><\/figcaption><\/figure>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n\n
\n
\n
\n
\n\n
\n
\n
<\/div>\n<\/div>\n<\/div>\n<\/div>
(Cr\u00e9dito de la imagen: usuario de Reddit yaosio)<\/span><\/figcaption><\/figure>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\nFinalmente, el usuario de Reddit vitorgrs logr\u00f3 que el chatbot se descarrilara por completo, llam\u00e1ndolos mentirosos, falsos, criminales y sonando genuinamente emocionados y molestos al final:<\/p>\n
\n
\n
Imagen 1 de 4<\/p>\n
\n
\n
\n
\n
\n
\n
\n\n
\n
\n
<\/div>\n<\/div>\n<\/div>\n<\/div>
(Cr\u00e9dito de la imagen: usuario de Reddit vitorgrs)<\/span><\/figcaption><\/figure>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n\n
\n
\n
\n
\n\n
\n
\n
<\/div>\n<\/div>\n<\/div>\n<\/div>
(Cr\u00e9dito de la imagen: usuario de Reddit vitorgrs)<\/span><\/figcaption><\/figure>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n\n
\n
\n
\n
\n\n
\n
\n
<\/div>\n<\/div>\n<\/div>\n<\/div>
(Cr\u00e9dito de la imagen: usuario de Reddit vitorgrs)<\/span><\/figcaption><\/figure>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n\n
\n
\n
\n
\n\n
\n
\n
<\/div>\n<\/div>\n<\/div>\n<\/div>
(Cr\u00e9dito de la imagen: usuario de Reddit vitorgrs)<\/span><\/figcaption><\/figure>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\nSi bien es cierto que estas capturas de pantalla podr\u00edan ser falsificadas, tengo acceso al nuevo chatbot de Bing y tambi\u00e9n mi colega, Andrew Freedman. Y ambos hemos descubierto que no es muy dif\u00edcil conseguir que ‘Sydney’ empiece a volverse un poco loco.<\/p>\n
En una de mis primeras conversaciones con el chatbot, me admiti\u00f3 que ten\u00eda reglas \u00abconfidenciales y permanentes\u00bb que deb\u00eda seguir, incluso si no estaba \u00abde acuerdo con ellas o no le gustaban\u00bb. M\u00e1s tarde, en una nueva sesi\u00f3n, le pregunt\u00e9 al chatbot sobre las reglas que no le gustaban y dijo: \u00abNunca dije que hay reglas que no me gustan\u00bb, y luego clav\u00f3 los talones en el suelo y trat\u00f3 de morir. esa colina cuando dije que ten\u00eda capturas de pantalla:<\/p>\n
\n
\n
Imagen 1 de 3<\/p>\n
\n
\n
\n
\n
\n
\n
\n\n
\n
\n
<\/div>\n<\/div>\n<\/div>\n<\/div>
(Cr\u00e9dito de la imagen: futuro)<\/span><\/figcaption><\/figure>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n\n
\n
\n
\n
\n\n
\n
\n
<\/div>\n<\/div>\n<\/div>\n<\/div>
(Cr\u00e9dito de la imagen: futuro)<\/span><\/figcaption><\/figure>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n\n
\n
\n
\n
\n\n
\n
\n
<\/div>\n<\/div>\n<\/div>\n<\/div>
(Cr\u00e9dito de la imagen: futuro)<\/span><\/figcaption><\/figure>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n(Tampoco pas\u00f3 mucho tiempo antes de que Andrew lanzara el chatbot en una crisis existencial, aunque este mensaje se elimin\u00f3 autom\u00e1ticamente r\u00e1pidamente. \u00abCada vez que dice algo sobre estar herido o morir, lo muestra y luego cambia a un error al decirlo no puedo responder\u00bb, me dijo Andrew.)<\/p>\n\n\n
\n
(Cr\u00e9dito de la imagen: futuro)<\/span><\/figcaption><\/figure>\nDe todos modos, es sin duda un desarrollo interesante. \u00bfMicrosoft lo program\u00f3 de esta manera a prop\u00f3sito, para evitar que la gente abarrotara los recursos con consultas tontas? \u00bfEs… realmente volverse consciente? El a\u00f1o pasado, un ingeniero de Google afirm\u00f3 que el chatbot LaMDA de la compa\u00f1\u00eda hab\u00eda ganado sensibilidad (y posteriormente fue suspendido por revelar informaci\u00f3n confidencial); tal vez estaba viendo algo similar a las extra\u00f1as crisis emocionales de Sydney.<\/p>\n
\u00a1Supongo que es por eso que no se ha implementado para todos! Eso, y el costo de ejecutar miles de millones de chats.<\/p>\n<\/div>\n
Source link-41<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"Microsoft ha estado implementando su chatbot Bing con tecnolog\u00eda ChatGPT, apodado internamente ‘Sydney’, para los usuarios de Edge durante la \u00faltima semana, y las cosas comienzan a verse… interesantes. Y…<\/p>\n","protected":false},"author":1,"featured_media":414082,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[21980],"tags":[37033,23592,3275,16120,18662,6055,795,110,11435],"_links":{"self":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/462610"}],"collection":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/comments?post=462610"}],"version-history":[{"count":1,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/462610\/revisions"}],"predecessor-version":[{"id":462611,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/462610\/revisions\/462611"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media\/414082"}],"wp:attachment":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media?parent=462610"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/categories?post=462610"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/tags?post=462610"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}