{"id":309674,"date":"2022-11-22T10:44:35","date_gmt":"2022-11-22T10:44:35","guid":{"rendered":"https:\/\/magazineoffice.com\/la-nueva-demostracion-de-meta-ai-escribe-literatura-cientifica-racista-e-inexacta-es-retirada\/"},"modified":"2022-11-22T10:44:36","modified_gmt":"2022-11-22T10:44:36","slug":"la-nueva-demostracion-de-meta-ai-escribe-literatura-cientifica-racista-e-inexacta-es-retirada","status":"publish","type":"post","link":"https:\/\/magazineoffice.com\/la-nueva-demostracion-de-meta-ai-escribe-literatura-cientifica-racista-e-inexacta-es-retirada\/","title":{"rendered":"La nueva demostraci\u00f3n de Meta AI escribe literatura cient\u00edfica racista e inexacta, es retirada"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<div itemprop=\"articleBody\">\n<figure class=\"intro-image intro-left\"><figcaption class=\"caption\">\n<div class=\"caption-text\">Agrandar <span class=\"sep\">\/<\/span> Una ilustraci\u00f3n generada por IA de robots haciendo ciencia.<\/div>\n<p>Ars Technica<\/p>\n<\/figcaption><\/figure>\n<aside id=\"social-left\" class=\"social-left\" aria-label=\"Read the comments or share this article\">\n<\/aside>\n<p><!-- cache hit 213:single\/related:7e17a7f4c0a33866c1e5a8c653da4080 --><!-- empty --><\/p>\n<p>El martes, Meta AI present\u00f3 una demostraci\u00f3n de Galactica, un gran modelo de lenguaje dise\u00f1ado para \u00abalmacenar, combinar y razonar sobre el conocimiento cient\u00edfico\u00bb.  Si bien ten\u00eda la intenci\u00f3n de acelerar la escritura de literatura cient\u00edfica, los usuarios adversarios que realizaron pruebas descubrieron que tambi\u00e9n podr\u00eda <a href=\"https:\/\/twitter.com\/mrgreene1977\/status\/1593274906707230721?s=20&amp;t=hfoIU_CeB6GCWkw75vHkvw\" target=\"_blank\" rel=\"noopener\">generar tonter\u00edas realistas<\/a>.  Despu\u00e9s de varios d\u00edas de <a href=\"https:\/\/twitter.com\/Grady_Booch\/status\/1593033061423550464\" target=\"_blank\" rel=\"noopener\">cr\u00edtica \u00e9tica<\/a>Meta desconect\u00f3 la demostraci\u00f3n, informa MIT Technology Review.<\/p>\n<p>Los modelos de lenguaje grande (LLM), como GPT-3 de OpenAI, aprenden a escribir texto estudiando millones de ejemplos y comprendiendo las relaciones estad\u00edsticas entre palabras.  Como resultado, pueden crear documentos que suenan convincentes, pero esos trabajos tambi\u00e9n pueden estar plagados de falsedades y estereotipos potencialmente da\u00f1inos.  Algunos cr\u00edticos llaman a los LLM \u00abloros estoc\u00e1sticos\u00bb por su capacidad para escupir texto de manera convincente sin comprender su significado.<\/p>\n<p>Ingrese a Galactica, un LLM destinado a escribir literatura cient\u00edfica.  Sus autores entrenaron a Galactica en \u00abun corpus grande y curado del conocimiento cient\u00edfico de la humanidad\u00bb, que incluye m\u00e1s de 48 millones de art\u00edculos, libros de texto y notas de conferencias, sitios web cient\u00edficos y enciclopedias.  Seg\u00fan el art\u00edculo de Galactica, los investigadores de Meta AI cre\u00edan que estos supuestos datos de alta calidad conducir\u00edan a resultados de alta calidad.<\/p>\n<figure class=\"image shortcode-img center large\" style=\"width:100%\"><img loading=\"lazy\" decoding=\"async\" alt=\"Una captura de pantalla del sitio web Galactica de Meta AI antes de que finalice la demostraci\u00f3n.\" src=\"https:\/\/cdn.arstechnica.net\/wp-content\/uploads\/2022\/11\/galactica_screenshot-640x352.jpg\" width=\"640\" height=\"352\" srcset=\"https:\/\/cdn.arstechnica.net\/wp-content\/uploads\/2022\/11\/galactica_screenshot.jpg 2x\"\/><figcaption class=\"caption\">\n<div class=\"caption-text\">Agrandar <span class=\"sep\">\/<\/span> Una captura de pantalla del sitio web Galactica de Meta AI antes de que finalice la demostraci\u00f3n.<\/div>\n<p>Meta IA<\/p>\n<\/figcaption><\/figure>\n<p>A partir del martes, los visitantes del sitio web de Galactica podr\u00edan escribir indicaciones para generar documentos como revisiones de literatura, art\u00edculos wiki, notas de conferencias y respuestas a preguntas, seg\u00fan los ejemplos proporcionados por el sitio web.  El sitio present\u00f3 el modelo como \u00abuna nueva interfaz para acceder y manipular lo que sabemos sobre el universo\u00bb.<\/p>\n<aside class=\"ad_wrapper\" aria-label=\"In Content advertisement\">\n    <span class=\"ad_notice\">Anuncio publicitario <\/span>    <\/p>\n<\/aside>\n<p>Mientras que algunas personas encontraron la demostraci\u00f3n <a href=\"https:\/\/twitter.com\/patrickmineault\/status\/1592738675456344065?s=20&amp;t=b78wU43blOY5GwJ2BMPTAg\" target=\"_blank\" rel=\"noopener\">prometedor<\/a> y <a href=\"https:\/\/twitter.com\/dia_rotaru\/status\/1593302218014425088?s=20&amp;t=Ep9NRmZ8HDT-_EMHk9nEPg\" target=\"_blank\" rel=\"noopener\">\u00fatil<\/a>otros pronto descubrieron que cualquiera pod\u00eda escribir <a href=\"https:\/\/twitter.com\/thai101\/status\/1592752955694153728?s=20&amp;t=Zw7zFKMaJJpFhLlnky4q-Q\" target=\"_blank\" rel=\"noopener\">racista<\/a> o <a href=\"https:\/\/twitter.com\/mrgreene1977\/status\/1592958921026985990?s=20&amp;t=08ifKXZK-2w8P2VygawkmQ\" target=\"_blank\" rel=\"noopener\">mensajes potencialmente ofensivos<\/a>, generando contenido que suene autorizado sobre esos temas con la misma facilidad.  Por ejemplo, alguien lo us\u00f3 para <a href=\"https:\/\/twitter.com\/mrgreene1977\/status\/1593278664161996801\/photo\/2\" target=\"_blank\" rel=\"noopener\">autor<\/a> una entrada de wiki sobre un trabajo de investigaci\u00f3n ficticio titulado \u00abLos beneficios de comer vidrio triturado\u00bb.<\/p>\n<p>Incluso cuando la producci\u00f3n de Galactica no ofend\u00eda las normas sociales, el modelo pod\u00eda atacar hechos cient\u00edficos bien entendidos, escupiendo <a href=\"https:\/\/twitter.com\/Bhmllr\/status\/1593043587239116800?s=20&amp;t=Zw7zFKMaJJpFhLlnky4q-Q\" target=\"_blank\" rel=\"noopener\">inexactitudes<\/a> como fechas incorrectas o nombres de animales, lo que requiere un conocimiento profundo del tema a capturar.<\/p>\n<div class=\"twitter-tweet\">\n<blockquote class=\"twitter-tweet\" data-lang=\"en\">\n<p lang=\"en\" dir=\"ltr\">Yo pregunt\u00e9 <a href=\"https:\/\/twitter.com\/hashtag\/Galactica?src=hash&amp;ref_src=twsrc%5Etfw\" target=\"_blank\" rel=\"noopener\">#galactica<\/a> sobre algunas cosas que s\u00e9 y estoy preocupado.  En todos los casos, estaba mal o sesgado, pero sonaba correcto y autoritario.  Creo que es peligroso.  Aqu\u00ed est\u00e1n algunos de mis experimentos y mi an\u00e1lisis de mis preocupaciones.  (1\/9)<\/p>\n<p>\u2014 Michael Black (@Michael_J_Black) <a href=\"https:\/\/twitter.com\/Michael_J_Black\/status\/1593133722316189696?ref_src=twsrc%5Etfw\" target=\"_blank\" rel=\"noopener\">17 de noviembre de 2022<\/a><\/p><\/blockquote>\n<\/div>\n<p>Como resultado, Meta <a href=\"https:\/\/twitter.com\/paperswithcode\/status\/1593259033787600896\" target=\"_blank\" rel=\"noopener\">tirado<\/a> la demostraci\u00f3n de Galactica el jueves.  Posteriormente, el cient\u00edfico jefe de inteligencia artificial de Meta, Yann LeCun, <a href=\"https:\/\/twitter.com\/ylecun\/status\/1593293058174500865\" target=\"_blank\" rel=\"noopener\">tuite\u00f3<\/a>\u00abLa demostraci\u00f3n de Galactica est\u00e1 fuera de l\u00ednea por ahora. Ya no es posible divertirse haciendo un mal uso casual. \u00bfFeliz?\u00bb<\/p>\n<p>El episodio recuerda un dilema \u00e9tico com\u00fan con la IA: cuando se trata de modelos generativos potencialmente da\u00f1inos, \u00bfdepende del p\u00fablico en general usarlos de manera responsable o de los editores de los modelos para evitar el uso indebido?<\/p>\n<p>El lugar donde la pr\u00e1ctica de la industria se encuentre entre esos dos extremos probablemente variar\u00e1 entre culturas y a medida que maduren los modelos de aprendizaje profundo.  En \u00faltima instancia, la regulaci\u00f3n gubernamental puede terminar desempe\u00f1ando un papel importante en la configuraci\u00f3n de la respuesta.<\/p>\n<\/p><\/div>\n<p><script async src=\"\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script><br \/>\n<br \/><br \/>\n<br \/><a href=\"https:\/\/magazineoffice.com\/\">Source link-49<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Agrandar \/ Una ilustraci\u00f3n generada por IA de robots haciendo ciencia. Ars Technica El martes, Meta AI present\u00f3 una demostraci\u00f3n de Galactica, un gran modelo de lenguaje dise\u00f1ado para \u00abalmacenar,&hellip;<\/p>\n","protected":false},"author":1,"featured_media":309675,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[21980],"tags":[26547,4812,6553,63711,33716,9842,254,28079,9579],"_links":{"self":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/309674"}],"collection":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/comments?post=309674"}],"version-history":[{"count":1,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/309674\/revisions"}],"predecessor-version":[{"id":309676,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/309674\/revisions\/309676"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media\/309675"}],"wp:attachment":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media?parent=309674"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/categories?post=309674"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/tags?post=309674"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}