\n
Un investigador que particip\u00f3 en la creaci\u00f3n de ChatGPT advirti\u00f3 que la IA bien podr\u00eda conducir a la perdici\u00f3n de la humanidad, o al menos hay un 50% de posibilidades de que ese escenario se desarrolle.<\/p>\n
Business Insider (se abre en una pesta\u00f1a nueva)<\/span> informa que Paul Christiano, quien dirigi\u00f3 el equipo de alineaci\u00f3n del modelo de lenguaje en OpenAI, pero desde entonces dej\u00f3 la compa\u00f1\u00eda y ahora dirige el Centro de Investigaci\u00f3n de Alineaci\u00f3n sin fines de lucro, hizo la advertencia en Bankless (se abre en una pesta\u00f1a nueva)<\/span> podcast.<\/p>\n\nDurante la entrevista, los anfitriones mencionaron la posibilidad de un \u00abescenario fatal de Eliezer Yudkowsky\u00bb, siendo Yudkowsky un conocido esc\u00e9ptico de la IA durante muchos a\u00f1os (en realidad, un par de d\u00e9cadas).<\/p>\n
Christiano le dijo a los anfitriones: \u201cEliezer est\u00e1 en esta transformaci\u00f3n extremadamente r\u00e1pida una vez que desarrollas la IA. Tengo una opini\u00f3n un poco menos extrema sobre eso\u201d.<\/p>\n
Luego describe un proceso m\u00e1s gradual de subir de marcha con un cambio acelerado de IA, y observa que: \u201cEn general, tal vez tenga m\u00e1s de un 50\/50 de posibilidades de perdici\u00f3n poco despu\u00e9s de tener sistemas de IA que sean de nivel humano. \u201d<\/p>\n
Christiano tambi\u00e9n dijo en el podcast que hay \u00abalgo as\u00ed como un 10-20% de posibilidades de que la IA se haga cargo\u00bb eventualmente, culminando en un escenario bastante sombr\u00edo donde muchos (o de hecho la mayor\u00eda) de los humanos est\u00e1n muertos. \u201cMe lo tomo muy en serio\u201d, a\u00f1ade Christiano. Bueno, no es broma.<\/p>\n
La misi\u00f3n del Alignment Research Center es \u201calinear el futuro aprendizaje autom\u00e1tico [AI] sistemas con intereses humanos\u201d.<\/p>\n\n\n
\n
<\/picture><\/p>\n<\/div>\n<\/div>(Cr\u00e9dito de la imagen: Shutterstock)<\/span><\/figcaption><\/figure>\n\u00bfMaldito eterno?<\/h2>\n Esta es otra m\u00e1s en un mont\u00f3n de advertencias recientes sobre c\u00f3mo el mundo puede terminar afectado negativamente por la IA. Y uno de los m\u00e1s extremos, sin duda, dada la charla sobre la destrucci\u00f3n de la humanidad y la poblaci\u00f3n de la tierra en su mayor\u00eda.<\/p>\n
De acuerdo, incluso Christiano no cree que haya m\u00e1s que una probabilidad relativamente peque\u00f1a de que esto \u00faltimo suceda, pero a\u00fan as\u00ed, una tirada de dados del 20% (en el peor de los casos) para una adquisici\u00f3n hostil de AI no es una perspectiva que a nadie le guste.<\/p>\n
Por supuesto, es interesante que cualquier toma de poder de la IA deba ser hostil. \u00bfNo podemos tener el desarrollo de una inteligencia artificial considerada y ben\u00e9vola que gobierne genuinamente en nuestro mejor inter\u00e9s, solo por una vez? Bueno no. Cualquier IA puede comenzar con buenas intenciones, pero inevitablemente se descarrilar\u00e1, y los juicios para \u00abmejor\u00bb terminar\u00e1n saliendo mal de manera espectacular. Has visto las pel\u00edculas, \u00bfverdad?<\/p>\n
Con toda seriedad, el punto que se est\u00e1 destacando ahora es que, si bien la IA no es realmente inteligente, todav\u00eda no como tal, b\u00e1sicamente sigue siendo una gran (gigantesca) aspiradora de datos, procesando todos esos datos y admitiendo que ya est\u00e1 haciendo un uso impresionante de dicho material. \u2013 Todav\u00eda necesitamos pautas y reglas establecidas m\u00e1s temprano que tarde para evitar posibles desastres en el futuro.<\/p>\n
Esos desastres pueden tomar la forma de violaciones de la privacidad, por ejemplo, en lugar del fin del mundo tal como lo conocemos (TM), pero a\u00fan as\u00ed deben protegerse.<\/p>\n
La advertencia m\u00e1s reciente sobre la IA entregada por un experto proviene del llamado ‘Padrino de la IA’ que acaba de dejar Google. Geoffrey Hinton b\u00e1sicamente describi\u00f3 el caso general contra la IA, o al menos, contra su expansi\u00f3n r\u00e1pida y sin control, que est\u00e1 sucediendo ahora, incluidos los peligros de que la IA nos supere en astucia de una manera mucho m\u00e1s r\u00e1pida de lo que esperaba. Sin mencionar la amenaza para los puestos de trabajo, que ya es muy real. Ese es el peligro m\u00e1s apremiante a corto plazo en nuestro libro.<\/p>\n
Esto sigue a una carta abierta que pide una pausa en el desarrollo de ChatGPT y otros sistemas de IA durante al menos seis meses, firmada por Elon Musk, entre otros (quien tiene su propia respuesta en forma de una IA que promete que es \u00abpoco probable que aniquile humanos\u201d).<\/p>\n<\/div>\n
Source link-36<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"Un investigador que particip\u00f3 en la creaci\u00f3n de ChatGPT advirti\u00f3 que la IA bien podr\u00eda conducir a la perdici\u00f3n de la humanidad, o al menos hay un 50% de posibilidades…<\/p>\n","protected":false},"author":1,"featured_media":610081,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[21980],"tags":[65604,601,732,507,1254,8,107,17437,11452,43275,1864],"_links":{"self":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/610080"}],"collection":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/comments?post=610080"}],"version-history":[{"count":1,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/610080\/revisions"}],"predecessor-version":[{"id":610082,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/610080\/revisions\/610082"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media\/610081"}],"wp:attachment":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media?parent=610080"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/categories?post=610080"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/tags?post=610080"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}