\n
Elon Musk, el cofundador de Apple, Steve Wozniak, y el CEO de Stability AI se encuentran entre las principales figuras de la industria tecnol\u00f3gica en general que han firmado una carta abierta en la que piden una \u00abpausa\u00bb de seis meses en el desarrollo de sistemas avanzados de inteligencia artificial, incluido ChatGPT.<\/p>\n
La carta fue publicada por el Future of Life Institute. (se abre en una pesta\u00f1a nueva)<\/span>una organizaci\u00f3n sin fines de lucro, y cuenta con m\u00e1s de 1100 signatarios de todo el mundo acad\u00e9mico y tecnol\u00f3gico en el momento de escribir este art\u00edculo.<\/p>\n\n\u00abLos sistemas de inteligencia artificial con inteligencia humana y competitiva pueden plantear riesgos profundos para la sociedad y la humanidad\u00bb, dice la carta. \u201cLos \u00faltimos meses han visto a los laboratorios de IA encerrados en una carrera fuera de control para desarrollar y desplegar mentes digitales cada vez m\u00e1s poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de manera confiable\u201d.<\/p>\n
En consecuencia, la carta argumenta que la industria deber\u00eda hacer una pausa para pensar antes de desarrollar algo m\u00e1s poderoso que GPT-4. Si eso no sucede voluntariamente, los gobiernos deber\u00edan intervenir.<\/p>\n
\u00abHacemos un llamado a todos los laboratorios de IA para que pausen de inmediato durante al menos seis meses el entrenamiento de los sistemas de IA m\u00e1s potentes que GPT-4. Esta pausa debe ser p\u00fablica y verificable, e incluir a todos los actores clave. Si tal pausa no se puede promulgar r\u00e1pidamente, Los gobiernos deber\u00edan intervenir e instituir una moratoria\u00bb.<\/p>\n
Entre los principales signatarios se encuentran Emad Mostaque, fundador y director ejecutivo de Stability AI, el equipo detr\u00e1s del modelo de generaci\u00f3n de texto a imagen Stable Diffusion, Evan Sharp, cofundador de Pinterest, Chris Larson, cofundador de la empresa de criptomonedas Ripple , aprendizaje profundo Yoshua Bengio y Connor Leahy, director ejecutivo de AI lab Conjecture.<\/p>\n\n\n
\n
<\/picture><\/p>\n<\/div>\n<\/div>\u00bfTe apetece una aplicaci\u00f3n completamente creada por una IA? Ya existen. <\/span>(Cr\u00e9dito de la imagen: Apple)<\/span><\/figcaption><\/figure>\nPor supuesto, los c\u00ednicos podr\u00edan sugerir que muchos de los signatarios podr\u00edan querer algo de tiempo para ponerse al d\u00eda con la competencia. Pero muchos m\u00e1s no tienen nada obvio que ganar de inmediato.<\/p>\n
Adem\u00e1s, es innegable que en los \u00faltimos meses se han producido desarrollos explosivos en lo que respecta a los grandes modelos de IA de estilo GPT. Solo tomando los modelos GPT de Open AI, el primer modelo GPT-3 como se ve en ChatGPT estaba limitado a la entrada y salida de texto. GPT-4, sin embargo, es multimodal y admite texto, audio, video e im\u00e1genes.<\/p>\n
R\u00e1pidamente se desarrollaron nuevos complementos que les dieron a los modelos \u00abojos\u00bb y \u00abo\u00eddos\u00bb, lo que permiti\u00f3 a los modelos de IA enviar correos electr\u00f3nicos, ejecutar c\u00f3digo y hacer cosas en el mundo real, como reservar vuelos a trav\u00e9s del acceso a Internet.<\/p>\n
Las habilidades de razonamiento de GPT-4 tambi\u00e9n son un gran paso adelante en ChatGPT y GPT-3. Por ejemplo, ChatGPT obtiene puntajes en el 10 % inferior en los ex\u00e1menes de derecho de EE. UU., mientras que GPT-4 obtiene puntajes en el 90 % superior. (se abre en una pesta\u00f1a nueva)<\/span>.<\/p>\nGPT-4 ahora se ha utilizado para crear extensiones de Google Chrome y aplicaciones para iPhone, esta \u00faltima desde cero y ahora disponible en la tienda oficial de aplicaciones. (se abre en una pesta\u00f1a nueva)<\/span>. GPT-4 tambi\u00e9n ha codificado con \u00e9xito un motor de juego 3D b\u00e1sico (se abre en una pesta\u00f1a nueva)<\/span> similar al Doom original. La gente incluso ha dado a los modelos GPT la tarea de crear estrategias de inversi\u00f3n y luego implementarlas.<\/p>\nNo es dif\u00edcil, por lo tanto, ver c\u00f3mo estos modelos pueden tener un gran impacto muy r\u00e1pidamente en el mundo real, incluso antes de que siquiera pienses en plantear la pregunta de qu\u00e9 sucede si se vuelven sensibles. En ese sentido, en un art\u00edculo escrito por los creadores de GPT-4 (se abre en una pesta\u00f1a nueva)<\/span>se plantean preocupaciones de que el modelo en s\u00ed podr\u00eda desarrollarse y perseguir fines indeseables o peligrosos. <\/p>\n\u00abAlgunos que son particularmente preocupantes son la capacidad de crear y actuar en planes a largo plazo,[62] para acumular poder y recursos (\u00abb\u00fasqueda de poder\u00bb), y exhibir un comportamiento que es cada vez m\u00e1s \u00abagente\u00bb.[64] Agentic en este contexto no pretende humanizar los modelos de lenguaje o referirse a la sensibilidad, sino que se refiere a los sistemas caracterizados por la capacidad de, por ejemplo, lograr objetivos que pueden no haber sido concretamente especificados y que no han aparecido en el entrenamiento; centrarse en lograr objetivos espec\u00edficos y cuantificables; y hacer una planificaci\u00f3n a largo plazo. Ya existe alguna evidencia de tal comportamiento emergente en los modelos\u00bb, dice el art\u00edculo.<\/p>\n
Mientras tanto, Microsoft dice que su \u00faltimo modelo GPT-4 est\u00e1 mostrando \u00abchispas\u00bb de inteligencia artificial general (se abre en una pesta\u00f1a nueva)<\/span>. De todos modos, el problema principal aqu\u00ed es seguramente que estos modelos se est\u00e1n liberando a gran escala en el p\u00fablico en todo, desde b\u00fasquedas en Bing hasta correo electr\u00f3nico y herramientas de oficina.<\/p>\nPuede que todo est\u00e9 bien. Pero, igualmente, el alcance de las consecuencias no deseadas actualmente parece ser casi infinito. Y eso da un poco de miedo, con las condiciones habituales de que damos la bienvenida a cualquier nuevo se\u00f1or supremo que pueda surgir. Ya sabes, por si acaso.<\/p>\n<\/div>\n
Source link-8 <\/a><\/p>\n","protected":false},"excerpt":{"rendered":"Elon Musk, el cofundador de Apple, Steve Wozniak, y el CEO de Stability AI se encuentran entre las principales figuras de la industria tecnol\u00f3gica en general que han firmado una…<\/p>\n","protected":false},"author":1,"featured_media":546833,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[34],"tags":[216,6128,8,84627,1636,9054,84629,84628,4102,84406],"_links":{"self":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/546832"}],"collection":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/comments?post=546832"}],"version-history":[{"count":1,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/546832\/revisions"}],"predecessor-version":[{"id":546834,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/546832\/revisions\/546834"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media\/546833"}],"wp:attachment":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media?parent=546832"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/categories?post=546832"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/tags?post=546832"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}