\n<\/p>\n
Una carta abierta firmada por l\u00edderes tecnol\u00f3gicos y destacados investigadores de IA ha pedido a los laboratorios y empresas de IA que \u00abpausen inmediatamente\u00bb su trabajo. Signatarios como Steve Wozniak y Elon Musk est\u00e1n de acuerdo en que los riesgos justifican un descanso m\u00ednimo de seis meses de la producci\u00f3n de tecnolog\u00eda m\u00e1s all\u00e1 de GPT-4 para disfrutar de los sistemas de inteligencia artificial existentes, permitir que las personas se ajusten y garantizar que beneficien a todos. La carta agrega que el cuidado y la previsi\u00f3n son necesarios para garantizar la seguridad de los sistemas de IA, pero se est\u00e1n ignorando.<\/p>\n
La referencia a GPT-4, un modelo de OpenAI que puede responder con texto a mensajes escritos o visuales, surge cuando las empresas se apresuran a construir sistemas de chat complejos que utilicen la tecnolog\u00eda. Microsoft, por ejemplo, confirm\u00f3 recientemente que su motor de b\u00fasqueda Bing renovado ha funcionado con el modelo GPT-4 durante m\u00e1s de siete semanas, mientras que Google present\u00f3 recientemente Bard, su propio sistema generativo de inteligencia artificial impulsado por LaMDA. La inquietud en torno a la IA ha circulado durante mucho tiempo, pero la aparente carrera para implementar primero la tecnolog\u00eda de IA m\u00e1s avanzada ha generado preocupaciones m\u00e1s urgentes.<\/p>\n
<\/p>\n \u00abDesafortunadamente, este nivel de planificaci\u00f3n y gesti\u00f3n no est\u00e1 sucediendo, a pesar de que en los \u00faltimos meses los laboratorios de IA se han visto envueltos en una carrera fuera de control para desarrollar y desplegar mentes digitales cada vez m\u00e1s poderosas que nadie, ni siquiera sus creadores, pueden entender. , predecir o controlar de forma fiable\u00bb, afirma la carta. <\/p>\n La carta en cuesti\u00f3n fue publicada por Future of Life Institute (FLI), una organizaci\u00f3n dedicada a minimizar los riesgos y el mal uso de las nuevas tecnolog\u00edas. Musk previamente don\u00f3 $ 10 millones a FLI para su uso en estudios sobre la seguridad de la IA. Adem\u00e1s de \u00e9l y Wozniak, los firmantes incluyen una gran cantidad de l\u00edderes mundiales de IA, como el presidente del Centro de IA y Pol\u00edtica Digital, Marc Rotenberg, el f\u00edsico del MIT y presidente del Instituto del Futuro de la Vida, Max Tegmark, y el autor Yuval Noah Harari. Harari tambi\u00e9n coescribi\u00f3 un art\u00edculo de opini\u00f3n en el New York Times<\/em> la semana pasada advirtiendo sobre los riesgos de la IA, junto con los fundadores del Center for Humane Technology y sus compa\u00f1eros signatarios, Tristan Harris y Aza Raskin. <\/p>\n Esta llamada se siente como el siguiente paso de una encuesta de 2022 de m\u00e1s de 700 investigadores de aprendizaje autom\u00e1tico, en la que casi la mitad de los participantes afirmaron que hay un 10 por ciento de posibilidades de un \u00abresultado extremadamente malo\u00bb de la IA, incluida la extinci\u00f3n humana. Cuando se les pregunt\u00f3 acerca de la seguridad en la investigaci\u00f3n de IA, el 68 por ciento de los investigadores dijo que se deber\u00eda hacer m\u00e1s o mucho m\u00e1s. <\/p>\n Cualquiera que comparta inquietudes sobre la velocidad y la seguridad de la producci\u00f3n de IA puede agregar su nombre a la carta. Sin embargo, los nuevos nombres no se verifican necesariamente, por lo que cualquier adici\u00f3n notable despu\u00e9s de la publicaci\u00f3n inicial es potencialmente falsa. <\/p>\n \n Todos los productos recomendados por Engadget son seleccionados por nuestro equipo editorial, independiente de nuestra empresa matriz. Algunas de nuestras historias incluyen enlaces de afiliados. Si compra algo a trav\u00e9s de uno de estos enlaces, podemos ganar una comisi\u00f3n de afiliado. Todos los precios son correctos en el momento de la publicaci\u00f3n.<\/em>\n <\/p>\n<\/div>\n