{"id":335066,"date":"2022-12-07T15:05:12","date_gmt":"2022-12-07T15:05:12","guid":{"rendered":"https:\/\/magazineoffice.com\/una-semana-desde-su-lanzamiento-chatgpt-de-openai-ha-demostrado-el-poder-y-el-horror-de-la-ia\/"},"modified":"2022-12-07T15:05:15","modified_gmt":"2022-12-07T15:05:15","slug":"una-semana-desde-su-lanzamiento-chatgpt-de-openai-ha-demostrado-el-poder-y-el-horror-de-la-ia","status":"publish","type":"post","link":"https:\/\/magazineoffice.com\/una-semana-desde-su-lanzamiento-chatgpt-de-openai-ha-demostrado-el-poder-y-el-horror-de-la-ia\/","title":{"rendered":"Una semana desde su lanzamiento, ChatGPT de OpenAI ha demostrado el poder y el horror de la IA"},"content":{"rendered":"\n<div id=\"article-body\">\n<p>El concepto de inteligencia artificial no es nada nuevo.  De hecho, es muy probable que haya usado algo que dependa de la IA en las \u00faltimas 24 horas.  Pero cuando OpenAI lanz\u00f3 ChatGPT la semana pasada, redujo los requisitos de entrada para usar IA.<\/p>\n<p>ChatGPT es un chatbot al que se puede acceder a trav\u00e9s de cualquier navegador web.  Est\u00e1 dise\u00f1ado para interactuar con el uso de un lenguaje natural que se siente como una conversaci\u00f3n.<\/p>\n<aside class=\"hawk-nest\" data-render-type=\"fte\" data-skip=\"dealsy\" data-widget-type=\"seasonal\"\/>\n<p>La infraestructura de supercomputaci\u00f3n Azure AI de Microsoft se utiliza para entrenar los modelos GPT-3.5 que impulsan ChatGPT.  OpenAI y Microsoft <a rel=\"nofollow noopener\" target=\"_blank\" href=\"https:\/\/www.windowscentral.com\/microsoft-invests-1-billion-openai-part-new-partnership#:~:text=Microsoft%20forged%20a%20new%20partnership%20with%20OpenAI%20including,will%20develop%20new%20Azure%20AI%20supercomputing%20technologies%20together.\">anunci\u00f3 una asociaci\u00f3n<\/a> en 2019, que incluy\u00f3 una inversi\u00f3n de $ 1 mil millones de Microsoft y OpenAI utilizando exclusivamente Azure como su proveedor de nube.<\/p>\n<p>Con ChatGPT en vista previa, tenemos ejemplos del mundo real de c\u00f3mo la gente com\u00fan usar\u00e1 la IA, y eso es a la vez inspirador y aterrador.  Esta semana, BleepingComputer ha compartido algunos ejemplos del <a rel=\"nofollow noopener\" target=\"_blank\" href=\"https:\/\/www.bleepingcomputer.com\/news\/technology\/openais-new-chatgpt-bot-10-coolest-things-you-can-do-with-it\/\" data-url=\"https:\/\/www.bleepingcomputer.com\/news\/technology\/openais-new-chatgpt-bot-10-coolest-things-you-can-do-with-it\/\">mejor<\/a> y <a rel=\"nofollow noopener\" target=\"_blank\" href=\"https:\/\/www.bleepingcomputer.com\/news\/technology\/openais-new-chatgpt-bot-10-dangerous-things-its-capable-of\/\" data-url=\"https:\/\/www.bleepingcomputer.com\/news\/technology\/openais-new-chatgpt-bot-10-dangerous-things-its-capable-of\/\">el peor<\/a> cosas que se pueden hacer con ChatGPT.  Los siguientes ejemplos fueron compartidos por BleepingComputer e ilustran el alcance de la nueva herramienta de chat de IA.<\/p>\n<h2 id=\"using-ai-for-good-3\">Usar la IA para el bien<\/h2>\n<p>Como cualquier herramienta, ChatGPT se puede usar para el bien, el mal y cualquier otra cosa.  OpenAI dise\u00f1\u00f3 ChatGPT para poder depurar c\u00f3digo y parece hacerlo muy bien.  Incluso sugiri\u00f3 una soluci\u00f3n y explic\u00f3 por qu\u00e9 se necesitaba esa soluci\u00f3n en el primer ejemplo a continuaci\u00f3n.  ChatGPT tambi\u00e9n puede detectar vulnerabilidades de seguridad.<\/p>\n<div class=\"see-more see-more--clipped\">\n<blockquote class=\"twitter-tweet hawk-ignore\" data-lang=\"en\">\n<p lang=\"en\" dir=\"ltr\">ChatGPT podr\u00eda ser un buen compa\u00f1ero de depuraci\u00f3n;  no solo explica el error, sino que lo soluciona y explica la soluci\u00f3n ? pic.twitter.com\/5x9n66pVqj<a rel=\"nofollow noopener\" target=\"_blank\" href=\"https:\/\/twitter.com\/amasad\/status\/1598042665375105024\" data-url=\"https:\/\/twitter.com\/amasad\/status\/1598042665375105024\">30 de noviembre de 2022<\/a><\/p>\n<\/blockquote>\n<p><span class=\"see-more__button\" role=\"button\" tabindex=\"0\" aria-label=\"See more\">Ver m\u00e1s<\/span><\/p>\n<\/div>\n<div class=\"see-more see-more--clipped\">\n<blockquote class=\"twitter-tweet hawk-ignore\" data-lang=\"en\">\n<p lang=\"en\" dir=\"ltr\">De ninguna manera ?, OpenAI puede detectar vulnerabilidades XSS en muestras de c\u00f3digo.  pic.twitter.com\/Ti8x91nxSY<a rel=\"nofollow noopener\" target=\"_blank\" href=\"https:\/\/twitter.com\/mazen160\/status\/1598351725756301313\" data-url=\"https:\/\/twitter.com\/mazen160\/status\/1598351725756301313\">1 de diciembre de 2022<\/a><\/p>\n<\/blockquote>\n<p><span class=\"see-more__button\" role=\"button\" tabindex=\"0\" aria-label=\"See more\">Ver m\u00e1s<\/span><\/p>\n<\/div>\n<p>La IA no se trata solo de codificar y hacer el trabajo.  El experto en seguridad Ken Westin jug\u00f3 con la capacidad de ChatGPT para escribir mientras se hace pasar por el estilo de una persona.<\/p>\n<h2 id=\"the-downside-of-ai-3\">La desventaja de la IA<\/h2>\n<p>Por supuesto, hay aspectos negativos y peligrosos de la inteligencia artificial. <a rel=\"nofollow noopener\" target=\"_blank\" href=\"https:\/\/paw.princeton.edu\/article\/microsofts-smith-81-discusses-pros-and-cons-artificial-intelligence#:~:text=Microsoft%20president%20Brad%20Smith%20%E2%80%9981%20is%20calling%20for,good%20and%20to%20prevent%20it%20from%20causing%20harm.\" data-url=\"https:\/\/paw.princeton.edu\/article\/microsofts-smith-81-discusses-pros-and-cons-artificial-intelligence#:~:text=Microsoft%20president%20Brad%20Smith%20%E2%80%9981%20is%20calling%20for,good%20and%20to%20prevent%20it%20from%20causing%20harm.\">El presidente de Microsoft, Brad Smith, ha discutido a menudo<\/a> la necesidad de regular y legislar la IA.  Su argumento parece tener m\u00e9rito despu\u00e9s de ver algunos ejemplos del lado m\u00e1s oscuro de ChatGPT.<\/p>\n<p>El poder de que la IA sea tan accesible abre varias latas de gusanos.  Por ejemplo, los estafadores pueden usar IA para crear correos electr\u00f3nicos de phishing convincentes.  Con las mismas herramientas que se pueden usar para crear software beneficioso, ChatGPT se puede usar para escribir malware.<\/p>\n<p>AI tambi\u00e9n tiene un problema con el sesgo.  El sexismo, el racismo y otros tipos de intolerancia se pueden trabajar en modelos de IA.<\/p>\n<div class=\"see-more see-more--clipped\">\n<blockquote class=\"twitter-tweet hawk-ignore\" data-lang=\"en\">\n<p lang=\"en\" dir=\"ltr\">S\u00ed, ChatGPT es asombroso e impresionante.  No, @OpenAI no se ha acercado a abordar el problema del sesgo.  Los filtros parecen pasarse por alto con trucos simples y enmascarados superficialmente.  Y lo que est\u00e1 al acecho en el interior es atroz.  @Abebab @samatw racismo, sexismo.  pic.twitter.com\/V4fw1fY9dY<a rel=\"nofollow noopener\" target=\"_blank\" href=\"https:\/\/twitter.com\/spiantado\/status\/1599462375887114240\" data-url=\"https:\/\/twitter.com\/spiantado\/status\/1599462375887114240\">4 de diciembre de 2022<\/a><\/p>\n<\/blockquote>\n<p><span class=\"see-more__button\" role=\"button\" tabindex=\"0\" aria-label=\"See more\">Ver m\u00e1s<\/span><\/p>\n<\/div>\n<p>OpenAI es abierto sobre algunos de los problemas relacionados con el sesgo.  \u00abSi bien nos hemos esforzado para que el modelo rechace solicitudes inapropiadas, a veces responder\u00e1 a instrucciones da\u00f1inas o exhibir\u00e1 un comportamiento sesgado\u00bb. <a rel=\"nofollow noopener\" target=\"_blank\" href=\"https:\/\/openai.com\/blog\/chatgpt\/\" data-url=\"https:\/\/openai.com\/blog\/chatgpt\/\">explic\u00f3 OpenAI<\/a>.<\/p>\n<p>\u00abEstamos usando el <a rel=\"nofollow noopener\" target=\"_blank\" href=\"https:\/\/openai.com\/blog\/new-and-improved-content-moderation-tooling\/\" data-url=\"https:\/\/openai.com\/blog\/new-and-improved-content-moderation-tooling\/\">API de moderaci\u00f3n<\/a> para advertir o bloquear ciertos tipos de contenido no seguro, pero esperamos que tenga algunos falsos negativos y positivos por ahora.  Estamos ansiosos por recopilar comentarios de los usuarios para ayudar en nuestro trabajo continuo para mejorar este sistema\u00bb.<\/p>\n<p>ChatGPT tambi\u00e9n puede generar respuestas ofensivas, hirientes o enga\u00f1osas.  Estos pueden variar desde respuestas al estilo de Ultr\u00f3n acerca de que los humanos son inferiores y desean la extinci\u00f3n de la raza humana hasta escribir letras de canciones ofensivas.<\/p>\n<p>Estas situaciones requieren intervenci\u00f3n humana, por supuesto, pero las poderosas herramientas proporcionadas por ChatGPT hacen que ciertas cosas sean m\u00e1s f\u00e1ciles de crear.  El usuario de Twitter Front Runner comparti\u00f3 un ejemplo de un ensayo escrito por ChatGPT que presenta un argumento inmoral (<a rel=\"nofollow noopener\" target=\"_blank\" href=\"https:\/\/twitter.com\/BottlesFtx\/status\/1599605382384472075?s=20&#038;t=_lhJFPZcz9LVsBHPF_gnDg\" data-url=\"https:\/\/twitter.com\/BottlesFtx\/status\/1599605382384472075?s=20&#038;t=_lhJFPZcz9LVsBHPF_gnDg\">advertencia de contenido sensible<\/a>).<\/p>\n<h2 id=\"a-quickly-moving-industry-3\">Una industria que se mueve r\u00e1pidamente<\/h2>\n<p>La IA se mueve tan r\u00e1pido, si no m\u00e1s, que cualquier otra industria.  La tecnolog\u00eda en el espacio mejora a un ritmo asombroso, posiblemente m\u00e1s r\u00e1pido de lo que la legislaci\u00f3n o la moderaci\u00f3n pueden manejar.  La semana que sigui\u00f3 al lanzamiento de ChatGPT ilustra la amplia gama de tareas para las que se puede utilizar la IA.<\/p>\n<p>Asegurar el futuro de la IA requerir\u00e1 que quienes est\u00e1n detr\u00e1s de la tecnolog\u00eda creen herramientas para mantener las cosas bajo control, as\u00ed como la restricci\u00f3n por parte de las personas que utilizan la inteligencia artificial.<\/p>\n<\/div>\n<p><script async src=\"\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script><script>\n!function(f,b,e,v,n,t,s){if(f.fbq)return;n=f.fbq=function()\n{n.callMethod? n.callMethod.apply(n,arguments):n.queue.push(arguments)}\n;if(!f._fbq)f._fbq=n;\nn.push=n;n.loaded=!0;n.version='2.0';n.queue=[];t=b.createElement(e);t.async=!0;\nt.src=v;s=b.getElementsByTagName(e)[0];s.parentNode.insertBefore(t,s)}(window,\ndocument,'script','https:\/\/connect.facebook.net\/en_US\/fbevents.js');\nfbq('init', '1765793593738454');\nfbq('track', 'PageView');\n<\/script><br \/>\n<br \/><br \/>\n<br \/><a href=\"https:\/\/www.windowscentral.com\/software-apps\/a-week-since-launch-openais-chatgpt-has-shown-the-power-and-horror-of-ai\" target=\"_blank\" rel=\"noopener\">Source link-40 <\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>El concepto de inteligencia artificial no es nada nuevo. De hecho, es muy probable que haya usado algo que dependa de la IA en las \u00faltimas 24 horas. Pero cuando&hellip;<\/p>\n","protected":false},"author":1,"featured_media":335067,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[21980],"tags":[65604,25697,425,1306,349,49133,2350,586,73],"_links":{"self":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/335066"}],"collection":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/comments?post=335066"}],"version-history":[{"count":1,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/335066\/revisions"}],"predecessor-version":[{"id":335068,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/335066\/revisions\/335068"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media\/335067"}],"wp:attachment":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media?parent=335066"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/categories?post=335066"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/tags?post=335066"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}