{"id":660357,"date":"2023-06-02T10:12:25","date_gmt":"2023-06-02T10:12:25","guid":{"rendered":"https:\/\/magazineoffice.com\/resumen-de-ars-frontiers-que-sucede-con-los-desarrolladores-cuando-la-ia-puede-codificar\/"},"modified":"2023-06-02T10:12:29","modified_gmt":"2023-06-02T10:12:29","slug":"resumen-de-ars-frontiers-que-sucede-con-los-desarrolladores-cuando-la-ia-puede-codificar","status":"publish","type":"post","link":"https:\/\/magazineoffice.com\/resumen-de-ars-frontiers-que-sucede-con-los-desarrolladores-cuando-la-ia-puede-codificar\/","title":{"rendered":"Resumen de Ars Frontiers: \u00bfQu\u00e9 sucede con los desarrolladores cuando la IA puede codificar?"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<div itemprop=\"articleBody\">\n<aside id=\"social-left\" class=\"social-left\" aria-label=\"Read the comments or share this article\">\n<\/aside>\n<p><!-- cache hit 1:single\/related:1e0ad22417ad4415723cf9b19b209ec2 --><!-- empty --><\/p>\n<figure class=\"video\">\n<p><iframe loading=\"lazy\" title=\"Ars Frontiers 2023 Livestream\" width=\"640\" height=\"360\" src=\"https:\/\/www.youtube.com\/embed\/P5yPqdOUHsU?feature=oembed\" frameborder=\"0\" allow=\"accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share\" referrerpolicy=\"strict-origin-when-cross-origin\" allowfullscreen><\/iframe><\/p><figcaption class=\"caption\">\n<div class=\"caption-text\">Nuestro segundo panel de inteligencia artificial del d\u00eda, con Drew Lohn (centro) de la Universidad de Georgetown y Katie Moussouris, directora ejecutiva de Luta Security (derecha).  Salta a 3:01:12 si el enlace no te lleva directamente all\u00ed.  Haga clic aqu\u00ed para obtener una transcripci\u00f3n de la sesi\u00f3n.<\/div>\n<\/figcaption><\/figure>\n<p>El panel final del d\u00eda en nuestra conferencia Frontiers de este a\u00f1o fue presentado por m\u00ed, aunque iba a ser dif\u00edcil seguir el panel del experto en IA de Ars, Benj Edwards, porque no ten\u00eda planeada una introducci\u00f3n bonita.  El tema que cubr\u00edamos era lo que podr\u00eda pasarles a los desarrolladores cuando la IA generativa sea lo suficientemente buena como para crear un buen c\u00f3digo de manera consistente y, afortunadamente, nuestros panelistas pensaron que no ten\u00edamos mucho de qu\u00e9 preocuparnos.  No a corto plazo, al menos.<\/p>\n<p>Junto con la fundadora y directora ejecutiva de Luta Security, Katie Moussouris, y el investigador principal de la Universidad de Georgetown, Drew Lohn, el consenso general fue que, aunque los modelos de lenguaje grandes pueden hacer cosas extremadamente impresionantes, liberarlos para crear c\u00f3digo de producci\u00f3n es una idea terrible.  Si bien la IA generativa ha demostrado la capacidad de crear c\u00f3digo, incluso un examen superficial demuestra que los modelos de lenguaje grande (LLM) de hoy en d\u00eda a menudo hacen lo mismo al codificar que cuando giran historias: solo inventan un mont\u00f3n de cosas.  (El t\u00e9rmino art\u00edstico aqu\u00ed es \u00abalucinaci\u00f3n\u00bb, pero Benj tiende a preferir el t\u00e9rmino \u00abconfabulaci\u00f3n\u00bb, ya que refleja con mayor precisi\u00f3n lo que parece que est\u00e1n haciendo los modelos).<\/p>\n<p>Por lo tanto, aunque hoy en d\u00eda se puede confiar en los LLM para hacer cosas simples, como crear una expresi\u00f3n regular, confiarles su c\u00f3digo de producci\u00f3n es mucho m\u00e1s complicado.<\/p>\n<figure class=\"image shortcode-img full-width\" style=\"width:980px\"><figcaption class=\"caption\">\n<div class=\"caption-text\">Agrandar <span class=\"sep\">\/<\/span> La expresi\u00f3n regular que le ped\u00ed a Bing Chat que creara.  \u00bfEs perfecto?  No. \u00bfEs lo suficientemente bueno?  S\u00ed.<\/div>\n<\/figcaption><\/figure>\n<p>Un gran problema subyacente, dice Katie, es que los modelos generativos son tan buenos como el c\u00f3digo en el que est\u00e1n entrenados.  \u00abMis amigos de Veracode hicieron un peque\u00f1o estudio durante los \u00faltimos 12 meses y el 70 por ciento del c\u00f3digo que existe contiene fallas de seguridad\u00bb, explic\u00f3.  \u00abEntonces, si tiene un modelo entrenado en un c\u00f3digo que es 70 por ciento vulnerable&#8230; es muy probable que el c\u00f3digo resultante contenga fallas de seguridad\u00bb.  Esto significa que a pesar de que el c\u00f3digo puede ser en su mayor\u00eda funcional, como mi expresi\u00f3n regular generada por Bing Chat arriba, tambi\u00e9n existe una alta probabilidad de que tenga problemas integrados.<\/p>\n<aside class=\"ad_wrapper\" aria-label=\"In Content advertisement\">\n    <span class=\"ad_notice\">Anuncio <\/span>    <\/p>\n<\/aside>\n<p>Drew se bas\u00f3 en ese punto y se\u00f1al\u00f3 que ha habido investigaciones acad\u00e9micas en el \u00e1rea que corroboran el problema.  \u00abUn par de personas en NYU y Stanford tienen algunos documentos que muestran estas cosas&#8230; incluso si lo emparejas con un humano, el humano escribe un c\u00f3digo m\u00e1s vulnerable con la ayuda de la IA\u00bb.  La preocupaci\u00f3n de Drew es que el problema se convierte en una serpiente que se muerde la cola: a medida que la IA genera c\u00f3digo con peque\u00f1os problemas, ese c\u00f3digo se usa luego como datos de entrenamiento para modelos m\u00e1s generativos, y esos peque\u00f1os problemas se vuelven profundamente sist\u00e9micos.<\/p>\n<p>Ambos panelistas aconsejan precauci\u00f3n en nuestro futuro generado por IA, y ambos explicaron que la revisi\u00f3n humana en todos los niveles del proceso de desarrollo sigue siendo vital.  Todav\u00eda no estamos cerca de poder producir c\u00f3digo en piloto autom\u00e1tico, aunque parece bastante probable que finalmente llegue el d\u00eda.  Hablando personalmente, no tendr\u00eda ning\u00fan problema en confiar en la IA generativa para generar peque\u00f1as cosas que <em>podr\u00eda<\/em> hacer pero preferir\u00eda <em>no<\/em> hacer: scripts de shell simples, expresiones regulares y otras tareas pesadas que me llevar\u00edan mucho tiempo escribir.  Se necesita mucho menos tiempo para examinar un par de l\u00edneas de c\u00f3digo generado que para crear, para alguien que no es desarrollador como yo.<\/p>\n<p>Y si mi expresi\u00f3n regular marca el comienzo de la singularidad que hace que la IA destruya a la humanidad, lo siento mucho.<\/p>\n<\/p><\/div>\n<p><br \/>\n<br \/><a href=\"https:\/\/magazineoffice.com\/\">Source link-49<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Nuestro segundo panel de inteligencia artificial del d\u00eda, con Drew Lohn (centro) de la Universidad de Georgetown y Katie Moussouris, directora ejecutiva de Luta Security (derecha). Salta a 3:01:12 si&hellip;<\/p>\n","protected":false},"author":1,"featured_media":660358,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[21980],"tags":[58366,56442,133,226,1783,17638,8,495,111,4167,9252],"_links":{"self":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/660357"}],"collection":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/comments?post=660357"}],"version-history":[{"count":1,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/660357\/revisions"}],"predecessor-version":[{"id":660359,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/660357\/revisions\/660359"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media\/660358"}],"wp:attachment":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media?parent=660357"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/categories?post=660357"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/tags?post=660357"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}