{"id":854724,"date":"2023-10-25T03:41:55","date_gmt":"2023-10-25T03:41:55","guid":{"rendered":"https:\/\/magazineoffice.com\/la-herramienta-de-envenenamiento-de-datos-nightshade-podria-ayudar-a-los-artistas-a-luchar-contra-la-ia\/"},"modified":"2023-10-25T03:41:59","modified_gmt":"2023-10-25T03:41:59","slug":"la-herramienta-de-envenenamiento-de-datos-nightshade-podria-ayudar-a-los-artistas-a-luchar-contra-la-ia","status":"publish","type":"post","link":"https:\/\/magazineoffice.com\/la-herramienta-de-envenenamiento-de-datos-nightshade-podria-ayudar-a-los-artistas-a-luchar-contra-la-ia\/","title":{"rendered":"La herramienta de envenenamiento de datos Nightshade podr\u00eda ayudar a los artistas a luchar contra la IA"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<div id=\"article-body\">\n<p>Investigadores en inform\u00e1tica han creado una nueva herramienta de datos de im\u00e1genes denominada Nightshade para \u00abenvenenar\u00bb los datos destinados a los modelos de texto a imagen.  Nightshade agrega cambios imperceptibles a las im\u00e1genes de los creadores que se cargan en l\u00ednea.  Si un raspador de datos agrega posteriormente una de estas im\u00e1genes alteradas a su conjunto de datos, \u00abintroducir\u00e1 comportamientos inesperados\u00bb en el modelo, envenen\u00e1ndolo.<\/p>\n<p>Recientemente se public\u00f3 en arXiv una vista previa de un art\u00edculo llamado Ataques de envenenamiento espec\u00edficos r\u00e1pidos en modelos generativos de texto a imagen, que describe el alcance y la funcionalidad de Nightshade. <em>Revisi\u00f3n de tecnolog\u00eda del MIT<\/em> ha obtenido m\u00e1s informaci\u00f3n tras las conversaciones con el equipo detr\u00e1s del proyecto.<\/p>\n<figure class=\"van-image-figure inline-layout\" data-bordeaux-image-check=\"\">\n<div class=\"image-full-width-wrapper\">\n<div class=\"image-widthsetter\" style=\"max-width:1280px;\">\n<p class=\"vanilla-image-block\" style=\"padding-top:22.97%;\"><picture><source type=\"image\/webp\" alt=\"Nightshade data poisoning\" class=\"expandable lazy-image-van\" onerror=\"if(this.src &amp;&amp; this.src.indexOf('missing-image.svg') !== -1)return true;;this.parentNode.replaceChild(window.missingImage(),this)\" data-normal=\"https:\/\/vanilla.futurecdn.net\/tomshardware\/media\/img\/missing-image.svg\" data-srcset=\"https:\/\/cdn.mos.cms.futurecdn.net\/V5Fd6KFNCPE4VVBCjLVQWH-320-80.jpg.webp 320w, https:\/\/cdn.mos.cms.futurecdn.net\/V5Fd6KFNCPE4VVBCjLVQWH-480-80.jpg.webp 480w, https:\/\/cdn.mos.cms.futurecdn.net\/V5Fd6KFNCPE4VVBCjLVQWH-650-80.jpg.webp 650w, https:\/\/cdn.mos.cms.futurecdn.net\/V5Fd6KFNCPE4VVBCjLVQWH-970-80.jpg.webp 970w, https:\/\/cdn.mos.cms.futurecdn.net\/V5Fd6KFNCPE4VVBCjLVQWH-1024-80.jpg.webp 1024w, https:\/\/cdn.mos.cms.futurecdn.net\/V5Fd6KFNCPE4VVBCjLVQWH-1200-80.jpg.webp 1200w\" data-sizes=\"(min-width: 1000px) 970px, calc(100vw - 40px)\" data-original-mos=\"https:\/\/cdn.mos.cms.futurecdn.net\/V5Fd6KFNCPE4VVBCjLVQWH.jpg\" data-pin-media=\"https:\/\/cdn.mos.cms.futurecdn.net\/V5Fd6KFNCPE4VVBCjLVQWH.jpg\"\/><source type=\"image\/jpeg\" alt=\"Nightshade data poisoning\" class=\"expandable lazy-image-van\" onerror=\"if(this.src &amp;&amp; this.src.indexOf('missing-image.svg') !== -1)return true;;this.parentNode.replaceChild(window.missingImage(),this)\" data-normal=\"https:\/\/vanilla.futurecdn.net\/tomshardware\/media\/img\/missing-image.svg\" data-srcset=\"https:\/\/cdn.mos.cms.futurecdn.net\/V5Fd6KFNCPE4VVBCjLVQWH-320-80.jpg 320w, https:\/\/cdn.mos.cms.futurecdn.net\/V5Fd6KFNCPE4VVBCjLVQWH-480-80.jpg 480w, https:\/\/cdn.mos.cms.futurecdn.net\/V5Fd6KFNCPE4VVBCjLVQWH-650-80.jpg 650w, https:\/\/cdn.mos.cms.futurecdn.net\/V5Fd6KFNCPE4VVBCjLVQWH-970-80.jpg 970w, https:\/\/cdn.mos.cms.futurecdn.net\/V5Fd6KFNCPE4VVBCjLVQWH-1024-80.jpg 1024w, https:\/\/cdn.mos.cms.futurecdn.net\/V5Fd6KFNCPE4VVBCjLVQWH-1200-80.jpg 1200w\" data-sizes=\"(min-width: 1000px) 970px, calc(100vw - 40px)\" data-original-mos=\"https:\/\/cdn.mos.cms.futurecdn.net\/V5Fd6KFNCPE4VVBCjLVQWH.jpg\" data-pin-media=\"https:\/\/cdn.mos.cms.futurecdn.net\/V5Fd6KFNCPE4VVBCjLVQWH.jpg\"\/><\/picture><\/p>\n<\/div>\n<\/div><figcaption itemprop=\"caption description\" class=\" inline-layout\"><span class=\"credit\" itemprop=\"copyrightHolder\">(Cr\u00e9dito de la imagen: Universidad de Chicago, arXiv)<\/span><\/figcaption><\/figure>\n<p>La cuesti\u00f3n de que los modelos de IA se entrenen con datos sin el permiso expl\u00edcito del creador y luego \u00abgeneran nuevos datos\u00bb en funci\u00f3n de lo que han aprendido ha sido ampliamente cubierto en las noticias en los \u00faltimos meses.  Lo que parece ser una extracci\u00f3n de datos gratuitamente seguida de una regurgitaci\u00f3n de m\u00e1quinas, con poca o ninguna atribuci\u00f3n, ha provocado que creadores de muchas disciplinas desaprueben los proyectos actuales de IA generativa.<\/p>\n<aside class=\"hawk-nest\" data-render-type=\"fte\" data-skip=\"dealsy\" data-widget-type=\"seasonal\"\/>\n<p>Nightshade est\u00e1 destinado a ayudar a los artistas visuales, o al menos hacer que los recolectores de datos de IA sean m\u00e1s cautelosos a la hora de capturar datos de cualquier manera.  La herramienta es capaz de envenenar datos de im\u00e1genes sin perjudicar a los espectadores humanos, pero alterar\u00e1 los modelos de IA utilizados por herramientas generativas como DALL-E, Midjourney y Stable Diffusion.<\/p>\n<p>Algunos ejemplos de efectos de envenenamiento de datos de Nightshade podr\u00edan incluir: los perros se convierten en gatos, los autom\u00f3viles se convierten en vacas, el cubismo se convierte en anime, los sombreros se convierten en tostadoras y otros caos.  Vea a continuaci\u00f3n ejemplos de los efectos corrosivos de Nightshade en acci\u00f3n.<\/p>\n<div id=\"slice-container-afHiSMv54oKHcndoLpsmf5-imageGallery-5\" class=\"slice-container imageGallery-wrapper afHiSMv54oKHcndoLpsmf5-imageGallery-5 slice-container-imageGallery\">\n<div data-hydrate=\"true\" class=\"inline-gallery first-slide-only\">\n<p>Imagen <!-- -->1<!-- --> de <!-- -->3<\/p>\n<div style=\"overflow-x:hidden\" class=\"inline-gallery__items\">\n<div style=\"-webkit-flex-direction:row;flex-direction:row;-webkit-transition:all 0s ease 0s;transition:all 0s ease 0s;-webkit-transform:translate(0%, 0);transform:translate(0%, 0);direction:ltr;display:flex;will-change:transform\" class=\"react-swipeable-view-container\">\n<div style=\"width:100%;-webkit-flex-shrink:0;flex-shrink:0;overflow:auto\" aria-hidden=\"false\" data-swipeable=\"true\">\n<div class=\"items__item\">\n<div class=\"item__image-cont\">\n<div class=\"image-cont__image\">\n<figure class=\"image-wrapped__wrapper\" data-bordeaux-image-check=\"false\">\n<div class=\"image-wrapped__widthsetter\" style=\"max-width:1664px\">\n<div class=\"image-wrapped__aspect-padding\" style=\"padding-bottom:51.32211538461539%\">\n<div data-hydrate=\"true\">\n<div class=\"lazy-observed\"><img decoding=\"async\" src=\"https:\/\/vanilla.futurecdn.net\/cyclingnews\/media\/img\/missing-image.svg\" alt=\"Intoxicaci\u00f3n de datos de solan\u00e1ceas\" class=\"image-wrapped__image image__image\"\/><\/div>\n<\/div>\n<\/div>\n<\/div><figcaption class=\"caption-credit__figcaption\"><span class=\"caption-credit__credit\" itemprop=\"copyrightHolder\">(Cr\u00e9dito de la imagen: Universidad de Chicago, arXiv)<\/span><\/figcaption><\/figure>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<div style=\"width:100%;-webkit-flex-shrink:0;flex-shrink:0;overflow:auto\" aria-hidden=\"true\" data-swipeable=\"true\">\n<div class=\"items__item\">\n<div class=\"item__image-cont\">\n<div class=\"image-cont__image\">\n<figure class=\"image-wrapped__wrapper\" data-bordeaux-image-check=\"false\">\n<div class=\"image-wrapped__widthsetter\" style=\"max-width:1674px\">\n<div class=\"image-wrapped__aspect-padding\" style=\"padding-bottom:42.65232974910394%\">\n<div data-hydrate=\"true\">\n<div class=\"lazy-observed\"><img decoding=\"async\" src=\"https:\/\/vanilla.futurecdn.net\/cyclingnews\/media\/img\/missing-image.svg\" alt=\"Intoxicaci\u00f3n de datos de solan\u00e1ceas\" class=\"image-wrapped__image image__image\"\/><\/div>\n<\/div>\n<\/div>\n<\/div><figcaption class=\"caption-credit__figcaption\"><span class=\"caption-credit__credit\" itemprop=\"copyrightHolder\">(Cr\u00e9dito de la imagen: Universidad de Chicago, arXiv)<\/span><\/figcaption><\/figure>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<div style=\"width:100%;-webkit-flex-shrink:0;flex-shrink:0;overflow:auto\" aria-hidden=\"true\" data-swipeable=\"true\">\n<div class=\"items__item\">\n<div class=\"item__image-cont\">\n<div class=\"image-cont__image\">\n<figure class=\"image-wrapped__wrapper\" data-bordeaux-image-check=\"false\">\n<div class=\"image-wrapped__widthsetter\" style=\"max-width:1280px\">\n<div class=\"image-wrapped__aspect-padding\" style=\"padding-bottom:22.96875%\">\n<div data-hydrate=\"true\">\n<div class=\"lazy-observed\"><img decoding=\"async\" src=\"https:\/\/vanilla.futurecdn.net\/cyclingnews\/media\/img\/missing-image.svg\" alt=\"Intoxicaci\u00f3n de datos de solan\u00e1ceas\" class=\"image-wrapped__image image__image\"\/><\/div>\n<\/div>\n<\/div>\n<\/div><figcaption class=\"caption-credit__figcaption\"><span class=\"caption-credit__credit\" itemprop=\"copyrightHolder\">(Cr\u00e9dito de la imagen: Universidad de Chicago, arXiv)<\/span><\/figcaption><\/figure>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<p>Anteriormente se pensaba que envenenar una IA generativa podr\u00eda requerir millones de muestras de veneno enviadas al proceso de entrenamiento.  Sin embargo, se afirma que Nightshade es un \u00abataque de envenenamiento r\u00e1pido y espec\u00edfico&#8230; optimizado para su potencia\u00bb.  Sorprendentemente, Nightshade puede hacer su negocio disruptivo en menos de 100 muestras de veneno.  Adem\u00e1s, los investigadores dicen que los efectos del veneno de Nightshade \u00abse traspasan\u00bb a conceptos relacionados, y se pueden componer m\u00faltiples ataques juntos en un solo mensaje.  El resultado final es deshabilitar la generaci\u00f3n de im\u00e1genes significativas basadas en indicaciones de texto del usuario.<\/p>\n<p>Los investigadores no pretenden que herramientas como Nightshade se utilicen sin el debido cuidado.  M\u00e1s bien, pretende ser \u00abuna \u00faltima defensa para los creadores de contenido contra los raspadores web que ignoran las directivas de exclusi\u00f3n voluntaria\/no rastreo\u00bb.  Herramientas como esta podr\u00edan convertirse en un elemento disuasivo contra los raspadores de datos de IA de la era del Lejano Oeste.  Incluso ahora, las empresas emblem\u00e1ticas de IA como Stability AI y OpenAI solo omiten obras de arte cuando los usuarios pasan por obst\u00e1culos para optar por no participar, seg\u00fan <em>Revisi\u00f3n de tecnolog\u00eda del MIT<\/em>El informe.  Algunos piensan que, en cambio, deber\u00edan ser las empresas de inteligencia artificial las que deben perseguir a los usuarios para que opten por participar.<\/p>\n<p>Ben Zhao, profesor de la Universidad de Chicago que dirigi\u00f3 el equipo de investigaci\u00f3n de Nightshade, tambi\u00e9n est\u00e1 detr\u00e1s de Glaze, una herramienta que permite a los creadores enmascarar su estilo art\u00edstico personal para evitar que las empresas de inteligencia artificial lo eliminen e imiten.  Nightshade, que se est\u00e1 preparando como un proyecto de c\u00f3digo abierto, podr\u00eda integrarse en Glaze en una fecha posterior para que el envenenamiento de datos de IA sea una opci\u00f3n.<\/p>\n<\/div>\n<p><br \/>\n<br \/><a href=\"https:\/\/magazineoffice.com\/\">Source link-41<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Investigadores en inform\u00e1tica han creado una nueva herramienta de datos de im\u00e1genes denominada Nightshade para \u00abenvenenar\u00bb los datos destinados a los modelos de texto a imagen. Nightshade agrega cambios imperceptibles&hellip;<\/p>\n","protected":false},"author":1,"featured_media":854725,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[21980],"tags":[2113,3596,190,121,14333,841,8,2892,62129,709],"_links":{"self":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/854724"}],"collection":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/comments?post=854724"}],"version-history":[{"count":1,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/854724\/revisions"}],"predecessor-version":[{"id":854726,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/854724\/revisions\/854726"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media\/854725"}],"wp:attachment":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media?parent=854724"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/categories?post=854724"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/tags?post=854724"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}