{"id":854724,"date":"2023-10-25T03:41:55","date_gmt":"2023-10-25T03:41:55","guid":{"rendered":"https:\/\/magazineoffice.com\/la-herramienta-de-envenenamiento-de-datos-nightshade-podria-ayudar-a-los-artistas-a-luchar-contra-la-ia\/"},"modified":"2023-10-25T03:41:59","modified_gmt":"2023-10-25T03:41:59","slug":"la-herramienta-de-envenenamiento-de-datos-nightshade-podria-ayudar-a-los-artistas-a-luchar-contra-la-ia","status":"publish","type":"post","link":"https:\/\/magazineoffice.com\/la-herramienta-de-envenenamiento-de-datos-nightshade-podria-ayudar-a-los-artistas-a-luchar-contra-la-ia\/","title":{"rendered":"La herramienta de envenenamiento de datos Nightshade podr\u00eda ayudar a los artistas a luchar contra la IA"},"content":{"rendered":"


\n<\/p>\n

\n

Investigadores en inform\u00e1tica han creado una nueva herramienta de datos de im\u00e1genes denominada Nightshade para \u00abenvenenar\u00bb los datos destinados a los modelos de texto a imagen. Nightshade agrega cambios imperceptibles a las im\u00e1genes de los creadores que se cargan en l\u00ednea. Si un raspador de datos agrega posteriormente una de estas im\u00e1genes alteradas a su conjunto de datos, \u00abintroducir\u00e1 comportamientos inesperados\u00bb en el modelo, envenen\u00e1ndolo.<\/p>\n

Recientemente se public\u00f3 en arXiv una vista previa de un art\u00edculo llamado Ataques de envenenamiento espec\u00edficos r\u00e1pidos en modelos generativos de texto a imagen, que describe el alcance y la funcionalidad de Nightshade. Revisi\u00f3n de tecnolog\u00eda del MIT<\/em> ha obtenido m\u00e1s informaci\u00f3n tras las conversaciones con el equipo detr\u00e1s del proyecto.<\/p>\n

\n
\n
\n

<\/picture><\/p>\n<\/div>\n<\/div>

(Cr\u00e9dito de la imagen: Universidad de Chicago, arXiv)<\/span><\/figcaption><\/figure>\n

La cuesti\u00f3n de que los modelos de IA se entrenen con datos sin el permiso expl\u00edcito del creador y luego \u00abgeneran nuevos datos\u00bb en funci\u00f3n de lo que han aprendido ha sido ampliamente cubierto en las noticias en los \u00faltimos meses. Lo que parece ser una extracci\u00f3n de datos gratuitamente seguida de una regurgitaci\u00f3n de m\u00e1quinas, con poca o ninguna atribuci\u00f3n, ha provocado que creadores de muchas disciplinas desaprueben los proyectos actuales de IA generativa.<\/p>\n