Desde las huelgas de Hollywood hasta los retratos digitales, el potencial de la IA para robar el trabajo de los creativos y c\u00f3mo detenerlo ha dominado la conversaci\u00f3n sobre tecnolog\u00eda en 2023. El \u00faltimo esfuerzo para proteger a los artistas y sus creaciones es Nightshade, una herramienta que permite a los artistas agregar p\u00edxeles indetectables a su trabajo. que podr\u00eda corromper los datos de entrenamiento de una IA, el Revisi\u00f3n de tecnolog\u00eda del MIT<\/em> informes. La creaci\u00f3n de Nightshade se produce cuando grandes empresas como OpenAI y Meta enfrentan demandas por infracci\u00f3n de derechos de autor y robo de obras personales sin compensaci\u00f3n.<\/p>\n El profesor Ben Zhao de la Universidad de Chicago y su equipo crearon Nightshade, que actualmente est\u00e1 siendo revisado por pares, en un esfuerzo por devolver parte del poder a las manos de los artistas. Lo probaron en modelos recientes de Stable Diffusion y en una IA que construyeron personalmente desde cero.<\/p>\n Nightshade esencialmente funciona como un veneno, alterando la forma en que un modelo de aprendizaje autom\u00e1tico produce contenido y c\u00f3mo se ve el producto terminado. Por ejemplo, podr\u00eda hacer que un sistema de inteligencia artificial interprete una indicaci\u00f3n de un bolso como una tostadora o muestre una imagen de un gato en lugar del perro solicitado (lo mismo ocurre con indicaciones similares como cachorro o lobo).<\/p>\n Nightshade sigue al lanzamiento en agosto de Zhao y su equipo de una herramienta llamada Glaze, que tambi\u00e9n altera sutilmente los p\u00edxeles de una obra de arte, pero hace que los sistemas de inteligencia artificial detecten la imagen inicial como completamente diferente de lo que es. Un artista que quiera proteger su trabajo puede subirlo a Glaze y optar por usar Nightshade.<\/p>\n La tecnolog\u00eda da\u00f1ina como Nightshade podr\u00eda contribuir en gran medida a alentar a los principales actores de la IA a solicitar y compensar adecuadamente el trabajo de los artistas (parece una mejor alternativa a tener que volver a cablear su sistema). Las empresas que quieran eliminar el veneno probablemente tendr\u00edan que localizar todos los datos corruptos, una tarea dif\u00edcil. Zhao advierte que algunas personas podr\u00edan intentar utilizar la herramienta con fines malignos, pero que cualquier da\u00f1o real requerir\u00eda miles de trabajos corruptos.<\/p>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n