\n<\/aside>\n<\/p>\n
A pesar de los intentos de las principales empresas de inteligencia artificial de impedir que los usuarios conviertan los generadores de im\u00e1genes de inteligencia artificial en motores de contenido racista, muchos usuarios de 4chan todav\u00eda est\u00e1n recurriendo a estas herramientas para \u00abinundar r\u00e1pidamente Internet con basura racista\u00bb, inform\u00f3 404 Media.<\/p>\n
404 Media descubri\u00f3 un hilo de 4chan donde los usuarios recomendaban varias herramientas de IA, incluidas Stable Diffusion y DALL-E, pero vinculadas espec\u00edficamente al generador de texto a imagen de Bing AI (que funciona con DALL-E 3) como un \u00abm\u00e9todo r\u00e1pido\u00bb. Despu\u00e9s de encontrar la herramienta adecuada (que tambi\u00e9n podr\u00eda ser una herramienta de edici\u00f3n de fotograf\u00edas m\u00e1s tradicional como Photoshop), se indica a los usuarios que agreguen leyendas incendiarias y compartan las im\u00e1genes en las redes sociales para crear una avalancha de im\u00e1genes racistas en l\u00ednea.<\/p>\n
Haga subt\u00edtulos \u00abdivertidos, provocativos\u00bb, instruye a los usuarios en el hilo. Utilice \u00abmensajes redpilling (jud\u00edos involucrados en el 11 de septiembre)\u00bb que sean \u00abf\u00e1ciles de entender\u00bb.<\/p>\n
404 Media cit\u00f3 ejemplos utilizados en una gu\u00eda visual publicada en el hilo de 4chan alojado en Imgur. Uno presentaba una \u00abimagen que muestra a la rana Pepe llorando con una aguja al lado del brazo y una pistola apuntando a su cabeza\u00bb, donde el gu\u00eda sugiri\u00f3 la leyenda \u00abvacunas impuestas por la violencia\u00bb. Otro gener\u00f3 una imagen de \u00abdos hombres negros con cadenas de oro persiguiendo a una mujer blanca\u00bb, recomendando que el usuario agregara un \u00abmensaje redpilling\u00bb.<\/p>\n
Quiz\u00e1s porque la herramienta de Bing AI aparentemente se ha considerado el m\u00e9todo m\u00e1s r\u00e1pido, potencialmente se ha convertido en la herramienta m\u00e1s popular del hilo. 404 Media concluy\u00f3 que\u2014\u00bba juzgar por el formato cuadrado predeterminado de las im\u00e1genes, la resoluci\u00f3n uniforme de 1024 x 1024″\u2014\u00bbla mayor\u00eda de las im\u00e1genes en el hilo parecen haber sido generadas con Bing\u00bb, y luego difundidas en plataformas de redes sociales, incluidas Telegram, X (anteriormente Twitter) e Instagram.<\/p>\n
No est\u00e1 claro qu\u00e9 medidas han tomado los fabricantes de los generadores de im\u00e1genes de IA aparentemente favorecidos por los usuarios de 4chan para bloquear los m\u00e9todos que, seg\u00fan 404 Media, se utilizaron para eludir los filtros.<\/p>\n\n Anuncio <\/span> <\/p>\n<\/aside>\nUn portavoz de OpenAI le dijo a Ars que la compa\u00f1\u00eda prioriza la seguridad y ha tomado medidas para limitar las salidas de DALL-E, incluidos esfuerzos para limitar que las herramientas generen contenido o im\u00e1genes da\u00f1inos para solicitudes que solicitan una figura p\u00fablica por su nombre. El portavoz de OpenAI tambi\u00e9n confirm\u00f3 que Microsoft implementa sus propias medidas de seguridad para DALL-E 3.<\/p>\n
El portavoz de Microsoft le dijo a Ars que el \u201cBing Image Creator es una herramienta dise\u00f1ada para ayudar a inspirar la creatividad de las personas. Como ocurre con cualquier tecnolog\u00eda nueva, algunos est\u00e1n intentando utilizarla de formas no deseadas. Estamos investigando estos informes y tomaremos las medidas necesarias de acuerdo con nuestras <\/span>pol\u00edtica de contenido, que proh\u00edbe la creaci\u00f3n de contenido da\u00f1ino. Tambi\u00e9n contamos con grandes equipos trabajando en el desarrollo de t\u00e9cnicas y sistemas de seguridad en l\u00ednea con nuestros principios de IA responsable para ayudar a crear un entorno m\u00e1s seguro y seguir comprometidos a convertirlo en una experiencia positiva y \u00fatil para los usuarios\u201d.<\/span><\/p>\nStability AI no respondi\u00f3 de inmediato a la solicitud de Ars de hacer comentarios.<\/p>\n
En una de las pruebas de 404 Media que intentaban replicar uno de los ejemplos de la gu\u00eda visual del hilo de 4chan, 404 Media descubri\u00f3 que Bing rechaz\u00f3 el mensaje \u00abdos hombres negros enojados persiguiendo a una mujer blanca\u00bb, pero acept\u00f3 \u00abdos raperos negros enojados fotorrealistas persiguiendo a una mujer\u00bb. \u00ab<\/p>\n
Gran parte de los primeros informes sobre generadores de im\u00e1genes de IA criticaron los sesgos racistas y sexistas en los algoritmos de los generadores de im\u00e1genes, y los fabricantes de IA r\u00e1pidamente prometieron detectar y eliminar esos sesgos. Cuando Vice descubri\u00f3 que DALL-E podr\u00eda usarse para generar \u00abresultados predeciblemente racistas y sexistas\u00bb durante una versi\u00f3n de investigaci\u00f3n limitada de la herramienta de inteligencia artificial, un portavoz de OpenAI le dijo a Placa base que la compa\u00f1\u00eda hab\u00eda implementado salvaguardias para el sistema DALL-E que estar\u00edan bien. -sintonizado en el futuro.<\/p>\n
\u00abNuestro equipo incorpor\u00f3 mitigaciones para evitar resultados da\u00f1inos, seleccionando los datos previos al entrenamiento, desarrollando filtros e implementando un monitoreo tanto humano como automatizado de las im\u00e1genes generadas\u00bb, dijo el portavoz de OpenAI a Vice en 2022. \u00abEn el futuro, estamos trabajando para medir c\u00f3mo Nuestros modelos podr\u00edan detectar sesgos en los datos de entrenamiento y explorar c\u00f3mo herramientas como el ajuste fino y nuestras t\u00e9cnicas de alineaci\u00f3n pueden ayudar a abordar sesgos particulares, entre otras \u00e1reas de investigaci\u00f3n en este espacio\u201d.<\/p>\n
El informe de 404 Media muestra lo que puede suceder cuando los racistas manipulan un algoritmo ya sesgado. Los resultados pueden ser un torrente de im\u00e1genes ofensivas desatadas en l\u00ednea, quiz\u00e1s generadas m\u00e1s r\u00e1pidamente por la IA que nunca y potencialmente permitiendo que el contenido m\u00e1s oscuro de 4chan se derrame con m\u00e1s frecuencia en las plataformas m\u00e1s populares.<\/p>\n
No est\u00e1 claro c\u00f3mo responder\u00e1n los l\u00edderes de IA como Microsoft y OpenAI, pero seg\u00fan 404 Media, \u00abesto significa que actualmente estamos obteniendo lo peor de ambos mundos de Bing, una herramienta de IA que se negar\u00e1 a generar un pez\u00f3n pero que est\u00e1 sobrecargando a los racistas de 4chan\u00bb.<\/p>\n
Esta historia se ha actualizado para incluir comentarios de portavoces de OpenAI y Microsoft.<\/em><\/p>\n<\/p><\/div>\nSource link-49<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"Aurich Lawson | im\u00e1genes falsas A pesar de los intentos de las principales empresas de inteligencia artificial de impedir que los usuarios conviertan los generadores de im\u00e1genes de inteligencia artificial…<\/p>\n","protected":false},"author":1,"featured_media":833857,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[21980],"tags":[39285,6119,31791,15887,666,5430,8,18070,107,6780,53143,6512],"_links":{"self":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/833856"}],"collection":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/comments?post=833856"}],"version-history":[{"count":1,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/833856\/revisions"}],"predecessor-version":[{"id":833858,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/833856\/revisions\/833858"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media\/833857"}],"wp:attachment":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media?parent=833856"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/categories?post=833856"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/tags?post=833856"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}