{"id":832487,"date":"2023-10-05T23:19:43","date_gmt":"2023-10-05T23:19:43","guid":{"rendered":"https:\/\/magazineoffice.com\/los-usuarios-descubren-que-las-nuevas-pegatinas-de-ia-de-facebook-pueden-generar-a-elmo-con-un-cuchillo\/"},"modified":"2023-10-05T23:20:00","modified_gmt":"2023-10-05T23:20:00","slug":"los-usuarios-descubren-que-las-nuevas-pegatinas-de-ia-de-facebook-pueden-generar-a-elmo-con-un-cuchillo","status":"publish","type":"post","link":"https:\/\/magazineoffice.com\/los-usuarios-descubren-que-las-nuevas-pegatinas-de-ia-de-facebook-pueden-generar-a-elmo-con-un-cuchillo\/","title":{"rendered":"Los usuarios descubren que las nuevas pegatinas de IA de Facebook pueden generar a Elmo con un cuchillo"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<div itemprop=\"articleBody\">\n<figure class=\"intro-image intro-left\"><figcaption class=\"caption\">\n<div class=\"caption-text\">Agrandar <span class=\"sep\">\/<\/span> Una selecci\u00f3n de stickers generados por IA creados en Facebook Messenger y compartidos en el sitio de redes sociales X.<\/div>\n<\/figcaption><\/figure>\n<aside id=\"social-left\" class=\"social-left\" aria-label=\"Read the comments or share this article\">\n<\/aside>\n<p><!-- cache hit 167:single\/related:bf854290422c3bc9de80ece79e7cd5c1 --><!-- empty --><\/p>\n<p>Menos de una semana despu\u00e9s de que Meta presentara pegatinas generadas por IA en su aplicaci\u00f3n Facebook Messenger, los usuarios ya est\u00e1n abusando de ella para crear im\u00e1genes inc\u00f3modas de personajes protegidos por derechos de autor y compartir los resultados en las redes sociales, informa VentureBeat.  En particular, un artista llamado Pier-Olivier Desbiens public\u00f3 una serie de pegatinas virtuales que se volvieron virales en X el martes, iniciando un hilo de generaciones de im\u00e1genes de IA igualmente poco convencionales compartidas por otros.<\/p>\n<p>\u00abF<span class=\"css-901oao css-16my406 r-poiln3 r-bcqeeo r-qvutc0\">Descubr\u00ed que Facebook Messenger ahora tiene pegatinas generadas por IA y no creo que nadie involucrado haya pensado en nada.<\/span>\u00ab, escribi\u00f3 Desbiens en su publicaci\u00f3n. \u00abW<span class=\"css-901oao css-16my406 r-poiln3 r-bcqeeo r-qvutc0\">Realmente vivimos en el futuro m\u00e1s est\u00fapido imaginable\u00bb, a\u00f1adi\u00f3 en una respuesta.<\/span><\/p>\n<p>Disponible para algunos usuarios de forma limitada, la nueva funci\u00f3n de stickers de IA permite a las personas crear im\u00e1genes de stickers simuladas generadas por IA a partir de descripciones basadas en texto tanto en Facebook Messenger como en Instagram Messenger.  Luego, las pegatinas se comparten en chats, de forma similar a los emojis.  Meta utiliza su nuevo modelo de s\u00edntesis de im\u00e1genes Emu para crearlas y ha implementado filtros para detectar lo que podr\u00edan ser generaciones potencialmente ofensivas para algunas personas.  Pero muchas combinaciones novedosas se est\u00e1n escapando de las grietas.<\/p>\n<p>Las generaciones compartidas en X incluyen a Mickey Mouse sosteniendo una ametralladora o un cuchillo ensangrentado, las Torres Gemelas en llamas del World Trade Center, el Papa con una ametralladora, Elmo de Barrio S\u00e9samo blandiendo un cuchillo, Donald Trump como un beb\u00e9 llorando, personajes de Los Simpson. en ropa interior diminuta, Luigi con una pistola, el primer ministro canadiense Justin Trudeau mostrando sus nalgas y m\u00e1s.<\/p>\n<aside class=\"ad_wrapper\" aria-label=\"In Content advertisement\">\n    <span class=\"ad_notice\">Anuncio <\/span>    <\/p>\n<\/aside>\n<p>Esta no es la primera vez que las im\u00e1genes generadas por IA han inspirado hilos llenos de experimentadores vertiginosos que intentan romper los filtros de contenido en las redes sociales.  Generaciones como estas han sido posibles en modelos de im\u00e1genes de c\u00f3digo abierto sin censura durante m\u00e1s de un a\u00f1o, pero es notable que Meta lanz\u00f3 p\u00fablicamente un modelo que puede crearlas sin salvaguardias m\u00e1s estrictas a trav\u00e9s de una funci\u00f3n integrada en aplicaciones emblem\u00e1ticas como Instagram y Messenger.<\/p>\n<p>En particular, DALL-E 3 de OpenAI ha pasado por ritmos similares recientemente, y la gente prueba los l\u00edmites del filtro del generador de im\u00e1genes de IA creando im\u00e1genes que presentan <a href=\"https:\/\/twitter.com\/mattshumer_\/status\/1708595613862879670\" target=\"_blank\" rel=\"noopener\">gente real<\/a> o incluir contenido violento.  Es dif\u00edcil captar todo el contenido potencialmente da\u00f1ino o fuera de color de todas las culturas del mundo cuando un generador de im\u00e1genes puede crear casi cualquier combinaci\u00f3n de objetos, escenarios o personas que puedas imaginar.  Y hacerlo podr\u00eda sofocar las normas culturales de libertad de expresi\u00f3n.  Es otro desaf\u00edo m\u00e1s al que se enfrentan los equipos de moderaci\u00f3n en el futuro tanto de las aplicaciones impulsadas por IA como de los espacios en l\u00ednea.<\/p>\n<figure class=\"image shortcode-img center large\" style=\"width:100%\"><img loading=\"lazy\" decoding=\"async\" alt=\"Una selecci\u00f3n de stickers generados por IA creados en Facebook Messenger.\" src=\"https:\/\/cdn.arstechnica.net\/wp-content\/uploads\/2023\/10\/F7kJLkmXwAApFND-640x1387.jpeg\" width=\"640\" height=\"1387\" srcset=\"https:\/\/cdn.arstechnica.net\/wp-content\/uploads\/2023\/10\/F7kJLkmXwAApFND.jpeg 2x\"\/><figcaption class=\"caption\">\n<div class=\"caption-text\">Agrandar <span class=\"sep\">\/<\/span> Una selecci\u00f3n de stickers generados por IA creados en Facebook Messenger.<\/div>\n<\/figcaption><\/figure>\n<p>Durante el a\u00f1o pasado, ha sido com\u00fan que las empresas realicen pruebas beta de sistemas de IA generativa a trav\u00e9s del acceso p\u00fablico, lo que nos ha tra\u00eddo maravillas como el defectuoso modelo Galactica de Meta en noviembre pasado y la desquiciada primera versi\u00f3n del modelo de IA de Bing Chat.  Si los casos pasados \u200b\u200bsirven de indicaci\u00f3n, cuando algo extra\u00f1o atrae mucha atenci\u00f3n, el desarrollador normalmente reacciona elimin\u00e1ndolo o reforzando los filtros integrados.  Entonces, \u00bfMeta eliminar\u00e1 la funci\u00f3n de pegatinas de IA o simplemente tomar\u00e1 medidas dr\u00e1sticas agregando m\u00e1s palabras y frases a su filtro de palabras clave?<\/p>\n<p>Cuando la reportera de VentureBeat, Sharon Goldman, cuestion\u00f3 al portavoz de Meta, Andy Stone, sobre las pegatinas el martes, se\u00f1al\u00f3 una publicaci\u00f3n de blog titulada Construyendo caracter\u00edsticas de IA generativa de manera responsable y dijo: \u00abComo ocurre con todos los sistemas de IA generativa, los modelos podr\u00edan arrojar resultados inexactos o inapropiados. Continuaremos mejorando estas funciones a medida que evolucionen y m\u00e1s personas compartan sus comentarios\u00bb.<\/p>\n<\/p><\/div>\n<p><script async src=\"\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script><br \/>\n<br \/><br \/>\n<br \/><a href=\"https:\/\/magazineoffice.com\/\">Source link-49<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Agrandar \/ Una selecci\u00f3n de stickers generados por IA creados en Facebook Messenger y compartidos en el sitio de redes sociales X. Menos de una semana despu\u00e9s de que Meta&hellip;<\/p>\n","protected":false},"author":1,"featured_media":832488,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[21980],"tags":[133,7227,1020,36321,1967,29724,246,8,863,44247,2964,6512],"_links":{"self":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/832487"}],"collection":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/comments?post=832487"}],"version-history":[{"count":1,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/832487\/revisions"}],"predecessor-version":[{"id":832489,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/832487\/revisions\/832489"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media\/832488"}],"wp:attachment":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media?parent=832487"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/categories?post=832487"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/tags?post=832487"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}