Menos de una semana después de que Meta presentara pegatinas generadas por IA en su aplicación Facebook Messenger, los usuarios ya están abusando de ella para crear imágenes incómodas de personajes protegidos por derechos de autor y compartir los resultados en las redes sociales, informa VentureBeat. En particular, un artista llamado Pier-Olivier Desbiens publicó una serie de pegatinas virtuales que se volvieron virales en X el martes, iniciando un hilo de generaciones de imágenes de IA igualmente poco convencionales compartidas por otros.
«FDescubrí que Facebook Messenger ahora tiene pegatinas generadas por IA y no creo que nadie involucrado haya pensado en nada.«, escribió Desbiens en su publicación. «WRealmente vivimos en el futuro más estúpido imaginable», añadió en una respuesta.
Disponible para algunos usuarios de forma limitada, la nueva función de stickers de IA permite a las personas crear imágenes de stickers simuladas generadas por IA a partir de descripciones basadas en texto tanto en Facebook Messenger como en Instagram Messenger. Luego, las pegatinas se comparten en chats, de forma similar a los emojis. Meta utiliza su nuevo modelo de síntesis de imágenes Emu para crearlas y ha implementado filtros para detectar lo que podrían ser generaciones potencialmente ofensivas para algunas personas. Pero muchas combinaciones novedosas se están escapando de las grietas.
Las generaciones compartidas en X incluyen a Mickey Mouse sosteniendo una ametralladora o un cuchillo ensangrentado, las Torres Gemelas en llamas del World Trade Center, el Papa con una ametralladora, Elmo de Barrio Sésamo blandiendo un cuchillo, Donald Trump como un bebé llorando, personajes de Los Simpson. en ropa interior diminuta, Luigi con una pistola, el primer ministro canadiense Justin Trudeau mostrando sus nalgas y más.
Esta no es la primera vez que las imágenes generadas por IA han inspirado hilos llenos de experimentadores vertiginosos que intentan romper los filtros de contenido en las redes sociales. Generaciones como estas han sido posibles en modelos de imágenes de código abierto sin censura durante más de un año, pero es notable que Meta lanzó públicamente un modelo que puede crearlas sin salvaguardias más estrictas a través de una función integrada en aplicaciones emblemáticas como Instagram y Messenger.
En particular, DALL-E 3 de OpenAI ha pasado por ritmos similares recientemente, y la gente prueba los límites del filtro del generador de imágenes de IA creando imágenes que presentan gente real o incluir contenido violento. Es difícil captar todo el contenido potencialmente dañino o fuera de color de todas las culturas del mundo cuando un generador de imágenes puede crear casi cualquier combinación de objetos, escenarios o personas que puedas imaginar. Y hacerlo podría sofocar las normas culturales de libertad de expresión. Es otro desafío más al que se enfrentan los equipos de moderación en el futuro tanto de las aplicaciones impulsadas por IA como de los espacios en línea.
Durante el año pasado, ha sido común que las empresas realicen pruebas beta de sistemas de IA generativa a través del acceso público, lo que nos ha traído maravillas como el defectuoso modelo Galactica de Meta en noviembre pasado y la desquiciada primera versión del modelo de IA de Bing Chat. Si los casos pasados sirven de indicación, cuando algo extraño atrae mucha atención, el desarrollador normalmente reacciona eliminándolo o reforzando los filtros integrados. Entonces, ¿Meta eliminará la función de pegatinas de IA o simplemente tomará medidas drásticas agregando más palabras y frases a su filtro de palabras clave?
Cuando la reportera de VentureBeat, Sharon Goldman, cuestionó al portavoz de Meta, Andy Stone, sobre las pegatinas el martes, señaló una publicación de blog titulada Construyendo características de IA generativa de manera responsable y dijo: «Como ocurre con todos los sistemas de IA generativa, los modelos podrían arrojar resultados inexactos o inapropiados. Continuaremos mejorando estas funciones a medida que evolucionen y más personas compartan sus comentarios».