\n<\/p>\n
A medida que las herramientas de inteligencia artificial se vuelven cada vez m\u00e1s sofisticadas y accesibles, tambi\u00e9n lo ha hecho una de sus peores aplicaciones: la pornograf\u00eda deepfake no consensuada. Si bien gran parte de este contenido est\u00e1 alojado en sitios dedicados, cada vez m\u00e1s llega a las plataformas sociales. Hoy, la Meta Oversight Board anunci\u00f3 que se estaba ocupando de casos que podr\u00edan obligar a la empresa a considerar c\u00f3mo maneja la pornograf\u00eda deepfake.<\/p>\n
La junta, que es un organismo independiente que puede emitir decisiones vinculantes y recomendaciones a Meta, se centrar\u00e1 en dos casos de pornograf\u00eda deepfake, ambos relacionados con celebridades a quienes se les alter\u00f3 la imagen para crear contenido expl\u00edcito. En un caso sobre una celebridad estadounidense an\u00f3nima, el porno deepfake que representaba a la celebridad fue eliminado de Facebook despu\u00e9s de que ya hab\u00eda sido marcado en otra parte de la plataforma. La publicaci\u00f3n tambi\u00e9n se agreg\u00f3 al Media Matching Service Bank de Meta, un sistema automatizado que encuentra y elimina im\u00e1genes que ya han sido marcadas como violatorias de las pol\u00edticas de Meta, para mantenerlas fuera de la plataforma.<\/p>\n
En el otro caso, una imagen deepfake de una celebridad india an\u00f3nima permaneci\u00f3 en Instagram, incluso despu\u00e9s de que los usuarios la denunciaran por violar las pol\u00edticas de Meta sobre pornograf\u00eda. Seg\u00fan el anuncio, el deepfake de la celebridad india fue eliminado una vez que la junta se hizo cargo del caso.<\/p>\n
En ambos casos, las im\u00e1genes fueron eliminadas por violar las pol\u00edticas de Meta sobre intimidaci\u00f3n y acoso, y no estaban incluidas en las pol\u00edticas de Meta sobre pornograf\u00eda. Meta, sin embargo, proh\u00edbe \u201ccontenido que represente, amenace o promueva la violencia sexual, la agresi\u00f3n sexual o la explotaci\u00f3n sexual\u201d y no permite pornograf\u00eda ni anuncios sexualmente expl\u00edcitos en sus plataformas. En una publicaci\u00f3n de blog publicada junto con el anuncio de los casos, Meta dijo que elimin\u00f3 las publicaciones por violar la parte de \u201cphotoshops o dibujos sexualizados despectivos\u201d de su pol\u00edtica de intimidaci\u00f3n y acoso, y que tambi\u00e9n \u201cdetermin\u00f3 que violaba [Meta’s] pol\u00edtica sobre desnudez de adultos y actividad sexual\u201d.<\/p>\n
La junta espera utilizar estos casos para examinar las pol\u00edticas y sistemas de Meta para detectar y eliminar pornograf\u00eda deepfake no consensuada, seg\u00fan Julie Owono, miembro de la Junta de Supervisi\u00f3n. \u00abYa puedo decir provisionalmente que el principal problema probablemente sea la detecci\u00f3n\u00bb, afirma. \u00abLa detecci\u00f3n no es tan perfecta o al menos no tan eficiente como desear\u00edamos\u00bb.<\/p>\n
Meta tambi\u00e9n ha enfrentado durante mucho tiempo cr\u00edticas por su enfoque para moderar contenido fuera de Estados Unidos y Europa Occidental. Para este caso, la junta ya expres\u00f3 su preocupaci\u00f3n de que la celebridad estadounidense y la celebridad india recibieran un trato diferente en respuesta a la aparici\u00f3n de sus deepfakes en la plataforma.<\/p>\n
\u201cSabemos que Meta es m\u00e1s r\u00e1pido y eficaz a la hora de moderar contenido en algunos mercados e idiomas que en otros. Al tomar un caso de Estados Unidos y otro de India, queremos ver si Meta est\u00e1 protegiendo a todas las mujeres a nivel mundial de manera justa\u201d, dice la copresidenta de la Junta de Supervisi\u00f3n, Helle Thorning-Schmidt. \u00abEs fundamental que se aborde este asunto y la junta espera explorar si las pol\u00edticas y pr\u00e1cticas de cumplimiento de Meta son efectivas para abordar este problema\u00bb.<\/p>\n<\/div>\n