Meta continúa adaptando lentamente las políticas de Facebook e Instagram para tener en cuenta los crecientes daños de la IA, y esta semana confronta cómo maneja los deepfakes explícitos que se propagan en sus plataformas.

El martes, la Junta de Supervisión de Meta anunció que revisará dos casos que involucran imágenes sexualizadas de celebridades femeninas generadas por IA que Meta inicialmente manejó de manera desigual para «evaluar si las políticas de Meta y sus prácticas de aplicación de la ley son efectivas para abordar imágenes explícitas generadas por IA».

La junta no nombra a las mujeres famosas cuyos deepfakes están siendo revisados ​​con la esperanza de mitigar «los riesgos de un mayor acoso», dijo la junta.

En un caso, un usuario de Instagram informó sobre una imagen desnuda de IA creada para «parecerse a una figura pública de la India» que se publicó en una cuenta que «solo comparte imágenes de mujeres indias generadas por IA». En lugar de eliminar el deepfake, Meta cerró automáticamente el informe del usuario «porque no fue revisado en 48 horas». El intento del usuario de apelar el informe también se cerró automáticamente.

Meta finalmente dejó el deepfake hasta que el usuario apeló ante la junta de supervisión. El portavoz de Meta rechazó la solicitud de Ars de comentar sobre la demora de Meta en eliminar la imagen antes de que interviniera la junta. «Como resultado de que la Junta seleccionó este caso, Meta determinó que su decisión de dejar el contenido fue un error y eliminó la publicación por violar el Estándar Comunitario de Intimidación y Acoso», dijo el blog de la junta.

Un usuario de Facebook tuvo mucho más éxito al denunciar un deepfake creado para «parecerse a una figura pública estadounidense» que aparecía desnuda «con un hombre tocándole el pecho». Esa imagen generada por IA fue publicada en «un grupo de Facebook para creaciones de IA» usando un título que nombraba a la mujer famosa, dijo la junta.

En ese caso, otro «usuario ya había publicado esta imagen», lo que llevó a Meta a intensificar la revisión de su equipo de seguridad, eliminando el contenido «como una violación de la política de intimidación y acoso» que prohíbe «photoshop o dibujos despectivos y sexualizados».

Debido a que Meta prohibió la imagen, también se agregó al «sistema de aplicación automatizado de Meta que encuentra y elimina automáticamente imágenes que ya han sido identificadas por revisores humanos como que infringen las reglas de Meta».

Para este caso, un usuario de Facebook que intentó compartir la imagen de IA pidió a la junta que revisara el caso después de que Meta cerrara automáticamente un intento inicial de protesta por la decisión de eliminarla.

La junta de supervisión de Meta está revisando ambos casos y durante las próximas dos semanas buscará comentarios públicos para ayudar a las plataformas de Meta a ponerse al día en la mitigación de los daños de la IA. Los usuarios de Facebook e Instagram, así como las organizaciones que «puedan aportar perspectivas valiosas», tendrán hasta el 30 de abril para enviar comentarios.

Los comentarios se pueden compartir de forma anónima y se pide a los comentaristas que «eviten nombrar o compartir información privada sobre terceros o especular sobre las identidades de las personas representadas en el contenido de estos casos».

La junta solicita específicamente comentarios sobre la «naturaleza y gravedad de los daños que plantea la pornografía deepfake», «especialmente» para «mujeres que son figuras públicas». También quieren que los expertos opinen sobre la prevalencia del problema de los deepfakes en Estados Unidos y la India, donde residen las celebridades en estos casos.

En diciembre, el ministro de TI de la India, Rajeev Chandrasekhar, calificó los deepfakes de celebridades que se difunden en las redes sociales como información errónea «peligrosa» y «dañina» que debe «ser abordada por las plataformas», informó la BBC. Otros países, incluidos Estados Unidos y, más recientemente, el Reino Unido, han propuesto leyes para criminalizar la creación y el intercambio de deepfakes explícitos de IA en línea.

La junta de Meta ha pedido a los comentaristas públicos que ofrezcan información sobre las mejores «políticas y procesos de aplicación que pueden ser más efectivos» para combatir los deepfakes y que evalúen qué tan bien está haciendo Meta con la aplicación de su regla de «photoshop o dibujos sexualizados despectivos». . Eso incluye enviar comentarios sobre los «desafíos» que enfrentan los usuarios al informar sobre deepfakes cuando Meta depende «de sistemas automatizados que cierran automáticamente las apelaciones en 48 horas si no se ha realizado ninguna revisión».

Una vez que la junta presente sus recomendaciones, Meta tendrá 60 días para responder. En una publicación de blog, Meta ya confirmó que «implementará la decisión de la junta».

Es un debate que ha estado presente en la sociedad durante varios años: ¿Se puede determinar simplemente el género al nacer? ¿Qué sucede cuando alguien siente que está en el cuerpo equivocado? En Suiza, el género y el nombre registrados se pueden cambiar con relativa facilidad desde principios de 2022. En los eventos deportivos masivos, existe cada vez más una categoría separada para personas no binarias, es decir, personas que no quieren ser inscritas en la lista de salida ni como mujer ni como hombre. Pero en el deporte de alto nivel, las reglas son más estrictas.

Casi un año después de que la Federación Mundial de Nadadores (Fina), la de atletas de pista y campo ahora también ha decidido no permitir que las mujeres trans compitan más en la categoría femenina. Fina lo hizo bajo una gran presión luego de que la estadounidense Lia Thomas fuera noticia en todo el mundo. Había comenzado después de una reasignación de género en los campeonatos estudiantiles femeninos de EE. UU. y había superado a sus oponentes. Solía ​​estar muy por detrás de la cima entre los hombres, pero se convirtió en la número 1 entre las mujeres.

Las reglas de testosterona no son suficientes

Hasta el momento no ha habido casos comparables en el atletismo, pero lleva años luchando con la integración de los llamados atletas intersexuales. Estas son personas que nacen con cromosomas XY, se identifican como niñas y tienen un trastorno del desarrollo. Más tarde pasan por la pubertad masculina y sus cuerpos producen mucha testosterona. El trastorno se llama «DSD 46 XY».

Esta hormona sexual masculina es la principal responsable de que el rendimiento de los hombres sea un diez por ciento mejor que el de las mujeres. En el atletismo, se hicieron intentos de integrar a estos intersexuales en el deporte de élite con la ayuda de las reglas hormonales. Primero, la testosterona debe reducirse a 10 nanomoles por litro de suero sanguíneo. El velocista indio Dutee Chand impugnó esto ante la Corte Internacional de Arbitraje Deportivo TAS.

El CAS suspendió temporalmente la regla, exigiendo evidencia científica de que los atletas intersexuales, de hecho, tienen una ventaja en el rendimiento. En principio, exigía lo imposible, porque simplemente no hay suficientes atletas de élite con el correspondiente trastorno del desarrollo.

En 2017, la asociación mundial presentó un estudio, pero este solo pudo probar diferencias de rendimiento para las distancias de carrera de 400 metros por milla. Se introdujo una regla de testosterona en el atletismo en 2018, se aplicó a las distancias de carrera anteriores y requirió una reducción en los niveles de testosterona a 5 nanomoles por litro.

Esto suele suceder con la ayuda de las píldoras anticonceptivas y, en aras de la simplicidad, la regla se ha adoptado para las mujeres trans, no solo en el atletismo, sino en los deportes en general. La idea detrás de esto era simple: si las mujeres tienen menos testosterona, la diferencia en el rendimiento desaparece.

El cuerpo no olvida

Atletas como la nadadora Lia Thomas plantearon dudas. Ahora hay una gran cantidad de estudios que muestran que el asunto es más complicado. Cuando una persona pasa por la pubertad masculina, desarrolla una serie de características físicas que no se pueden revertir reduciendo la testosterona. Ejemplos simples de esto son el tamaño del cuerpo o la longitud de las palancas en brazos y piernas.

Varios estudios también muestran que la supresión de la testosterona no reduce el tamaño muscular a la masa femenina. Nunca se ha registrado una reducción de más del 12 por ciento, pero la diferencia original en la masa muscular entre hombres y mujeres es del 40 por ciento. Eso significa que se mantiene una ventaja de rendimiento.

Sebastian Coe, presidente de la Federación Mundial de Atletismo, siempre enfatiza que se trata de justicia hacia las mujeres en el deporte. Si las mujeres no tuvieran su propia categoría, no tendrían posibilidades en la mayoría de los deportes. En el atletismo, donde el rendimiento se mide en centésimas y centímetros, esto es obvio: Shelly-Ann Fraser fue la mujer más rápida del mundo en 2022 con 10,62 segundos en 100 metros. Para los hombres habría sido el número 2069. «El género no puede triunfar sobre la biología», dijo Coe hace un año.

Ahora que a las mujeres trans ya no se les permite competir con las mujeres, las personas intersexuales, por ejemplo, tienen que bajar la testosterona a 2,5, y eso se aplica a todas las disciplinas. Ya no es posible usar algún tipo de truco como lo hizo Francine Niyonsaba de Burundi. Ganó la plata olímpica en los 800 metros en 2016, luego fue clasificada como «46 XY DSD» y simplemente cambió a las distancias largas. En 2021 ganó la final de la Diamond League sobre 5000 metros.