Meta está nuevamente en problemas por sus métodos (o la falta de ellos) para proteger a los niños. La Comisión Europea ha iniciado un procedimiento formal para determinar si el propietario de Facebook e Instagram ha violado la Ley de Servicios Digitales (DSA) al contribuir a la adicción de los niños a las redes sociales y no garantizarles altos niveles de seguridad y privacidad.

La investigación de la Comisión examinará específicamente si Meta está evaluando y actuando adecuadamente contra los riesgos provocados por las interfaces de sus plataformas. Le preocupa cómo sus diseños podrían «explotar las debilidades y la inexperiencia de los menores y causar comportamientos adictivos, y/o reforzar el llamado efecto ‘madriguera de conejo’. Esta evaluación es necesaria para contrarrestar los riesgos potenciales para el ejercicio del derecho fundamental a el bienestar físico y mental de los niños, así como al respeto de sus derechos.»

El procedimiento también explorará si Meta toma las medidas necesarias para evitar que los menores accedan a contenido inapropiado, si tiene herramientas efectivas de verificación de edad y si los menores tienen herramientas de privacidad sólidas y sencillas, como la configuración predeterminada.

La DSA establece estándares para plataformas en línea y motores de búsqueda de gran tamaño (aquellos con 45 millones o más de usuarios mensuales en la UE) como Meta. Las obligaciones de las empresas designadas incluyen transparencia sobre las decisiones de moderación de contenidos y publicidad, compartir sus datos con la Comisión y analizar los riesgos que plantean sus sistemas en relación con áreas como la violencia de género, la salud mental y la protección de menores.

Meta respondió al procedimiento formal señalando características como la configuración de supervisión parental, el modo silencioso y la restricción automática de contenido para adolescentes. «Queremos que los jóvenes tengan experiencias en línea seguras y apropiadas para su edad y hemos pasado una década desarrollando más de 50 herramientas y políticas diseñadas para protegerlos. Este es un desafío que enfrenta toda la industria y esperamos compartir detalles de nuestra trabajar con la Comisión Europea», dijo un portavoz de Meta Engadget.

Sin embargo, Meta continuamente no ha priorizado la seguridad de los jóvenes. Incidentes alarmantes anteriores incluyen el algoritmo de Instagram que sugiere contenido que presenta explotación sexual infantil y afirma que diseña sus plataformas para que sean adictivas para los jóvenes, al tiempo que sugiere contenido psicológicamente dañino, como la promoción de trastornos alimentarios y dismorfia corporal.

Meta también ha servido como centro de desinformación para personas de todas las edades. La Comisión ya inició un procedimiento formal contra la empresa el 30 de abril debido a preocupaciones sobre la publicidad engañosa, el acceso a datos para los investigadores y la falta de un «discurso cívico y una herramienta de seguimiento electoral efectivos de terceros en tiempo real» antes de las elecciones al Parlamento Europeo de junio. entre otras preocupaciones. A principios de este año, Meta anunció que CrowdTangle, que ha mostrado públicamente cómo se mueven las noticias falsas y las teorías de conspiración en Facebook e Instagram, se cerraría por completo en agosto.

ela. Desde hace algún tiempo se sospecha que el diputado del AfD, Petr Bystron, acepta pagos de Rusia y mantiene conexiones con redes prorrusas. Como se anunció el jueves, la fiscalía de Múnich ha iniciado una investigación contra Bystron. Se trata de la sospecha inicial de soborno y blanqueo de capitales. Durante el jueves, once fiscales y unos 60 agentes de la policía criminal del estado de Baviera registraron la oficina parlamentaria de Bystron en Berlín, así como varias propiedades en Baviera y Mallorca.

El Bundestag había revocado previamente la inmunidad de Bystron. Todas las facciones estuvieron de acuerdo, a excepción del AfD. Un miembro del parlamento goza de inmunidad mientras dure su membresía en el parlamento y sólo puede ser considerado responsable de un posible delito con la aprobación del Bundestag. Esto pretende, entre otras cosas, protegerlo de demandas por motivos políticos.

Según el Ministerio Público, también se buscaron testigos que no son considerados imputados en el proceso. El objetivo es proteger documentos y soportes de almacenamiento de datos. Se aplica la presunción de inocencia.

Los presidentes del grupo parlamentario de AfD en el Bundestag alemán, Alice Weidel y Tino Chrupalla, escribieron en un comunicado: “El levantamiento de la inmunidad y el registro del despacho y de las habitaciones privadas de Petr Bystron son un asunto serio. Hasta el momento no se ha aportado ninguna prueba que respalde las acusaciones contra Bystron que se vienen formulando desde hace semanas. Por ello, el grupo parlamentario AfD espera que la investigación concluya rápidamente para que no haya sospechas de que las autoridades y los fiscales estén intentando influir en la campaña electoral europea.

A principios de abril, el medio checo Denik N informó que dinero de Moscú había llegado a través de una red a Petr Bystron y otros candidatos a las elecciones europeas favorables a Rusia. En concreto se trataba del portal checo “La Voz de Europa”. Allí se difunde propaganda prorrusa. Políticos desde la derecha hasta el espectro de extrema derecha encontraron aquí una plataforma. Allí se distribuyeron, entre otras cosas, entrevistas con Bystron y su colega de partido Maximilian Krah.

Bystron niega haber recibido pagos o criptomonedas de ningún empleado de Voice of Europe o de cualquier persona de Rusia en ningún momento. Habló de una campaña de desprestigio.

El miércoles se supo que la UE añadiría la “Voz de Europa” a la lista de sanciones, como anunció en X la vicepresidenta de la Comisión, Vera Jourova. Además de “La Voz de Europa”, hay otras tres redes de propaganda conectadas con el Kremlin: Ria Novosti, Izvestia y Rossiyskaya Gazeta. La República Checa ya había incluido a “La Voz de Europa” en la lista nacional de sanciones tras la investigación del servicio secreto.

La portavoz del Ministerio de Asuntos Exteriores ruso, María Zajárova, advirtió a la UE contra esta medida. El Kremlin tomaría medidas de represalia contra los corresponsales occidentales en Moscú, afirmó el miércoles.

Desde el comienzo de la guerra de agresión de Rusia contra Ucrania, la UE ya ha bloqueado varias plataformas prorrusas; por ejemplo, el sitio web «Russia Today» fue cerrado.

El destino de la participación de los Países Bajos en Eurovisión está en juego, después de que el representante holandés no pudiera actuar en la final del jurado del viernes por la noche.

Eurovoix News informa que el artista Joost Klein está bajo investigación por un incidente que tuvo lugar fuera del escenario y se le impidió actuar el viernes mientras esto sucedía. Klein no ha sido descalificado y en su lugar se utilizó un vídeo de su actuación en la semifinal del jueves por la noche.

La Unión Europea de Radiodifusión ha emitido un comunicado que dice:

“La investigación sobre el incidente con el artista holandés en el Festival de Eurovisión de este año aún está en curso. También se están llevando a cabo conversaciones entre la UER y AVROTROS, la emisora ​​holandesa participante.

“Mientras continúa la investigación, la UER ha decidido que Joost Klein no actuará durante el ensayo general 2 del concurso, que es votado por jurados de los 37 países participantes.

«En su lugar, se utilizará su actuación en la semifinal 2».

Eurovoix News informa que la ausencia de Klein el viernes se produjo en el último minuto del viernes, cuando el equipo de escenario ya estaba preparando la puesta en escena para el ensayo general antes de la final del jurado, hasta que se les dijo que pasaran al siguiente acto.

Klein, cuya canción ‘Europapa’ se ha convertido en uno de los éxitos sorpresa del Concurso, está siendo investigado tras un altercado físico entre él y un fotógrafo, según la emisora ​​sueca SVT, que afirma que la policía está investigando el asunto. La UER espera que esto se complete rápidamente, para que se pueda tomar una decisión sobre la participación de Klein en la Gran Final de esta noche.

Este es un desafío adicional para un concurso que ya está sumido en la controversia sobre la participación de Israel. Mientras que el participante israelí Eden Golan superó la semifinal el jueves y ahora es el segundo favorito para ganar la competición, las protestas fuera del lugar atrajeron a unas 12.000 personas, manifestándose contra la inclusión de Israel en el evento multinacional.

El gobierno federal le ha dado a Tesla una gran tarea. El fabricante de automóviles eléctricos tiene hasta el 1 de julio para responder a una solicitud masiva de datos de la Administración Nacional de Seguridad del Tráfico en Carreteras, que está investigando la eficacia del retiro masivo del Autopilot de Tesla, luego de al menos 20 accidentes posteriores al retiro.

Tesla decidió retirar del mercado más de 2 millones de automóviles en los EE. UU. (casi todos los vehículos que ha vendido aquí) en diciembre de 2023, luego de un análisis de ingeniería realizado por la NHTSA que encontró que la función de asistencia al conductor Autopilot del fabricante de automóviles tenía un monitoreo inadecuado del conductor y que el Autopilot era demasiado fácil. mal usado.

El mes pasado, descubrimos que la NHTSA no está contenta con el retiro del mercado del Autopilot. Ahora, la agencia ha hecho pública la carta que envió a Tesla esta semana, exigiendo muchas respuestas antes del 1 de julio.

¿Qué arregló Tesla?

Tesla hizo cinco correcciones específicas en el retiro de diciembre. Agregó una «opción de activación de un solo tirón» para activar el piloto automático, que está destinado a desactivar el control de crucero adaptativo y las funciones de mantenimiento de carril si el volante se mueve inadvertidamente lo suficiente como para anular el sistema. También hizo que el sistema utilizara estándares de monitoreo de conductores más estrictos «al acercarse a los controles de tráfico fuera de la carretera» para tratar de evitar que los conductores usen el piloto automático en calles de superficie.

Tesla también aumentó la supervisión del conductor durante un breve periodo de tiempo después de activar el piloto automático. Introdujo suspensiones de una semana para habilitar el sistema «para los conductores que reciban tres o cinco desactivaciones forzadas del piloto automático (dependiendo de la disponibilidad de las cámaras de la cabina)». Finalmente, amplió las alertas de advertencia que se muestran al conductor en el sistema de infoentretenimiento.

Pero la NHTSA dice que conoce al menos 20 accidentes que involucran al piloto automático de Tesla y que se dividen en tres categorías diferentes. Dice que ha habido nueve casos de un Tesla que tuvo una colisión frontal con otro vehículo, objeto o persona, para los cuales hubo tiempo para que un conductor alerta evitara el choque. Otros seis accidentes ocurrieron cuando Teslas que operaban con el piloto automático perdieron el control y giraron o subviraron hacia algo en un entorno de bajo agarre. Y se produjeron cinco accidentes más cuando el conductor canceló inadvertidamente el componente de dirección del piloto automático sin desactivar el control de crucero adaptativo.

La NHTSA también dice que probó el sistema posterior al retiro del mercado en su Centro de Pruebas e Investigación de Vehículos en Ohio y que «no pudo identificar una diferencia en el inicio de la cascada de advertencia al conductor entre las condiciones previas y posteriores al remedio (cámara oscurecida). «, en referencia a un control supuestamente más estricto de los conductores.

La NHTSA también señala que la primera de las cinco correcciones de Tesla no era una configuración predeterminada, y los propietarios de Tesla «deben navegar hasta un menú y habilitar la función», que pueden desactivar nuevamente si lo desean.

La agencia también señala que Tesla ha lanzado actualizaciones en sus autos destinadas a reducir los accidentes por hidroplaneo y las colisiones por giros en carriles cautivos a alta velocidad que estaban separadas de la solución de retirada.

La UE ha abierto oficialmente una importante investigación sobre Meta por su supuesta incapacidad para eliminar la desinformación electoral. Si bien la declaración de la Comisión Europea no menciona explícitamente a Rusia, Meta confirmó a Engadget que la investigación de la UE apunta a la campaña Doppelganger del país, una operación de desinformación en línea que impulsa la propaganda pro-Kremlin.

BloombergLas fuentes también dijeron que la investigación se centró en la operación de desinformación rusa, describiéndola como una serie de «intentos de replicar la apariencia de fuentes de noticias tradicionales mientras se produce contenido que es favorable a las políticas del presidente ruso Vladimir Putin».

La investigación se produce un día después de que Francia dijera que 27 de los 29 estados miembros de la UE habían sido blanco de propaganda prorrusa en línea antes de las elecciones parlamentarias europeas de junio. El lunes, el Ministerio de Asuntos Exteriores de Francia, Jean-Noel Barrot, instó a las plataformas sociales a bloquear los sitios web que “participan en una operación de interferencia extranjera”.

Un portavoz de Meta dijo a Engadget que la compañía había estado a la vanguardia en la exposición de la campaña Doppelganger de Rusia, destacándola por primera vez en 2022. La compañía dijo que desde entonces ha investigado, interrumpido y bloqueado decenas de miles de activos de la red. El propietario de Facebook e Instagram dice que permanece en alerta máxima para monitorear la red, mientras afirma que Doppelganger ha luchado por construir con éxito audiencias orgánicas para las noticias falsas a favor de Putin.

El presidente de la Comisión Europea dijo que las plataformas de Meta, Facebook e Instagram, pueden haber violado la Ley de Servicios Digitales (DSA), la legislación histórica aprobada en 2022 que faculta a la UE para regular las plataformas sociales. La ley permite a la CE, si es necesario, imponer fuertes multas a las empresas infractoras: hasta el seis por ciento de la facturación anual global de una empresa, lo que podría cambiar la forma en que operan las empresas sociales.

En una declaración a Engadget, Meta dijo: “Tenemos un proceso bien establecido para identificar y mitigar riesgos en nuestras plataformas. Esperamos continuar nuestra cooperación con la Comisión Europea y brindarles más detalles de este trabajo”.

La investigación de la CE cubrirá «las políticas y prácticas de Meta relacionadas con la publicidad engañosa y el contenido político en sus servicios». También aborda “la falta de disponibilidad de una herramienta efectiva de seguimiento electoral y discurso cívico en tiempo real de terceros antes de las elecciones al Parlamento Europeo”.

Esto último se refiere a la desaprobación de Meta de su herramienta CrowdTangle, que investigadores y verificadores de datos utilizaron durante años para estudiar cómo se difunde el contenido en Facebook e Instagram. Decenas de grupos firmaron una carta abierta el mes pasado, diciendo que el cierre planeado de Meta durante las cruciales elecciones globales de 2024 representa una “amenaza directa” a la integridad electoral global.

Meta le dijo a Engadget que CrowdTangle solo proporciona una fracción de los datos disponibles públicamente y no sería una herramienta de monitoreo electoral completa. La compañía dice que está creando nuevas herramientas en su plataforma para proporcionar datos más completos a investigadores y otras partes externas. Dice que actualmente está incorporando socios externos clave de verificación de datos para ayudar a identificar información errónea.

Sin embargo, con las elecciones europeas de junio y las críticas elecciones estadounidenses de noviembre, es mejor que Meta se ponga manos a la obra con su nueva API si quiere que las herramientas funcionen cuando más importa.

La CE le dio a Meta cinco días hábiles para responder a sus preocupaciones antes de considerar escalar aún más el asunto. «Esta Comisión ha creado medios para proteger a los ciudadanos europeos de la desinformación y la manipulación selectiva por parte de terceros países», escribió la presidenta de la CE, von der Leyen. «Si sospechamos una violación de las reglas, actuamos».

La Comisión Europea acusó hoy a Meta de violar las normas relacionadas con la publicidad engañosa, el contenido político y el seguimiento electoral. El propietario de Facebook e Instagram «puede haber violado la Ley de Servicios Digitales (DSA)», afirmó el organismo gubernamental de la UE en un comunicado de prensa.

«La Comisión sospecha que Meta no cumple con las obligaciones de la DSA relacionadas con la difusión de anuncios engañosos, campañas de desinformación y comportamientos no auténticos coordinados en la UE», dijo la CE. «La proliferación de dicho contenido puede presentar un riesgo para el discurso cívico, los procesos electorales y los derechos fundamentales, así como para la protección del consumidor».

La CE alegó «que el mecanismo para señalar contenidos ilegales en los servicios («Aviso y acción»), así como los mecanismos internos de reparación de usuarios y quejas, no cumplen con los requisitos de la Ley de Servicios Digitales y que existen deficiencias en la provisión por parte de Meta de acceso a datos disponibles públicamente a los investigadores».

La CE también denunció la falta de «una herramienta efectiva de seguimiento electoral y discurso cívico en tiempo real de terceros antes de las próximas elecciones al Parlamento Europeo y otras elecciones en varios Estados miembros». Esto está relacionado con el plan de Meta de descontinuar la herramienta de análisis de datos CrowdTangle el 14 de agosto.

«Meta está en proceso de dejar de usar ‘CrowdTangle’, una herramienta de información pública que permite el monitoreo de elecciones en tiempo real por parte de investigadores, periodistas y la sociedad civil, incluso a través de paneles visuales en vivo, sin un reemplazo adecuado», dice el comunicado de prensa. La CE dijo que sospecha que «Meta no ha evaluado diligentemente ni mitigado adecuadamente los riesgos relacionados con los efectos de Facebook e Instagram en el discurso cívico y los procesos electorales y otros riesgos sistémicos».

La agencia está abriendo procedimientos formales para tomar una determinación final sobre si Meta violó la DSA. La decisión de investigar más a fondo se basa en las respuestas de Meta a las solicitudes de información de la comisión, un informe de evaluación de riesgos presentado por Meta, así como «informes disponibles públicamente y el propio análisis de la Comisión».

Meta defendió hoy sus prácticas. «Tenemos un proceso bien establecido para identificar y mitigar los riesgos en nuestras plataformas. Esperamos continuar nuestra cooperación con la Comisión Europea y brindarles más detalles de este trabajo», dijo un portavoz de Meta, según Reuters. Nos comunicamos con Meta y actualizaremos esta historia si tiene algún comentario adicional.

La plataforma X de Elon Musk ya está bajo investigación formal por posibles violaciones de la DSA. La ley permite multas de hasta el 6 por ciento de los ingresos globales.

La Autoridad de Mercados y Competencia del Reino Unido (CMA) está iniciando investigaciones preliminares sobre si los estrechos vínculos y prácticas de contratación que involucran a Microsoft, Amazon y un trío de nuevas empresas de inteligencia artificial entran dentro del alcance de sus reglas de fusión, y si los acuerdos podrían afectar competencia en el mercado del Reino Unido.

El anuncio se produce en medio de un creciente escrutinio sobre el enfoque de las Big Tech hacia las fusiones y adquisiciones en el mundo de la IA, donde los críticos argumentan que la llamada “cuasi fusión” se ha convertido en la moda del día como una forma de eludir el escrutinio regulatorio. A principios de este año, la Comisión Federal de Comercio (FTC) lanzó sus propias investigaciones sobre las diversas inversiones de Alphabet, Amazon y Microsoft en empresas emergentes de IA para establecer si las “asociaciones buscadas por empresas dominantes corren el riesgo de distorsionar la innovación y socavar la competencia leal”.

Al mismo tiempo, la gobernanza en torno a los llamados “modelos fundamentales” (también modelos “fundamentales” o “de frontera”) también ha estado en la agenda regulatoria en Europa y otros lugares. Los modelos básicos son básicamente la infraestructura subyacente sobre la que se pueden construir otros sistemas de IA y sirven como modelos a gran escala que pueden usarse para una variedad de tareas.

El director ejecutivo de fusiones de la CMA, Joel Bamford, dijo que el regulador está solicitando comentarios de las partes relevantes como parte de su recopilación de pruebas. La CMA está evaluando si estas diversas asociaciones son similares a fusiones desde un punto de vista regulatorio y si podrían afectar la competencia en la industria de IA de rápido crecimiento en el Reino Unido.

«Los modelos de fundaciones tienen el potencial de impactar fundamentalmente la forma en que todos vivimos y trabajamos, incluidos productos y servicios en tantos sectores del Reino Unido: atención médica, energía, transporte, finanzas y más», dijo Bamford en un comunicado. “Por lo tanto, la competencia abierta, justa y efectiva en los mercados modelo básicos es fundamental para garantizar que las personas y las empresas en el Reino Unido, así como en nuestra economía en general, obtengan todos los beneficios de esta transformación, donde la tecnología tiene un papel enorme que desempeñar en el crecimiento. y productividad”.

Competencia

El Reino Unido ha manifestado anteriormente su preocupación por cómo se forjará Las asociaciones que involucran a “actores clave” en el espacio del modelo de fundación podrían ayudar a las “empresas tecnológicas establecidas” (es decir, las grandes tecnologías) a protegerse de la competencia. Sin duda, una adquisición sencilla atraería el escrutinio regulatorio, pero las asociaciones, inversiones y “adquisiciones” podrían ser una forma de eludir esta supervisión, o al menos eso dice el argumento.

La inversión de Microsoft y su estrecha asociación con OpenAI, fabricante de ChatGPT, atrajo el escrutinio de la CMA a finales del año pasado, y el regulador lanzó una «invitación a comentar» formal dirigida a las partes interesadas relevantes en las esferas empresarial y de IA. La Comisión Europea (CE) hizo lo mismo con una investigación similar en enero.

Sin embargo, han sucedido muchas cosas desde entonces. Microsoft contrató al equipo central detrás de Inflection AI, un rival de OpenAI con sede en EE. UU. en el que el gigante del software había invertido previamente. A principios de este mes, Microsoft lanzó un nuevo centro de inteligencia artificial en Londres dirigido por el ex científico de Inflection y DeepMind, Jordan Hoffmann.

Por otra parte, Microsoft también invirtió recientemente en Mistral AI, una startup francesa de IA (y doble unicornio) que trabaja en modelos fundamentales.

Un portavoz de Microsoft dijo que proporcionará toda la información que necesita la CMA para completar sus investigaciones rápidamente.

«Seguimos confiando en que las prácticas comerciales comunes, como la contratación de talentos o realizar una inversión fraccionada en una startup de IA, promueven la competencia y no son lo mismo que una fusión», dijo el portavoz.

Amazon, por su parte, recientemente completado una inversión de 4 mil millones de dólares en Anthropic, otra empresa de inteligencia artificial con sede en EE. UU. que trabaja en grandes modelos de lenguaje.

Un portavoz de Amazon calificó la decisión de la CMA de revisar una colaboración de este tipo como «sin precedentes», particularmente cuando su asociación con Anthropic no le otorga un asiento en la junta directiva de la compañía o incluso un papel de observador, a diferencia de Microsoft, que finalmente consiguió un -Papel de «observador» con derecho a voto en la junta directiva de OpenAI el año pasado. El portavoz también señaló que no restringe la capacidad de Anthropic para ejecutar modelos en diferentes nubes.

«Al invertir en Anthropic, que acaba de lanzar sus nuevos modelos Claude 3, los mejores de la industria, estamos ayudando a que el segmento de IA generativa sea más competitivo que en los últimos dos años», dijo el portavoz en un comunicado emitido a TechCrunch. “Y los clientes están muy entusiasmados con las oportunidades que les brinda esta colaboración. Confiamos en que los hechos hablan por sí solos y esperamos que la CMA acepte resolver esto rápidamente”.

La invitación inicial de la CMA a comentar se extiende desde hoy hasta el 9 de mayo, un período conocido como «notificación previa». Esto puede conducir a una revisión formal de “fase 1” que involucrará directamente a las empresas objetivo (en este caso, Microsoft y Amazon). Todo el período de revisión de la fase 1, si avanza hasta ese punto, debe completarse dentro de los 40 días, después de lo cual la CMA debe decidir si las asociaciones califican como una “fusión relevante”.

La Junta de Supervisión, el consejo político semiindependiente de Meta, está centrando su atención en cómo las plataformas sociales de la compañía manejan imágenes explícitas generadas por IA. El martes, anunció investigaciones sobre dos casos separados sobre cómo Instagram en India y Facebook en Estados Unidos manejaron imágenes de figuras públicas generadas por IA después de que los sistemas de Meta no lograron detectar y responder al contenido explícito.

En ambos casos, los sitios ahora han eliminado a los medios. La junta no nombra a las personas a las que se dirigen las imágenes de IA «para evitar el acoso por motivos de género», según un correo electrónico que Meta envió a TechCrunch.

La junta se ocupa de casos sobre las decisiones de moderación de Meta. Los usuarios primero deben apelar a Meta sobre una medida de moderación antes de acercarse a la Junta de Supervisión. La junta publicará sus hallazgos y conclusiones completos en el futuro.

Los casos

Al describir el primer caso, la junta dijo que un usuario denunció como pornografía un desnudo generado por IA de una figura pública de la India en Instagram. La imagen fue publicada por una cuenta que publica exclusivamente imágenes de mujeres indias creadas por IA, y la mayoría de los usuarios que reaccionan a estas imágenes residen en la India.

Meta no pudo eliminar la imagen después del primer informe y el ticket del informe se cerró automáticamente después de 48 horas después de que la empresa no revisó más el informe. Cuando el denunciante original apeló la decisión, el informe se cerró nuevamente automáticamente sin ninguna supervisión por parte de Meta. En otras palabras, después de dos informes, la imagen explícita generada por IA permaneció en Instagram.

Finalmente, el usuario apeló ante la junta. La empresa solo actuó en ese momento para eliminar el contenido objetable y eliminó la imagen por violar los estándares comunitarios sobre intimidación y acoso.

El segundo caso se relaciona con Facebook, donde un usuario publicó una imagen explícita generada por IA que se parecía a una figura pública estadounidense en un grupo centrado en creaciones de IA. En este caso, la red social eliminó la imagen tal como fue publicada anteriormente por otro usuario, y Meta la agregó a un banco de servicios de coincidencia de medios en la categoría «photoshop o dibujos sexualizados despectivos».

Cuando TechCrunch preguntó por qué la junta seleccionó un caso en el que la compañía eliminó con éxito una imagen explícita generada por IA, la junta dijo que selecciona casos «que son emblemáticos de problemas más amplios en las plataformas de Meta». Agregó que estos casos ayudan al consejo asesor a analizar la efectividad global de la política y los procesos de Meta para diversos temas.

“Sabemos que Meta es más rápido y eficaz a la hora de moderar contenido en algunos mercados e idiomas que en otros. Al tomar un caso de Estados Unidos y otro de India, queremos ver si Meta está protegiendo a todas las mujeres a nivel mundial de manera justa”, dijo en un comunicado la copresidenta de la Junta de Supervisión, Helle Thorning-Schmidt.

«La Junta cree que es importante explorar si las políticas y prácticas de cumplimiento de Meta son efectivas para abordar este problema».

El problema de la pornografía profundamente falsa y la violencia de género en línea

Algunas herramientas de IA generativa (no todas) en los últimos años se han ampliado para permitir a los usuarios generar pornografía. Como informó TechCrunch anteriormente, grupos como Unstable Diffusion están tratando de monetizar la pornografía con IA con líneas éticas turbias y sesgos en los datos.

En regiones como India, los deepfakes también se han convertido en un motivo de preocupación. El año pasado, un informe de la BBC señaló que la cantidad de vídeos deepfake de actrices indias se ha disparado en los últimos tiempos. Los datos sugieren que las mujeres son más comúnmente objeto de videos deepfaked.

A principios de este año, el viceministro de TI, Rajeev Chandrasekhar, expresó su descontento con el enfoque de las empresas de tecnología para contrarrestar los deepfakes.

«Si una plataforma cree que puede salirse con la suya sin eliminar videos deepfake, o simplemente mantener un enfoque informal, tenemos el poder de proteger a nuestros ciudadanos bloqueando dichas plataformas», dijo Chandrasekhar en una conferencia de prensa en ese momento.

Si bien India ha reflexionado sobre la posibilidad de incorporar a la ley normas específicas relacionadas con los deepfakes, todavía no hay nada escrito.

Si bien en el país existen disposiciones legales para denunciar la violencia de género en línea, los expertos señalan que el proceso podría ser tedioso y, a menudo, hay poco apoyo. En un estudio publicado el año pasado, el grupo de defensa indio IT for Change señaló que los tribunales de la India deben contar con procesos sólidos para abordar la violencia de género en línea y no trivializar estos casos.

Aparajita Bharti, cofundadora de The Quantum Hub, una firma consultora de políticas públicas con sede en India, dijo que debería haber límites a los modelos de IA para evitar que creen contenido explícito que cause daño.

“El principal riesgo de la IA generativa es que el volumen de dicho contenido aumente porque es fácil de generar y con un alto grado de sofisticación. Por lo tanto, primero debemos evitar la creación de dicho contenido entrenando modelos de IA para limitar la producción en caso de que la intención de dañar a alguien ya esté clara. También deberíamos introducir etiquetas predeterminadas para una fácil detección”, dijo Bharti a TechCrunch por correo electrónico.

Devika Malik, experta en políticas de plataformas que anteriormente trabajó en el equipo de políticas de Meta en el sur de Asia, dijo que si bien las redes sociales tienen políticas contra las imágenes íntimas no consensuadas, su aplicación depende en gran medida de los informes de los usuarios.

“Esto impone al usuario afectado una carga injusta de demostrar su identidad y la falta de consentimiento (como es el caso de la política de Meta). Esto puede volverse más propenso a errores cuando se trata de medios sintéticos y, por decirlo así, el tiempo necesario para capturar y verificar estas señales externas permite que el contenido gane tracción dañina”, dijo Malik.

Actualmente, solo existen unas pocas leyes a nivel mundial que abordan la producción y distribución de pornografía generada mediante herramientas de inteligencia artificial. Un puñado de estados de EE. UU. tienen leyes contra los deepfakes. El Reino Unido introdujo esta semana una ley para penalizar la creación de imágenes sexualmente explícitas impulsadas por IA.

La respuesta de Meta y los próximos pasos.

En respuesta a los casos de la Junta de Supervisión, Meta dijo que eliminó ambos contenidos. Sin embargo, la compañía de redes sociales no abordó el hecho de que no pudo eliminar contenido en Instagram después de los informes iniciales de los usuarios o durante cuánto tiempo estuvo el contenido en la plataforma.

Meta dijo que utiliza una combinación de inteligencia artificial y revisión humana para detectar contenido sexualmente sugerente. El gigante de las redes sociales dijo que no recomienda este tipo de contenido en lugares como Instagram Explore o recomendaciones de Reels.

La Junta de Supervisión ha solicitado comentarios públicos (con fecha límite el 30 de abril) sobre el asunto que aborda los daños causados ​​por la pornografía ultrafalsa, información contextual sobre la proliferación de dicho contenido en regiones como Estados Unidos e India, y posibles dificultades del enfoque de Meta para detectar Imágenes explícitas generadas por IA.

La junta investigará los casos y los comentarios públicos y publicará la decisión en el sitio en unas semanas.

Estos casos indican que las grandes plataformas todavía están lidiando con procesos de moderación más antiguos, mientras que las herramientas impulsadas por IA han permitido a los usuarios crear y distribuir diferentes tipos de contenido de forma rápida y sencilla. Empresas como Meta están experimentando con herramientas que utilizan IA para la generación de contenido, con algunos esfuerzos para detectar dichas imágenes. En abril, la compañía anunció que aplicaría insignias «Hecho con IA» a los deepfakes si pudiera detectar el contenido utilizando «indicadores de imágenes de IA estándar de la industria» o divulgaciones de los usuarios.

Malik, experto en políticas de plataformas, dijo que el etiquetado suele ser ineficiente porque el sistema para detectar imágenes generadas por IA aún no es confiable.

“Se ha demostrado que el etiquetado tiene un impacto limitado cuando se trata de limitar la distribución de contenido dañino. Si recordamos el caso de las imágenes de Taylor Swift generadas por IA, millones de usuarios fueron dirigidos a esas imágenes a través del tema de tendencia de X, ‘Taylor Swift AI’. Entonces, la gente y la plataforma sabían que el contenido no era auténtico y aun así estaba amplificado algorítmicamente”, señaló Malik.

Sin embargo, los perpetradores encuentran constantemente formas de escapar de estos sistemas de detección y publicar contenido problemático en las plataformas sociales.

El día después Ataques con cuchillo en un gran centro comercial cerca de la popular playa Bondi de Sydney, la atmósfera en la zona, que de otro modo sería muy concurrida, se enfrió. Numerosas personas acudieron a depositar flores, mensajes y fotografías delante de las tiendas en memoria de los asesinados. “Nuestros corazones y oraciones están con ustedes”, decía uno de los mensajes pegados a uno de los innumerables ramos de flores.

Aún no está claro por qué y cómo se produjo el ataque, en el que un atacante apuñaló el sábado a seis personas e hirió a otras doce, algunas de gravedad, entre ellas un bebé de nueve meses. El subcomisario de policía, Anthony Cooke, dijo a la prensa el domingo que el presunto autor, un hombre de 40 años que ahora ha sido identificado por la prensa local, se había mudado recientemente a Sydney desde el estado norteño de Queensland.

Una “escena del crimen muy compleja”

Cooke dijo que hasta el momento no había evidencia de que el acto se basara en alguna motivación o ideología en particular. Más bien, la policía supone que el perpetrador tiene una enfermedad mental. Según la comisionada de policía Karen Webb, los agentes continúan trabajando para perfilar al atacante. Esto incluye conocer sus actividades en los últimos días, semanas y meses y cómo podría haberse desarrollado el ataque a partir de ellas. Lo que se sabe hasta el momento es que el hombre se encontraba almorzando cerca antes del ataque. Se dice que parecía “normal, pero un poco confundido”.

Se dice que en los últimos años se mudó con frecuencia y en ocasiones no tenía lugar de residencia y dormía en su automóvil. Estaba soltero y desempleado. El hombre había alquilado un almacén «muy pequeño» en Sydney, cuyo contenido están examinando los investigadores. Al parecer, el hombre no tenía contacto regular con su familia. Sin embargo, se puso en contacto con la policía después de que circularan en Internet grabaciones del crimen. El hombre de 40 años era conocido por la policía, pero no había sido arrestado ni condenado penalmente en los últimos cuatro o cinco años.

Webb, que describió el centro comercial como una «escena de crimen muy compleja», enfatizó que no quería describir el incidente como un «acto de terrorismo» en este momento. Sin embargo, la cuestión de si el atacante atacó principalmente a mujeres durante el ataque forma parte de la investigación. Cinco de los seis muertos son mujeres. Entre ellos se encuentran la madre de 38 años de la niña de nueve meses gravemente herida y la hija de 25 años de un conocido empresario australiano. Además del bebé, entre los doce heridos se encuentran nueve mujeres más.

El primer ministro australiano, Anthony Albanese, dijo que las escenas eran indescriptibles e incomprensibles para la mayoría de los australianos: «Este fue un horrible acto de violencia dirigido indiscriminadamente a personas inocentes que hacían sus compras en un sábado cualquiera». Expresó sus condolencias a los familiares y seres queridos de las víctimas al tiempo que destacó el coraje y la valentía demostrados en el lugar.

Una mujer policía como heroína

Una sola policía persiguió al atacante y, cuando éste levantó su cuchillo contra ella, lo derribó y lo mató. “Ella es definitivamente una heroína”, subrayó Albanese ya el sábado. No hay duda de que sus acciones salvaron vidas. Según los medios locales, algunos comerciantes y transeúntes actuaron con mucha valentía, al igual que la policía.

En Internet circula un vídeo que muestra a un hombre intentando hacer retroceder al atacante en una escalera mecánica con el bolardo de una barrera. El hecho de que la niña de nueve meses, que fue operada por la noche y que actualmente se encuentra en estado crítico pero estable, siga con vida también se debe a su madre y a sus dos hombres. A pesar de sus graves heridas, la mujer de 38 años parece haber usado sus últimas fuerzas para entregar a su bebé a los transeúntes para que pudieran prestarle primeros auxilios y detener la hemorragia lo mejor posible. La propia madre murió más tarde en el hospital.

En las horas posteriores al traumático ataque, varios jefes de Estado y de gobierno enviaron mensajes de condolencia. «Australia es una familia», escribió el primer ministro de Nueva Zelanda, Christopher Luxon. Por lo tanto, todos los neozelandeses recordarán a las víctimas de los trágicos acontecimientos ocurridos en Bondi, especialmente las familias y amigos de los asesinados. Luxon también elogió el “extraordinario coraje” de la policía, los socorristas y el público. La familia real británica: el rey Carlos III. es también el jefe de Estado australiano – expresó su “conmoción” y tristeza. Tanto el monarca reinante como el príncipe William y su familia enviaron mensajes a sus súbditos al otro lado del mundo.