Después de la Ley de Seguridad en Línea arduo paso de varios años por Durante el proceso legislativo del Reino Unido, el regulador Ofcom ha publicado sus primeras directrices sobre cómo las empresas de tecnología pueden cumplir con la gigantesca legislación. Su propuesta, que forma parte de un proceso de publicación de varias fases, describe cómo las plataformas de redes sociales, los motores de búsqueda, los juegos en línea y móviles y los sitios de pornografía deben abordar el contenido ilegal como el material de abuso sexual infantil (CSAM), el contenido terrorista y el fraude.
Las directrices de hoy se publican como propuestas para que Ofcom pueda recopilar comentarios antes de que el Parlamento del Reino Unido las apruebe hacia finales del próximo año. Incluso entonces, los detalles serán voluntarios. Las empresas de tecnología pueden garantizar que están obedeciendo la ley siguiendo las pautas al pie de la letra, pero pueden adoptar su propio enfoque siempre que demuestren que cumplen con las reglas generales de la ley (y, presumiblemente, estén preparadas para pelear su caso con Ofcom). .
“Lo que esto hace por primera vez es imponer el deber de diligencia a las empresas tecnológicas”
«Lo que esto hace por primera vez es imponer el deber de diligencia a las empresas de tecnología para que sean responsables de la seguridad de sus usuarios», dice Gill Whitehead, líder de seguridad en línea de Ofcom. El borde en una entrevista. «Cuando se dan cuenta de que hay contenido ilegal en su plataforma, deben eliminarlo y también deben realizar evaluaciones de riesgos para comprender los riesgos específicos que esos servicios podrían conllevar».
El objetivo es exigir que los sitios sean proactivos para detener la difusión de contenido ilegal y no simplemente jugar al «golpe al topo» después del hecho. Su objetivo es fomentar un cambio de un enfoque reactivo a uno más proactivo, dice la abogada Claire Wiseman, que se especializa en tecnología, medios, telecomunicaciones y datos.
Ofcom estima que alrededor de 100.000 servicios pueden estar sujetos a reglas de amplio alcance, aunque solo las plataformas más grandes y de mayor riesgo tendrán que cumplir con los requisitos más estrictos. Ofcom recomienda que estas plataformas implementen políticas como no permitir que extraños envíen mensajes directos a niños, usar coincidencias de hash para detectar y eliminar CSAM, mantener equipos de moderación de búsqueda y contenido y ofrecer formas para que los usuarios denuncien contenido dañino.
Las grandes plataformas tecnológicas ya siguen muchas de estas prácticas, pero Ofcom espera que se implementen de manera más consistente. «Creemos que representan las mejores prácticas de lo que existe, pero no necesariamente se aplican en todos los ámbitos», dice Whitehead. «Algunas empresas lo están aplicando esporádicamente, pero no necesariamente de manera sistemática, por lo que creemos que existe un gran beneficio para una adopción más generalizada y generalizada».
También hay un gran caso atípico: la plataforma conocida como X (anteriormente Twitter). Los esfuerzos del Reino Unido con la legislación son anteriores a la adquisición de Twitter por parte de Elon Musk, pero fue aprobada cuando él despidió a gran parte de sus equipos de confianza y seguridad y presidió una flexibilización de los estándares de moderación, lo que podría poner a X en desacuerdo con los reguladores. Las directrices de Ofcom, por ejemplo, especifican que los usuarios deberían poder bloquearlos fácilmente, pero Musk lo ha declarado públicamente. sus intenciones de eliminar la función de bloqueo de X. Ha chocado con la UE por reglas similares y Según se informa, incluso consideró retirarse del mercado europeo. para evitarlos. Whitehead se negó a hacer comentarios cuando le pregunté si X había cooperado en las conversaciones con Ofcom, pero dijo que el regulador se había sentido «ampliamente alentado» por la respuesta de las empresas de tecnología en general.
«Creemos que representan las mejores prácticas de lo que existe, pero no necesariamente se aplican en todos los ámbitos».
Las regulaciones de Ofcom también cubren cómo los sitios deben lidiar con otros daños ilegales, como contenido que fomenta o ayuda al suicidio o autolesiones graves, acoso, pornografía de venganza y otras explotaciones sexuales, y el suministro de drogas y armas de fuego. Los servicios de búsqueda deben proporcionar «información de prevención de crisis» cuando los usuarios ingresan consultas relacionadas con el suicidio, por ejemplo, y cuando las empresas actualizan sus algoritmos de recomendación, deben realizar evaluaciones de riesgos para comprobar que no van a amplificar el contenido ilegal. Si los usuarios sospechan que un sitio no cumple con las reglas, Whitehead dice que habrá una ruta para quejarse directamente a Ofcom. Si se descubre que una empresa ha incumplido, Ofcom puede imponer multas de hasta £18 millones (alrededor de $22 millones) o el 10 por ciento de la facturación mundial, lo que sea mayor. Los sitios ofensivos pueden incluso bloquearse en el Reino Unido.
La consulta de hoy cubre algunos de los territorios menos polémicos de la Ley de Seguridad en Línea, como la reducción de la difusión de contenido que ya era ilegal en el Reino Unido. A medida que Ofcom publique futuras actualizaciones, tendrá que abordar temas más delicados, como contenido que es legal pero dañino para los niños, el acceso de menores a la pornografía y protecciones para mujeres y niñas. Quizás lo más controvertido sea que tendrá que interpretar una sección que, según los críticos, podría socavar fundamentalmente el cifrado de extremo a extremo en las aplicaciones de mensajería.
La sección en cuestión permite a Ofcom exigir que las plataformas en línea utilicen la denominada “tecnología acreditada” para detectar CSAM. Pero WhatsApp, otros servicios de mensajería cifraday derechos digitales grupos Dicen que este escaneo requeriría romper los sistemas de cifrado de las aplicaciones e invadir la privacidad del usuario. Whitehead dice que Ofcom planea realizar consultas sobre esto el próximo año, dejando incierto su impacto total en la mensajería cifrada.
«No estamos regulando la tecnología, estamos regulando el contexto».
Hay otra tecnología a la que no se hace hincapié en la consulta de hoy: la inteligencia artificial. Pero eso no significa que el contenido generado por IA no esté sujeto a las reglas. La Ley de Seguridad en Línea intenta abordar los daños en línea de una manera “neutral desde el punto de vista tecnológico”, dice Whitehead, independientemente de cómo se hayan creado. Por lo tanto, el CSAM generado por IA estaría dentro del alcance en virtud de ser CSAM, y un deepfake utilizado para realizar fraude estaría dentro del alcance en virtud del fraude. «No estamos regulando la tecnología, estamos regulando el contexto», dice Whitehead.
Si bien Ofcom dice que está tratando de adoptar un enfoque colaborativo y proporcionado con respecto a la Ley de Seguridad en Línea, sus reglas aún podrían resultar onerosas para los sitios que no son gigantes tecnológicos. La Fundación Wikimedia, la organización sin fines de lucro detrás de Wikipedia, dice El borde que está resultando cada vez más difícil cumplir con diferentes regímenes regulatorios en todo el mundo, incluso si respalda la idea de regulación en general. “Ya estamos luchando con nuestra capacidad para cumplir con las [EU’s] Ley de Servicios Digitales”, dice la vicepresidenta de promoción global de la Fundación Wikimedia, Rebecca MacKinnon, señalando que la organización sin fines de lucro tiene sólo un puñado de abogados dedicados a las regulaciones de la UE en comparación con las legiones que empresas como Meta y Google pueden dedicar.
«Estamos de acuerdo como plataforma en que tenemos responsabilidades», dice MacKinnon, pero «cuando eres una organización sin fines de lucro y cada hora de trabajo es suma cero, eso es problemático».
Whitehead, de Ofcom, admite que la Ley de Seguridad en Línea y la Ley de Servicios Digitales son más “primos regulatorios” que “gemelos idénticos”, lo que significa que cumplir con ambas requiere trabajo adicional. Ella dice que Ofcom está tratando de facilitar las operaciones en diferentes países, señalando el trabajo del regulador para establecer una red global de reguladores de seguridad en línea.
Aprobar la Ley de Seguridad en Línea durante una era turbulenta en la política británica ya era difícil. Pero a medida que Ofcom comienza a completar sus detalles, es posible que los verdaderos desafíos apenas estén comenzando.