Google ha actualizado su Política de contenido inapropiado para incluir un lenguaje que prohíba expresamente a los anunciantes promocionar sitios web y servicios que generen pornografía deepfake. Si bien la compañía ya tiene fuertes restricciones para los anuncios que presentan ciertos tipos de contenido sexual, esta actualización no deja dudas de que promover «contenido sintético que ha sido alterado o generado para ser sexualmente explícito o contener desnudez» viola sus reglas.
Cualquier anunciante que promocione sitios o aplicaciones que generen pornografía deepfake, que muestren instrucciones sobre cómo crear pornografía deepfake y que respalden o comparen varios servicios de pornografía deepfake serán suspendidos sin previo aviso. Tampoco podrán publicar sus anuncios en Google. La compañía comenzará a implementar esta regla el 30 de mayo y brindará a los anunciantes la oportunidad de eliminar cualquier anuncio que infrinja la nueva política. Como 404 Medios Como señala, el auge de las tecnologías deepfake ha llevado a un número cada vez mayor de anuncios que promocionan herramientas dirigidas específicamente a usuarios que desean crear materiales sexualmente explícitos. Según se informa, algunas de esas herramientas incluso pretenden ser servicios saludables para poder aparecer en la App Store de Apple y en la Google Play Store, pero se ocultan en las redes sociales donde promueven su capacidad para generar pornografía manipulada.
Sin embargo, Google ya ha comenzado a prohibir los servicios que crean deepfakes sexualmente explícitos en los anuncios de Shopping. De manera similar a su próxima política más amplia, la compañía ha prohibido los anuncios de Shopping para servicios que «generan, distribuyen o almacenan contenido sintético sexualmente explícito o contenido sintético que contenga desnudez». Estos incluyen tutoriales de pornografía deepfake y páginas que anuncian generadores de pornografía deepfake.