Google está apuntando a aplicaciones de IA generativa potencialmente problemáticas con una nueva política, que se aplicará a principios del próximo año, que requerirá que los desarrolladores de aplicaciones de Android publicadas en su Play Store ofrezcan la capacidad de informar o marcar contenido ofensivo generado por IA. La nueva política insistirá en que las marcas y los informes se pueden realizar en la aplicación y los desarrolladores deberían utilizar el informe para informar sus propios enfoques de filtrado y moderación, dice la compañía.
El cambio en la política sigue a una explosión de aplicaciones generadas por IA, en algunas de las cuales los usuarios engañaron a las aplicaciones para que crearan imágenes NSFW, como ocurrió con Lensa el año pasado. Otros, mientras tanto, tienen problemas más sutiles. Por ejemplo, se descubrió que una aplicación que se volvió viral este verano para fotografías de rostros con IA, Remini, aumentaba enormemente el tamaño de los senos o el escote de algunas mujeres, y los adelgazaba. Luego estaban los problemas más recientes con las herramientas de inteligencia artificial de Microsoft y Meta, donde la gente encontró formas de eludir las barreras para crear imágenes como Sonic the Hedgehog embarazada o personajes ficticios del 11 de septiembre.
Por supuesto, existen preocupaciones aún más serias en torno al uso de generadores de imágenes de IA, ya que se descubrió que pedófilos utilizaban herramientas de IA de código abierto para crear material de abuso sexual infantil (CSAM) a escala. Y con las próximas elecciones, también existe preocupación sobre el uso de la IA para crear imágenes falsas, también conocidas como deepfakes, para engañar o desinformar al público votante.
Créditos de imagen: Google
El texto de la nueva política indica que los ejemplos de contenido generado por IA incluyen “chatbots de IA generativos conversacionales de texto a texto, en los que la interacción con el chatbot es una característica central de la aplicación”, que abarca aplicaciones como ChatGPT, así como aplicaciones donde las imágenes son «generadas por IA basadas en texto, imágenes o indicaciones de voz».
Google, en su anuncio, recordó a los desarrolladores que todas las aplicaciones, incluidos los generadores de contenido de IA, deben cumplir con sus políticas de desarrollador existentes, que prohíben contenido restringido como CSAM y otros que permitan comportamientos engañosos.
Más allá de cambiar su política para tomar medidas enérgicas contra las aplicaciones de contenido de IA, Google dice que algunos permisos de aplicaciones también recibirán una revisión adicional por parte del equipo de Google Play, incluidas aquellas aplicaciones que solicitan permisos amplios para fotos y videos. Según su nueva política, las aplicaciones sólo podrán acceder a fotos y vídeos si están directamente relacionados con su funcionalidad. Si tienen una necesidad única o poco frecuente, como aplicaciones de inteligencia artificial que piden a los usuarios que carguen un conjunto de selfies, tal vez, las aplicaciones necesitan usar un selector de sistema, como el nuevo selector de fotos de Android.
Créditos de imagen: Google
La nueva política también limitará las notificaciones disruptivas en pantalla completa solo a aquellos momentos en los que exista una necesidad de alta prioridad. Muchas aplicaciones han abusado de la capacidad de mostrar notificaciones emergentes en pantalla completa en un intento de vender a los usuarios suscripciones pagas u otras ofertas, cuando en realidad la funcionalidad debería limitarse a casos de uso prioritarios del mundo real, como recibir una llamada telefónica o un video. llamar. Google dice que ahora cambiará las limitaciones y requerirá un permiso especial de acceso a la aplicación. Este “permiso de intención de pantalla completa” solo se otorgará a aplicaciones orientadas a Android 14 y superiores que realmente requieran la funcionalidad de pantalla completa.
Es sorprendente ver que Google es el primero en salir con una política sobre aplicaciones de inteligencia artificial y chatbots, ya que históricamente ha sido Apple quien emite nuevas reglas para combatir el comportamiento no deseado de las aplicaciones, que luego Google imita. Pero Apple aún no tiene una política formal de inteligencia artificial o chatbot en sus pautas de la App Store, aunque se ha endurecido en otras áreas, como las aplicaciones que solicitan datos con el fin de identificar al usuario o dispositivo, un método conocido como «huella digital». ”, así como en aplicaciones que intentan copiar otras.
Las actualizaciones de la política de Google Play se están implementando hoy, aunque los desarrolladores de aplicaciones de inteligencia artificial tienen hasta principios de 2024 para implementar las marcas e informar cambios en sus aplicaciones.