Google está apuntando a aplicaciones de IA generativa potencialmente problemáticas con una nueva política, que se aplicará a principios del próximo año, que requerirá que los desarrolladores de aplicaciones de Android publicadas en su Play Store ofrezcan la capacidad de informar o marcar contenido ofensivo generado por IA. La nueva política insistirá en que las marcas y los informes se pueden realizar en la aplicación y los desarrolladores deberían utilizar el informe para informar sus propios enfoques de filtrado y moderación, dice la compañía.

El cambio en la política sigue a una explosión de aplicaciones generadas por IA, en algunas de las cuales los usuarios engañaron a las aplicaciones para que crearan imágenes NSFW, como ocurrió con Lensa el año pasado. Otros, mientras tanto, tienen problemas más sutiles. Por ejemplo, se descubrió que una aplicación que se volvió viral este verano para fotografías de rostros con IA, Remini, aumentaba enormemente el tamaño de los senos o el escote de algunas mujeres, y los adelgazaba. Luego estaban los problemas más recientes con las herramientas de inteligencia artificial de Microsoft y Meta, donde la gente encontró formas de eludir las barreras para crear imágenes como Sonic the Hedgehog embarazada o personajes ficticios del 11 de septiembre.

Por supuesto, existen preocupaciones aún más serias en torno al uso de generadores de imágenes de IA, ya que se descubrió que pedófilos utilizaban herramientas de IA de código abierto para crear material de abuso sexual infantil (CSAM) a escala. Y con las próximas elecciones, también existe preocupación sobre el uso de la IA para crear imágenes falsas, también conocidas como deepfakes, para engañar o desinformar al público votante.

El texto de la nueva política indica que los ejemplos de contenido generado por IA incluyen “chatbots de IA generativos conversacionales de texto a texto, en los que la interacción con el chatbot es una característica central de la aplicación”, que abarca aplicaciones como ChatGPT, así como aplicaciones donde las imágenes son «generadas por IA basadas en texto, imágenes o indicaciones de voz».

Google, en su anuncio, recordó a los desarrolladores que todas las aplicaciones, incluidos los generadores de contenido de IA, deben cumplir con sus políticas de desarrollador existentes, que prohíben contenido restringido como CSAM y otros que permitan comportamientos engañosos.

Más allá de cambiar su política para tomar medidas enérgicas contra las aplicaciones de contenido de IA, Google dice que algunos permisos de aplicaciones también recibirán una revisión adicional por parte del equipo de Google Play, incluidas aquellas aplicaciones que solicitan permisos amplios para fotos y videos. Según su nueva política, las aplicaciones sólo podrán acceder a fotos y vídeos si están directamente relacionados con su funcionalidad. Si tienen una necesidad única o poco frecuente, como aplicaciones de inteligencia artificial que piden a los usuarios que carguen un conjunto de selfies, tal vez, las aplicaciones necesitan usar un selector de sistema, como el nuevo selector de fotos de Android.

Créditos de imagen: Google

La nueva política también limitará las notificaciones disruptivas en pantalla completa solo a aquellos momentos en los que exista una necesidad de alta prioridad. Muchas aplicaciones han abusado de la capacidad de mostrar notificaciones emergentes en pantalla completa en un intento de vender a los usuarios suscripciones pagas u otras ofertas, cuando en realidad la funcionalidad debería limitarse a casos de uso prioritarios del mundo real, como recibir una llamada telefónica o un video. llamar. Google dice que ahora cambiará las limitaciones y requerirá un permiso especial de acceso a la aplicación. Este “permiso de intención de pantalla completa” solo se otorgará a aplicaciones orientadas a Android 14 y superiores que realmente requieran la funcionalidad de pantalla completa.

Es sorprendente ver que Google es el primero en salir con una política sobre aplicaciones de inteligencia artificial y chatbots, ya que históricamente ha sido Apple quien emite nuevas reglas para combatir el comportamiento no deseado de las aplicaciones, que luego Google imita. Pero Apple aún no tiene una política formal de inteligencia artificial o chatbot en sus pautas de la App Store, aunque se ha endurecido en otras áreas, como las aplicaciones que solicitan datos con el fin de identificar al usuario o dispositivo, un método conocido como «huella digital». ”, así como en aplicaciones que intentan copiar otras.

Las actualizaciones de la política de Google Play se están implementando hoy, aunque los desarrolladores de aplicaciones de inteligencia artificial tienen hasta principios de 2024 para implementar las marcas e informar cambios en sus aplicaciones.

Aunque es fácil olvidarlo después de ver a Google luchar durante años para brindar una experiencia de transmisión de juegos a la par con una PC o consola tradicional, la megacorporación originalmente lanzó su servicio Stadia con ambiciones mucho más amplias. La visión descrita en el anuncio de Stadia de 2019 prometía varias características que en realidad podrían haber cambiado las reglas del juego para la industria, si alguna de ellas hubiera estado disponible en el lanzamiento o hubiera tenido una distribución más amplia una vez que llegó.

Ahora, para ser claros, no estoy hablando de promesas irrisorias como «latencia negativa». Algunas de sus promesas tecnológicas no eran más que humo y espejos, intentando calmar las preocupaciones razonables sobre la tecnología de transmisión como la columna vertebral de sus ofertas de videojuegos. En cambio, estoy hablando de objetivos sinérgicos que debería han sido perfectamente alcanzables para una de las corporaciones más ricas del mundo que ya está operando un enorme y exitoso sitio de transmisión de video y una red de infraestructura de servidor.

Funciones como State Share, Stream Connect, Crowd Play y Crowd Choice tuvieron la oportunidad de integrar los videojuegos y la llegada popular de la transmisión de juegos para una audiencia como nunca antes. Pero cada una de esas funciones estuvo ausente desde el lanzamiento y no estaban realmente integradas a nivel de plataforma; los desarrolladores individuales tuvieron que implementarlas poco a poco, lo que hizo que la experiencia de usar el servicio fuera inconsistente. A fines de 2021, Google se jactaba de que más de 20 juegos en total incluían una o más de estas funciones. Eso fue menos del 10% de la biblioteca total, e incluso entre esos juegos, muchos de ellos solo incluían una o dos de las características, no las cuatro.

En concepto, al menos, estas eran grandes ideas.

Participación estatal te permitiría enviar un estado de juego capturado a tus amigos, permitiéndote ayudarlos en una parte difícil del juego y luego devolverlo, o desafiarlos a superar tus propios logros. Al final, esto se usó principalmente como un modo de desafío de arranque, lo que permite a los jugadores y desarrolladores como id Software compartir las cargas del modo Doom Eternal Horde.

Conexión de transmisión prometió una experiencia multijugador cooperativa estrechamente integrada, mostrando a cada jugador en un juego una transmisión de video en vivo de las pantallas de sus compañeros de equipo para una mejor coordinación. Al final, fue apoyado principalmente por un puñado de juegos de Ubisoft, un caso de uso sólido dada su lista de shooters tácticos en primera persona, pero no lo suficiente como para poner a Stadia en el mapa.

Juego de multitudes, una función destinada a brindar a los streamers de videojuegos más herramientas para interactuar con su comunidad, podría haber sido increíble. Los streamers de YouTube podrían invitar a los espectadores a saltar directamente al juego y jugar junto a ellos o contra ellos. En teoría, podrías organizar torneos o crear experiencias multijugador masivas y asíncronas. Este era el concepto que aprovecharía de manera más central el negocio de YouTube de Google en sus ofertas de videojuegos, y parecía una combinación perfecta de ambos. Al final, fue compatible con aproximadamente 10 juegos, lo que crearía una cola para que los jugadores se unieran. Eso también presentaba el problema obvio: cuanto más popular era el streamer, más grande era la cola. Nadie quiere esperar detrás de otras 1000 personas solo para jugar en una sesión de cuatro jugadores de Borderlands 3.

Y finalmente, Elección de la multitud no era una idea especialmente innovadora, una encuesta de audiencia, básicamente, pero la función estaba destinada a integrarse en los juegos mismos. Los espectadores podían votar sobre opciones significativas en los juegos y el transmisor viviría según lo que sugiriera la audiencia. Por supuesto, muchos streamers ya lo hacen funcionalmente configurando encuestas de audiencia y simplemente comprometiéndose, pero esta era una forma más limpia de hacerlo.

En general, estas funciones a nivel de plataforma no estaban disponibles en toda la plataforma, lo que significaba que los elementos que podrían haber diferenciado a Stadia eran tan esporádicos que nunca tuvieron un gran impacto. Imagínese si Xbox dejara una función importante a nivel de plataforma, como Smart Delivery, en manos de los desarrolladores individuales para que la descubran, por lo que solo apareció en aproximadamente el 10% de los juegos. La inconsistencia en sí misma condena a la característica a fallar.

Esto se vio exacerbado por la falta de desarrollo propio en Stadia. Si bien Google habló mucho sobre comenzar sus propios estudios de desarrollo internos que optimizarían los juegos para la plataforma, ninguno de ellos se materializó. Como hemos visto en las exitosas consolas de Microsoft, Nintendo y Sony, el desarrollo propio es más que una forma de conseguir exclusivas. Los titulares de la plataforma tienen un interés personal en asegurarse de que su desarrollo interno muestre las características únicas del hardware y sirva como una guía para que los sigan los desarrolladores externos. Stadia no tuvo un desarrollo propio, solo vagas nociones de que eventualmente obtendríamos juegos exclusivos.

Imagina un mundo donde State Share estuviera integrado en cada juego, permitiendo a los jugadores pasar su progreso de un lado a otro a voluntad, y permitiendo a los desarrolladores y streamers compartir sus propias compilaciones para democratizar sus experiencias. Imagine un juego multijugador basado en Stream Connect, en el que ver a través de los ojos de los demás fuera una parte vital de la experiencia táctica en lugar de un complemento agradable pero no necesario. Imagine un juego hecho para Crowd Play, que podría ampliarse según el tamaño de la audiencia para permitir que grupos pequeños o comunidades de transmisión masivas jueguen juntos. E imagine un juego creado para Crowd Choice, en el que ver a su transmisor favorito en vivo según sus elecciones no fuera solo incidental, sino centralizado en la experiencia.

Esos conceptos eran sólidos y Stadia presentó una visión del futuro de los juegos que fue convincente. Dónde y cómo se equivocó exactamente Google será el tema de mucha especulación y discusión a medida que el servicio se reduzca. Pero esos conceptos siguen siendo viables, inteligentes y vale la pena seguirlos. Google tuvo todas las oportunidades para cumplir sus promesas, especialmente porque también era propietario del servicio de transmisión de video en el corazón de algunas de sus ideas de características más geniales. Pero otras plataformas pueden y deben tomar el relevo y trabajar para implementar esos y otros conceptos igualmente ambiciosos.