Google está corriendo precipitadamente hacia el futuro de la IA, y eso significa que diferentes partes de la empresa están destinadas a chocar entre sí: la búsqueda ahora está generando resultados resumidos impulsados por IA, pero inundar la web con texto generado por IA hará que la búsqueda sea más eficaz. mucho más difícil, por ejemplo. Va a ser confuso, complicado y fascinante al mismo tiempo. En general, las partes de Google encargadas de plataformas de moderación (como YouTube y la Búsqueda) terminarán chocando con las partes de Google que ayudan a las personas crear contenido (como Gmail y Bard). Realmente puedes ponerlos en dos listas, trazar una línea entre una y otra y predecir una larga lista de problemas interesantes que inevitablemente surgirán.
La colisión de IA de Google (TM) de esta semana se produce entre el Pixel 8, cuya función Best Take utiliza IA para permitirte intercambia expresiones faciales en fotos grupales para obtener tomas «perfectas»y YouTube, que acaba de lanzarse el primer corte de una política de contenidos generados por IA eso requiere que «los creadores revelen cuándo han creado contenido alterado o sintético que sea realista». La publicación del blog cita específicamente el contenido que «representa de manera realista un evento que nunca sucedió» como algo que necesita ser etiquetado, y señala que las sanciones por no etiquetar consistentemente contenido sintético realista pueden incluir la eliminación del contenido y su desmonetización.
¡Bien entonces! El Píxel 8 con Best Take y Magic Editor en Google Photos puede muy claramente generar fotografías realistas de eventos que nunca sucedieron. Específicamente, Best Take te permite crear momentos entre personas que nunca ocurrieron eligiendo entre varias expresiones faciales, y Magic Editor puede simplemente eliminar cosas del fondo. Es trivial hacer que las personas parezcan estar mirando lo mismo, o cosas diferentes, o reaccionando entre sí de maneras que nunca sucedieron: una foto de Pixel 8 de Taylor Swift y Travis Kelce está potencialmente a solo unos toques de contar una imagen muy historia diferente a la realidad. También lo es una foto Best Take de Donald Trump durante las próximas elecciones, de hecho. Los propios anuncios de Pixel 8 de Google son un gran ejemplo de lo fácil que es, en realidad:
¡Entonces! ¿Las fotos de Pixel 8 editadas con Best Take o las fotos editadas con Magic Editor en Google Photos deben etiquetarse en YouTube? Le preguntamos y el portavoz de YouTube, Jack Malon, dijo que el contexto importará y ofreció algunas orientaciones tempranas.
«El objetivo de esta actualización es ayudar al espectador a estar mejor informado sobre contenido realista pero modificado, sin castigar a los creadores por utilizar IA», afirma. “Si estás usando Best Shot para elegir una imagen en la que todos tengan los ojos abiertos, eso es algo que probablemente podrías haber hecho tú mismo tomando más fotografías (y probablemente no sea algo que debas revelar). Pero si estás usando tecnología para que parezca que estabas en un lugar en el que en realidad no estabas, o alterando una foto de un evento histórico, probablemente necesitarás revelar a tus espectadores que usaste tecnología para alterar la imagen. configuración.»
Esto parece correcto, aunque «podría haber sucedido si hubieras tomado más fotos» es una muy estándar difuso que tratar de hacer cumplir. Es más, esta norma está muy en tensión con la decisión de YouTube de tener su propio Las herramientas de IA generativa siempre etiquetan el contenido sintético como tal: las fotos editadas con Magic Editor tienen metadatos que muestran que fueron modificadas con IA, pero las fotos de Best Take no.