El servicio de redes sociales Snap dijo el martes que planea agregar marcas de agua a las imágenes generadas por IA en su plataforma.
La marca de agua es una versión translúcida del logotipo de Snap con un emoji brillante y se agregará a cualquier imagen generada por IA exportada desde la aplicación o guardada en el carrete de la cámara.
La marca de agua, que es el logotipo de Snap con un brillo, denota imágenes generadas por IA creadas con las herramientas de Snap. Créditos de imagen: Quebrar
En su página de soporte, la compañía dijo que eliminar la marca de agua de las imágenes violaría sus términos de uso. No está claro cómo detectará Snap la eliminación de estas marcas de agua. Le hemos pedido a la compañía más detalles y actualizaremos esta historia cuando tengamos noticias.
Otros gigantes tecnológicos como Microsoft, Meta y Google también han tomado medidas para etiquetar o identificar imágenes creadas con herramientas impulsadas por inteligencia artificial.
Actualmente, Snap permite a los suscriptores de pago crear o editar imágenes generadas por IA utilizando Snap AI. Su función centrada en selfies, Dreams, también permite a los usuarios usar IA para darle vida a sus imágenes.
En una publicación de blog que describe sus prácticas de seguridad y transparencia en torno a la IA, la compañía explicó que muestra funciones impulsadas por IA, como Lentes, con un marcador visual que se asemeja a un emoji brillante.
Snap enumera indicadores para funciones impulsadas por IA generativa. Créditos de imagen: Quebrar
La compañía dijo que también agregó tarjetas de contexto a imágenes generadas por IA creadas con herramientas como Dream para informar mejor a los usuarios.
En febrero, Snap se asoció con HackerOne para adoptar un programa de recompensas por errores destinado a probar sus herramientas de generación de imágenes de IA.
“Queremos que los Snapchatters de todos los ámbitos de la vida tengan acceso y expectativas equitativos al usar todas las funciones de nuestra aplicación, en particular nuestras experiencias impulsadas por IA. Con esto en mente, estamos implementando pruebas adicionales para minimizar resultados de IA potencialmente sesgados”, dijo la compañía en ese momento.
Los esfuerzos de Snapchat para mejorar la seguridad y moderación de la IA se producen después de que su chatbot “My AI” generara cierta controversia tras su lanzamiento en marzo de 2023, cuando algunos usuarios lograron que el bot respondiera y hablara sobre sexo, bebida y otros temas potencialmente peligrosos. Posteriormente, la empresa implementó controles en el Centro Familiar para que padres y tutores monitorearan y restringieran las interacciones de sus hijos con la IA.