Amazon está lanzando un generador de imágenes, uniéndose a las filas de muchos, muchos otros gigantes tecnológicos y nuevas empresas que ya lo han hecho.
Durante un discurso de apertura en su conferencia AWS re:Invent 2023 esta mañana, Amazon presentó Titan Image Generator, que ahora está disponible en versión preliminar para los clientes de AWS en Bedrock, la plataforma de desarrollo de inteligencia artificial de Amazon. Como parte de la familia Titan de modelos de IA generativa de Amazon, Titan Image Generator puede crear nuevas imágenes (dando una descripción de texto) o personalizar imágenes existentes.
“[You] Puede utilizar el modelo para cambiar fácilmente un modelo existente. [image] fondo a un fondo de una selva tropical [for example]”, dijo en el escenario Swami Sivasubramanian, vicepresidente de servicios de datos y aprendizaje automático de AWS. “[And you] «Puedo usar el modelo para intercambiar fondos sin problemas para generar imágenes de estilo de vida, manteniendo al mismo tiempo el tema principal de la imagen y creando algunas opciones más».
Amazon dice que Titan Image Generator fue entrenado en un «conjunto diverso de conjuntos de datos» en una «amplia gama de dominios» y, opcionalmente, puede ajustarse en conjuntos de datos personalizados, e incluye mitigaciones integradas de toxicidad y sesgo. (Salvo las pruebas, no se sabe cuán efectivas son esas mitigaciones, por supuesto). Sin embargo, la compañía se negó a decir exactamente de dónde provienen esos conjuntos de datos, y si obtuvo permiso o está compensando a todos los creadores de las imágenes utilizadas para entrenar. Generador de imágenes Titán.
Créditos de imagen: AWS
Algunas empresas que desarrollan generadores de imágenes, como Stability AI y, desde hace unos meses, OpenAI, permiten a los creadores optar por no participar en conjuntos de datos de entrenamiento si así lo desean. Otros, incluidos Adobe y Getty Images, están estableciendo esquemas de compensación para los creadores, aunque no siempre sean bien remunerados o transparentes.
Sin embargo, Sivasubramanian afirmó en el escenario que Amazon protegerá a los clientes acusados de violar los derechos de autor con imágenes generadas por Titan Image Generator, de acuerdo con su política de indemnización por IA. Seguramente eso es música para los oídos de los clientes de AWS preocupados por la regurgitación, o cuando un modelo generativo escupe una copia reflejada de un ejemplo de entrenamiento.
En una encuesta reciente realizada por Acrolinx entre las empresas Fortune 500, casi un tercio dijo que la propiedad intelectual era su mayor preocupación sobre el uso de la IA generativa. Otra encuesta encontró que nueve de cada 10 desarrolladores “consideran seriamente” la protección de la propiedad intelectual al tomar decisiones sobre el uso de IA generativa.
Imágenes generadas con Titan Image Generator de AWS. Créditos de imagen: AWS
«Estamos eligiendo cuidadosamente cómo entrenamos nuestros modelos y los datos que utilizamos para hacerlo», dijo. «Con estas inversiones, nuestros clientes tendrán la flexibilidad de seleccionar los mejores modelos para sus necesidades incluso cuando sus necesidades crezcan y cambien».
Las imágenes creadas con Titan Image Generator también vendrán con una marca de agua invisible «resistente a manipulaciones» de forma predeterminada, un intento de mitigar la difusión de información errónea e imágenes de abuso generadas por IA, dice Sivasubramanian. (Los deepfakes de la guerra de Gaza y las imágenes de abuso infantil generadas por IA son los últimos ejemplos de cuán grande se ha vuelto la amenaza). No está claro exactamente qué tipo de técnica de marca de agua utiliza Amazon y qué herramientas más allá de la propia API de Amazon podrán detectarla; Nos comunicamos con Amazon para obtener una aclaración.
Sivasubramanian señaló que las marcas de agua son parte del compromiso voluntario en torno a la IA que Amazon firmó con la Casa Blanca en julio. Otros firmantes, entre ellos Google y Microsoft, han adoptado el sistema de Credenciales de Contenido desarrollado por la Coalición para la Procedencia y Autenticidad del Contenido o han desarrollado sus propias soluciones.
