En su Informe de transparencia de IA responsable, que cubre principalmente 2023, Microsoft promociona sus logros en la implementación segura de productos de inteligencia artificial. El informe anual de transparencia de la IA es uno de los compromisos que asumió la compañía tras firmar un acuerdo voluntario con la Casa Blanca en julio del año pasado. Microsoft y otras empresas prometieron establecer sistemas de inteligencia artificial responsables y comprometerse con la seguridad.
Microsoft dice en el informe que creó 30 herramientas de IA responsable el año pasado, aumentó su equipo de IA responsable y requirió equipos que crearan aplicaciones de IA generativa para medir y mapear los riesgos a lo largo del ciclo de desarrollo. La empresa señala que Credenciales de contenido agregadas a sus plataformas de generación de imágenes, que ponen una marca de agua en una foto, etiquetándola como realizada por un modelo de IA.
La compañía dice que ha brindado a los clientes de Azure AI acceso a herramientas que detectan contenido problemático como incitación al odio, contenido sexual y autolesiones, así como herramientas para evaluar riesgos de seguridad. Esto incluye nuevos métodos de detección de jailbreak, que fueron ampliado en marzo este año incluirá inyecciones rápidas indirectas donde las instrucciones maliciosas son parte de los datos ingeridos por el modelo de IA.
También está ampliando su equipo rojo esfuerzos, incluidos tanto los equipos rojos internos que intentan deliberadamente eludir las funciones de seguridad en sus modelos de IA como las aplicaciones de equipos rojos para permitir pruebas de terceros antes de lanzar nuevos modelos.
Sin embargo, sus unidades del equipo rojo tienen mucho trabajo por delante. Los lanzamientos de IA de la compañía no han estado inmunes a las controversias.
Natasha Crampton, directora responsable de IA en Microsoft, dice en un correo electrónico enviado a El borde que la empresa entiende que la IA todavía es un trabajo en progreso y también lo es la IA responsable.
“La IA responsable no tiene una línea de meta, por lo que nunca consideraremos hecho nuestro trabajo bajo los compromisos voluntarios de IA. Pero hemos logrado grandes avances desde que los firmamos y esperamos aprovechar nuestro impulso este año”, afirma Crampton.