Lo que necesitas saber
- Microsoft recientemente envió Azure AI Content Safety a una amplia disponibilidad.
- Es una plataforma impulsada por IA diseñada para crear un entorno en línea más seguro para los usuarios.
- Azure AI Content Safety permite a las empresas establecer un mayor control al permitirles adaptar las políticas y, en última instancia, garantizar que el contenido que consumen sus clientes se alinee con sus valores fundamentales.
- La plataforma es ahora un sistema independiente, lo que significa que se puede utilizar en todos los modelos de código abierto.
Microsoft acaba de envió Azure AI Content Safety a disponibilidad general. Es una plataforma impulsada por IA diseñada para «ayudar a las organizaciones a crear entornos en línea más seguros». La plataforma aprovecha modelos avanzados de lenguaje y visión para señalar contenido inapropiado como la violencia.
Muchas organizaciones se han subido al «tren de la IA» en los últimos meses para aprovechar las capacidades de la tecnología. Es cierto que estas empresas han logrado avances significativos en sus respectivos campos. Sus beneficios van desde ayudar a los profesionales desarrollar software en menos de 7 minutos para ayudar a los estudiantes resolver problemas matemáticos complejos o incluso escribiendo poemas.
Pero lo que sigue siendo muy evidente es que los usuarios tienen reservas sobre IA generativa. Varios usuarios han indicado que La precisión de la tecnología está disminuyendo.mientras que otros han señalado que es volviéndose más tonto. La tecnología también carece de medidas de seguridad que idealmente regularían el contenido que consumen los usuarios mientras interactúan con esta tecnología.
Afortunadamente, Azure AI Content Safety existe para ayudar a las organizaciones y empresas a establecer un mayor control sobre el tipo de contenido al que los usuarios pueden acceder y, al mismo tiempo, garantizar que se alinee con sus valores y políticas fundamentales.
La plataforma debutó por primera vez como parte del servicio Azure OpenAI, pero ahora es un sistema independiente. Microsoft explicó la plataforma en una publicación de blog:
«Eso significa que los clientes pueden usarlo para contenido generado por IA a partir de modelos de código abierto y modelos de otras empresas, así como para contenido generado por usuarios como parte de sus sistemas de contenido, ampliando su utilidad».
Esto afirma el objetivo de Microsoft de proporcionar a las empresas herramientas eficaces esenciales para implementar de forma segura la tecnología de IA.
Estamos en un momento bastante sorprendente en el que las empresas están viendo el increíble poder de la IA generativa. Lanzar Azure AI Content Safety como un producto independiente significa que podemos atender a una gran cantidad de clientes con una gama mucho más amplia de necesidades comerciales.
Eric Boyd, plataforma Microsoft CVP-AI
La seguridad del contenido de Azure AI tiene una gran adaptabilidad
Microsoft ya aprovecha Azure AI Content Safety para colocar barreras de seguridad en sus propios productos impulsados por IA, como Copiloto de GitHub, Copiloto de Microsoft 365, y más. Y ahora, las mismas capacidades están disponibles para empresas y organizaciones. Como tal, les será posible adaptar las políticas en un intento por alinearlas mejor con las necesidades y deseos del cliente.