Microsoft ha eliminado a todo su equipo de ética y sociedad dentro de su IA (se abre en una pestaña nueva) división, como parte de los 10.000 despidos más amplios en la empresa en su conjunto.
El gigante tecnológico ahora se queda sin un equipo que garantice que el diseño de productos de IA se alinee con los valores de la IA responsable, justo en ese momento, el gigante de Redmond está movilizando la tecnología en cada uno de sus productos y servicios. (se abre en una pestaña nueva) concebible.
Todavía existe una Oficina de IA Responsable (ORA), que la compañía afirma (se abre en una pestaña nueva) «pone en práctica los principios de Microsoft al establecer las reglas de toda la empresa para una IA responsable a través de la implementación de nuestro trabajo de gobierno y políticas públicas».
Conflicto interno
Microsoft también afirma que, a pesar de la eliminación del equipo, la inversión para asegurarse de que la IA se desarrolle de manera responsable en realidad está aumentando.
“Durante los últimos seis años, hemos aumentado la cantidad de personas en nuestros equipos de productos y dentro de la Oficina de IA responsable. Agradecemos el trabajo pionero que hizo el equipo de ética y sociedad para ayudarnos en nuestro viaje continuo de IA responsable”, dijo la compañía.
Los empleados, por otro lado, dijeron que el equipo de ética y sociedad fue crucial para asegurarse de que los productos de inteligencia artificial que realmente diseñaron fueran inculcados con los principios de responsabilidad que la empresa había adoptado.
Un exempleado comentó cómo el equipo entendió los principios que surgieron de ORA para los diseñadores de productos y dijo que «nuestro trabajo era mostrarles [how they apply] y crear reglas en áreas donde no las había”.
El equipo también desarrolló un conjunto de herramientas para ayudar a los diseñadores de productos a aprender sobre estos principios y darse cuenta de los daños potenciales en la creación de herramientas de IA. El equipo había estado trabajando para identificar los riesgos de inculcar la tecnología de OpenAI también en los productos de Microsoft.
El equipo de ética y sociedad tenía 30 miembros en 2020 y, en octubre del año pasado, ese número se redujo a siete como parte de una reorganización.
El sitio de noticias de Silicon Valley, Platformer, afirma haber obtenido audio filtrado (se abre en una pestaña nueva) de las reuniones que siguieron a esta reorganización, destacando el conflicto entre el equipo y John Montgomery, vicepresidente corporativo de IA en Microsoft.
Montgomery habló de la inmensa presión del gobierno de Microsoft para tomar los modelos de IA y «pasarlos a manos de los clientes a una velocidad muy alta». Aseguró a los empleados que la mayoría de los miembros del equipo serían trasladados a otras áreas de la empresa.
En respuesta, un miembro del equipo planteó objeciones, argumentando que «lo que a este equipo siempre le ha preocupado profundamente es cómo impactamos a la sociedad y los impactos negativos que hemos tenido. Y son significativos».
Una reunión posterior a principios de este mes confirmó que los miembros restantes del equipo también se disolverían, eliminándolo por completo.
Desde entonces, otro empleado lamentó los despidos, creyendo que la prisa por implementar la IA en el negocio sin la supervisión adecuada y sin pensar en las implicaciones éticas de la IA: «Lo peor es que hemos expuesto al negocio al riesgo y a los seres humanos al riesgo». al hacer esto.»