Lo que necesitas saber
- AI es un campo de tecnología en crecimiento que impulsa varios servicios, incluido Bing Chat de Microsoft.
- Microsoft ha invertido o se ha comprometido a invertir 11 000 millones en investigación y desarrollo de OpenAI.
- Microsoft acaba de despedir al equipo responsable de asegurarse de que la IA se use de manera ética.
- Las herramientas de IA han sido criticadas por muchos artistas y escritores profesionales.
lo nuevo de Microsoft Chat de Bing La herramienta está haciendo olas masivas, pero el gigante tecnológico ahora carece de un equipo dedicado para enfocarse en implementar la tecnología de IA de una manera que cumpla con las pautas de la compañía.
Según un nuevo informe de Plataformas (a través de el borde (se abre en una pestaña nueva)) Microsoft despidió recientemente al equipo responsable del manejo de la ética en el uso de la IA. Esto llega en un momento en que Chat de Bing está explotando en popularidad, con la herramienta empujando a Bing a más de 100 millones de usuarios activos diarios.
Platformer señala que, si bien todavía hay un conjunto de principios rectores en la forma de la Oficina de IA responsable de Microsoft, ya no hay un equipo dedicado para interpretar estos principios en un campo tecnológico en rápida evolución.
«La gente miraría los principios que surgen de la oficina de AI responsable y diría: ‘No sé cómo se aplica esto'», dijo un ex empleado. “Nuestro trabajo era mostrarlos y crear reglas en áreas donde no las había”.
Según los informes, la mayor parte del equipo ya había sido trasladado a otras partes de Microsoft, pero los empleados restantes del equipo de ética fueron despedidos el 6 de marzo de 2023.
“Microsoft se compromete a desarrollar productos y experiencias de IA de manera segura y responsable, y lo hace invirtiendo en personas, procesos y asociaciones que priorizan esto”, dijo la compañía en un comunicado.
“Durante los últimos seis años, hemos aumentado la cantidad de personas en nuestros equipos de productos y dentro de la Oficina de IA responsable que, junto con todos nosotros en Microsoft, son responsables de garantizar que pongamos en práctica nuestros principios de IA. […] Apreciamos el trabajo pionero que hizo Ética y Sociedad para ayudarnos en nuestro viaje continuo de IA responsable”.
En 2020, el equipo de Ética y Sociedad contaba con 30 integrantes, entre ingenieros, diseñadores y filósofos. El equipo se redujo a unas siete personas, según el informe de Platformer.
El medio también informó que el gigante tecnológico presionó para implementar la IA rápidamente, lo que resultó en el movimiento de muchos empleados.
“La presión de [CTO] Kevin [Scott] y [CEO] satya [Nadella] es muy, muy alto tomar estos modelos OpenAI más recientes y los que vienen después de ellos y ponerlos en manos de los clientes a una velocidad muy alta», dijo John Montgomery, vicepresidente corporativo de AI en una reunión con el equipo de Ética y Sociedad. , según el audio obtenido por Platformer.
Según los informes, el equipo retrocedió, pero Montgomery dijo: «¿Puedo reconsiderarlo? No creo que lo haga». Continuó: «Porque desafortunadamente las presiones siguen siendo las mismas. No tienes la vista que yo tengo, y probablemente puedas estar agradecido por eso. Hay muchas cosas que se están moliendo en la salchicha».
La CVP dijo en su momento que el equipo de Ética y Sociedad no sería eliminado. Sin embargo, la compañía eliminó al equipo por completo durante una llamada realizada el 6 de marzo de 2023.
La opinión de Windows Central
La IA es cada vez más popular y las grandes empresas tecnológicas de todo el mundo se apresuran a encontrar nuevas formas de usarla y aprovechar lo que ofrece. Esta tecnología también ha sido objeto de inmensas críticas, ya que los generadores de imágenes de IA recopilan datos basados en el trabajo de los artistas sin ningún tipo de crédito o compensación. Personalmente, sigo a muchos artistas y ninguno de ellos está contento con la dirección que está tomando esta tecnología.
Para que una empresa como Microsoft continúe invertir en IA por una suma de miles de millones de dólares, debe tener un enfoque cuidadoso que ayude a las personas y no robe a otros su trabajo. Abandonar el equipo de Ética y Sociedad, que ya se estaba marchitando y que ayudó a responder este tipo de preguntas, no inspira confianza.