Según se informa, Meta ha dividido su equipo de IA Responsable (RAI) a medida que dedica más recursos a la inteligencia artificial generativa. La información dio la noticia hoy, citando una publicación interna que había visto.
Según el informe, la mayoría de los miembros de la RAI pasarán al equipo de productos de IA generativa de la compañía, mientras que otros trabajarán en la infraestructura de IA de Meta. La empresa afirma periódicamente que quiere desarrollar la IA de forma responsable e incluso tiene una pagina dedicado a la promesa, donde la compañía enumera sus «pilares de una IA responsable», que incluyen responsabilidad, transparencia, seguridad, privacidad y más.
La informaciónEl informe cita a Jon Carvill, que representa a Meta, diciendo que la empresa «continuará priorizando e invirtiendo en el desarrollo de IA seguro y responsable». Añadió que aunque la compañía está dividiendo el equipo, esos miembros «continuarán apoyando los esfuerzos relevantes entre Meta sobre el desarrollo y uso responsable de la IA».
Meta no respondió a una solicitud de comentarios al cierre de esta edición.
El equipo ya experimentó una reestructuración a principios de este año, que Business Insider escribió Incluyó despidos que dejaron a la RAI como “una cáscara de equipo”. Ese informe continuaba diciendo que el equipo de la RAI, que existía desde 2019, tenía poca autonomía y que sus iniciativas tenían que pasar por largas negociaciones con las partes interesadas antes de poder implementarse.
RAI se creó para identificar problemas con sus enfoques de entrenamiento de IA, incluido si los modelos de la compañía están entrenados con información adecuadamente diversa, con miras a prevenir cosas como problemas de moderación en sus plataformas. Los sistemas automatizados en las plataformas sociales de Meta han generado problemas como un problema de traducción de Facebook que provocó un arresto falsoGeneración de stickers de WhatsApp AI que resulta en imágenes sesgadas cuando se le dan ciertas indicacionesy los algoritmos de Instagram Ayudar a las personas a encontrar materiales sobre abuso sexual infantil..