Cuando el director ejecutivo de Google, Sundar Pichai, envió un correo electrónico a sus trabajadores con las prioridades de la empresa para 2024 este mes, el desarrollo responsable de la IA encabezaba la lista. Algunos empleados se preguntan ahora si Google podrá alcanzar ese objetivo. El pequeño equipo que sirvió como su principal organismo interno de vigilancia de la ética de la IA perdió a su líder y está siendo reestructurado, según cuatro personas familiarizadas con los cambios. Un portavoz de Google dice que su trabajo continuará de forma más sólida en el futuro, pero se niega a proporcionar detalles.
El equipo de Innovación Responsable de Google, conocido como RESIN, estaba ubicado dentro de la Oficina de Cumplimiento e Integridad, en la división de asuntos globales de la empresa. Revisó la compatibilidad de los proyectos internos con los principios de IA de Google que definen las reglas para el desarrollo y uso de la tecnología, un papel crucial mientras la empresa compite para competir en la IA generativa. RESIN realizó más de 500 revisiones el año pasado, incluso para el chatbot Bard, según un informe anual sobre el trabajo de los principios de IA que Google publicó este mes.
El papel de RESIN ha parecido incierto desde que su líder y fundadora Jen Gennai, directora de innovación responsable, dejó repentinamente ese puesto este mes, dicen las fuentes, que hablaron bajo condición de anonimato para discutir cambios de personal. El perfil de Gennai en LinkedIn la incluye como asesora de cumplimiento y ética de IA en Google a partir de este mes, lo que, según las fuentes, sugiere que pronto se irá en función de cómo se desarrollaron las salidas anteriores de la empresa.
Google dividió en dos el equipo de Gennai de unas 30 personas. Algunos permanecerán vigentes mientras que otros fueron transferidos a Confianza y Seguridad, que lucha contra el abuso de los servicios de Google y también reside en la división de asuntos globales. Según las fuentes, nadie parece haber sido despedido. No se pudo conocer el fundamento de los cambios ni cómo se dividirán las responsabilidades. Algunas de las fuentes dicen que no se les ha dicho cómo se manejarán las revisiones de los principios de la IA en el futuro.
El portavoz de la compañía, Brian Gabriel, se niega a decir cómo se manejará en el futuro el trabajo de RESIN en la revisión de proyectos de IA, pero describe la reestructuración como una señal del compromiso de Google con el desarrollo responsable de la IA. La medida «llevó a este equipo particular de IA Responsable al centro de nuestros esfuerzos bien establecidos de confianza y seguridad, que están integrados en nuestras revisiones y planes de productos», dice. «Nos ayudará a fortalecer y escalar nuestro trabajo de innovación responsable en toda la empresa».
¿Tienes un consejo?
Google es conocido por reorganizar frecuentemente sus filas, pero RESIN prácticamente no ha sido tocado desde la fundación del grupo. Aunque otros equipos y cientos de personas adicionales trabajan en la supervisión de la IA en Google, RESIN fue el más destacado, con competencias que cubren todos los servicios principales de Google.
Además de la salida de su líder, Gennai, RESIN también vio partir este mes a uno de sus miembros más influyentes, Sara Tangdall, especialista principal en ética y principios de IA. Ahora es directora responsable de productos de IA en Salesforce, según su perfil de LinkedIn. Tangdall se negó a hacer comentarios y Gennai no respondió a las llamadas para hacer comentarios.
Levantamiento de la IA
Google creó su equipo de Innovación Responsable en 2018, poco después de que expertos en inteligencia artificial y otros miembros de la compañía se levantaran públicamente en protesta contra un contrato del Pentágono llamado Proyecto Maven que utilizaba algoritmos de Google para analizar imágenes de vigilancia con drones. RESIN se convirtió en el guardián central de un conjunto de principios de IA introducidos después de las protestas, que dicen que Google utilizará la IA para beneficiar a las personas, y nunca para armas o para socavar los derechos humanos. Gennai ayudó a redactar los principios.
Los equipos de todo Google podían enviar proyectos para que RESIN los revisara, lo que proporcionaba comentarios y, en ocasiones, bloqueaba ideas que se consideraban que infringían los principios de la IA. El grupo detuvo el lanzamiento de generadores de imágenes de IA y algoritmos de síntesis de voz que podrían usarse para crear deepfakes.
Buscar orientación sobre los principios de la IA no es obligatorio para la mayoría de los equipos, a diferencia de las revisiones de riesgos de privacidad, a las que debe someterse cada proyecto. Pero Gennai ha dicho que las revisiones tempranas de los sistemas de inteligencia artificial dan sus frutos al prevenir costosas violaciones éticas. “Si se implementa correctamente, la IA responsable mejora los productos al descubrir y trabajar para reducir el daño que pueden causar los prejuicios injustos, mejorando la transparencia y aumentando la seguridad”, dijo durante una conferencia de Google en 2022.