Para brindarles a las académicas y a otras personas centradas en la IA su merecido (y esperado) tiempo en el centro de atención, TechCrunch está lanzando una serie de entrevistas centradas en mujeres destacadas que han contribuido a la revolución de la IA. Publicaremos artículos a lo largo del año a medida que continúe el auge de la IA, destacando trabajos clave que a menudo pasan desapercibidos. Lea más perfiles aquí.
Emilia Gómez es investigadora principal del Centro Común de Investigación de la Comisión Europea y coordinadora científica de AI Watch, la iniciativa de la CE para monitorear los avances, la adopción y el impacto de la IA en Europa. Su equipo contribuye con conocimientos científicos y técnicos a las políticas de IA de la CE, incluida la Ley de IA propuesta recientemente.
La investigación de Gómez se basa en el campo de la música computacional, donde contribuye a la comprensión de la forma en que los humanos describen la música y los métodos con los que se modela digitalmente. Partiendo del ámbito de la música, Gómez investiga el impacto de la IA en el comportamiento humano, en particular los efectos en el trabajo, las decisiones y el desarrollo cognitivo y socioemocional infantil.
Preguntas y respuestas
Brevemente, ¿cómo empezaste en la IA? ¿Qué te atrajo del campo?
Comencé mi investigación en IA, en particular en aprendizaje automático, como desarrollador de algoritmos para la descripción automática de señales de audio musical en términos de melodía, tonalidad, similitud, estilo o emoción, que se explotan en diferentes aplicaciones, desde plataformas musicales hasta educación. . Comencé a investigar cómo diseñar enfoques novedosos de aprendizaje automático que se ocuparan de diferentes tareas computacionales en el campo de la música y sobre la relevancia del flujo de datos, incluida la creación y anotación de conjuntos de datos. Lo que me gustó en ese momento del aprendizaje automático fueron sus capacidades de modelado y el cambio del diseño de algoritmos basado en el conocimiento al diseño de algoritmos basado en datos; por ejemplo, en lugar de diseñar descriptores basados en nuestro conocimiento de acústica y música, ahora estábamos usando nuestro conocimiento para diseñar conjuntos de datos, arquitecturas y procedimientos de capacitación y evaluación.
A partir de mi experiencia como investigador de aprendizaje automático y al ver mis algoritmos «en acción» en diferentes dominios, desde plataformas musicales hasta conciertos de música sinfónica, me di cuenta del enorme impacto que esos algoritmos tienen en las personas (por ejemplo, oyentes, músicos) y dirigí mi investigación. hacia la evaluación de la IA en lugar del desarrollo, en particular en el estudio del impacto de la IA en el comportamiento humano y cómo evaluar los sistemas en términos de aspectos como la equidad, la supervisión humana o la transparencia. Este es el tema de investigación actual de mi equipo en el Centro Común de Investigación.
¿De qué trabajo estás más orgulloso (en el campo de la IA)?
En el aspecto académico y técnico, estoy orgulloso de mis contribuciones a las arquitecturas de aprendizaje automático específicas de la música en el Music Technology Group de Barcelona, que han avanzado el estado del arte en el campo, como se refleja en mis registros de citas. Por ejemplo, durante mi doctorado propuse un algoritmo basado en datos para extraer la tonalidad de señales de audio (por ejemplo, si una pieza musical está en do mayor o re menor), que se ha convertido en una referencia clave en este campo, y más tarde codiseñé una máquina. métodos de aprendizaje para la descripción automática de señales musicales en términos de melodía (por ejemplo, se utilizan para buscar canciones tarareando), tempo o para modelar emociones en la música. La mayoría de estos algoritmos están actualmente integrados en Essentia, una biblioteca de código abierto para análisis, descripción y síntesis de audio y música y han sido explotados en muchos sistemas de recomendación.
Estoy particularmente orgulloso de Banda Sonora Vital (LifeSoundTrack), un proyecto premiado por el Premio de la Cruz Roja a Tecnologías Humanitarias, donde desarrollamos un recomendador de música personalizado adaptado a pacientes mayores con Alzheimer. También está PHENICX, un gran proyecto financiado por la Unión Europea (UE) que coordiné sobre el uso de la música; e IA para crear experiencias musicales sinfónicas enriquecidas.
Amo la comunidad de informática musical y estoy feliz de convertirme en la primera mujer presidenta de la Sociedad Internacional para la Recuperación de Información Musical, a la que he contribuido durante toda mi carrera, con especial interés en aumentar la diversidad en este campo.
Actualmente, en mi función en la Comisión, a la que me incorporé en 2018 como científico principal, brindo apoyo científico y técnico a las políticas de IA desarrolladas en la UE, en particular la Ley de IA. De este trabajo reciente, que es menos visible en términos de publicaciones, estoy orgulloso de mis humildes contribuciones técnicas a la Ley de IA. Digo “humilde”, ya que como puedes imaginar, ¡hay muchas personas involucradas aquí! A modo de ejemplo, he contribuido mucho al trabajo sobre la armonización o traducción entre términos legales y técnicos (por ejemplo, proponiendo definiciones basadas en la literatura existente) y sobre la evaluación de la implementación práctica de requisitos legales, como la transparencia o la documentación técnica para altos estándares. sistemas de IA de riesgo, modelos de IA de propósito general e IA generativa.
También estoy bastante orgulloso del trabajo de mi equipo en el apoyo a la directiva de responsabilidad de la IA de la UE, donde estudiamos, entre otras, las características particulares que hacen que los sistemas de IA sean inherentemente riesgosos, como la falta de causalidad, la opacidad, la imprevisibilidad o su auto- y continuo- capacidades de aprendizaje y evaluaron las dificultades asociadas que se presentan cuando se trata de probar la causalidad.
¿Cómo afrontar los desafíos de la industria tecnológica dominada por los hombres y, por extensión, de la industria de la inteligencia artificial dominada por los hombres?
No se trata solo de tecnología: ¡también estoy navegando en un campo de investigación y políticas de IA dominado por hombres! No tengo una técnica ni una estrategia, ya que es el único entorno que conozco. No sé cómo sería trabajar en un entorno laboral diverso o dominado por mujeres. “¿No sería lindo?”, como dice la canción de los Beach Boys. Sinceramente, trato de evitar la frustración y divertirme en este escenario desafiante, trabajando en un mundo dominado por chicos muy asertivos y disfrutando colaborando con mujeres excelentes en el campo.
¿Qué consejo le darías a las mujeres que buscan ingresar al campo de la IA?
Yo les diría dos cosas:
Es muy necesario: ingrese a nuestro campo, ya que existe una necesidad urgente de diversidad de visiones, enfoques e ideas. Por ejemplo, según el proyecto divinAI, un proyecto que cofundé para monitorear la diversidad en el campo de la IA, solo el 23% de los nombres de los autores en la Conferencia Internacional sobre Aprendizaje Automático y el 29% en la Conferencia Internacional Conjunta sobre IA en 2023 eran mujeres. , independientemente de su identidad de género.
No está solo: hay muchas mujeres, colegas no binarios y aliados masculinos en el campo, aunque no seamos tan visibles ni reconocidos. ¡Búscalos y obtén su tutoría y apoyo! En este contexto, existen muchos grupos de afinidad presentes en el campo de la investigación. Por ejemplo, cuando me convertí en presidenta de la Sociedad Internacional para la Recuperación de Información Musical, participé muy activamente en la iniciativa Women in Music Information Retrieval, pionera en esfuerzos de diversidad en informática musical con un programa de tutoría muy exitoso.
¿Cuáles son algunos de los problemas más apremiantes que enfrenta la IA a medida que evoluciona?
En mi opinión, los investigadores deberían dedicar tantos esfuerzos al desarrollo de la IA como a su evaluación, ya que actualmente existe una falta de equilibrio. La comunidad de investigación está tan ocupada avanzando en lo último en términos de capacidades y rendimiento de la IA y tan emocionada de ver sus algoritmos utilizados en el mundo real que se olvidan de realizar evaluaciones adecuadas, análisis de impacto y auditorías externas. Cuanto más inteligentes sean los sistemas de IA, más inteligentes deberían ser sus evaluaciones. El campo de la evaluación de la IA está poco estudiado y esta es la causa de muchos incidentes que dan mala reputación a la IA, por ejemplo, sesgos raciales o de género presentes en conjuntos de datos o algoritmos.
¿Cuáles son algunas de las cuestiones que los usuarios de IA deberían tener en cuenta?
Los ciudadanos que utilizan herramientas impulsadas por la IA, como los chatbots, deben saber que la IA no es mágica. La inteligencia artificial es un producto de la inteligencia humana. Deben aprender sobre los principios de funcionamiento y las limitaciones de los algoritmos de IA para poder desafiarlos y utilizarlos de manera responsable. También es importante que los ciudadanos estén informados sobre la calidad de los productos de IA, cómo se evalúan o certifican, para que sepan en cuáles pueden confiar.
¿Cuál es la mejor manera de construir IA de manera responsable?
En mi opinión, la mejor manera de desarrollar productos de IA (con un buen impacto social y ambiental y de manera responsable) es gastar los recursos necesarios en evaluación, valoración del impacto social y mitigación de riesgos (por ejemplo, para los derechos fundamentales). antes de lanzar un sistema de IA al mercado. Esto redunda en beneficio de las empresas y de la confianza en los productos, pero también de la sociedad.
La IA responsable o IA confiable es una forma de construir algoritmos donde aspectos como la transparencia, la equidad, la supervisión humana o el bienestar social y ambiental deben abordarse desde el principio del proceso de diseño de la IA. En este sentido, la Ley de IA no solo establece el estándar para regular la inteligencia artificial en todo el mundo, sino que también refleja el énfasis europeo en la confiabilidad y la transparencia, permitiendo la innovación y al mismo tiempo protegiendo los derechos de los ciudadanos. Creo que esto aumentará la confianza de los ciudadanos en el producto y la tecnología.