Miranda Bogen está creando soluciones para ayudar a gobernar la IA


Para brindarles a las académicas y a otras personas centradas en la IA su merecido (y esperado) tiempo en el centro de atención, TechCrunch está lanzando una serie de entrevistas centradas en mujeres notables que han contribuido a la revolución de la IA. Publicaremos varios artículos a lo largo del año a medida que continúe el auge de la IA, destacando trabajos clave que a menudo pasan desapercibidos. Lea más perfiles aquí.

Miranda Bogen es la directora fundadora del Laboratorio de Gobernanza de IA del Centro de Democracia y Tecnología, donde trabaja para ayudar a crear soluciones que puedan regular y gobernar eficazmente los sistemas de IA. Ayudó a guiar estrategias responsables de IA en Meta y anteriormente trabajó como analista senior de políticas en la organización Uptown, que busca utilizar la tecnología para promover la equidad y la justicia.

Brevemente, ¿cómo empezaste en la IA? ¿Qué te atrajo del campo?

Me atrajo trabajar en aprendizaje automático e inteligencia artificial al ver la forma en que estas tecnologías chocaban con conversaciones fundamentales sobre la sociedad: valores, derechos y qué comunidades quedan atrás. Mis primeros trabajos explorando la intersección de la IA y los derechos civiles me reforzaron el hecho de que los sistemas de IA son mucho más que artefactos técnicos; son sistemas que moldean y son moldeados por su interacción con las personas, las burocracias y las políticas. Siempre he sido un experto en traducir contextos técnicos y no técnicos, y me emocionó la oportunidad de ayudar a superar la apariencia de complejidad técnica para ayudar a comunidades con diferentes tipos de experiencia a dar forma a la forma en que se construye la IA desde cero. .

¿De qué trabajo estás más orgulloso (en el campo de la IA)?

Cuando comencé a trabajar en este espacio, muchas personas todavía necesitaban estar convencidas de que los sistemas de inteligencia artificial podrían tener un impacto discriminatorio para las poblaciones marginadas, y mucho menos de que era necesario hacer algo para remediar esos daños. Si bien todavía existe una brecha demasiado amplia entre el status quo y un futuro en el que los prejuicios y otros daños se aborden sistemáticamente, me complace que la investigación que mis colaboradores y yo realizamos sobre la discriminación en la publicidad personalizada en línea y mi trabajo dentro de la industria sobre algoritmos La equidad ayudó a generar cambios significativos en el sistema de entrega de anuncios de Meta y a avanzar hacia la reducción de las disparidades en el acceso a importantes oportunidades económicas.

¿Cómo se enfrentan los desafíos de la industria tecnológica dominada por los hombres y, por extensión, de la industria de la IA dominada por los hombres?

He tenido la suerte de trabajar con colegas y equipos fenomenales que han sido generosos con las oportunidades y el apoyo sincero, y tratamos de llevar esa energía a cualquier espacio en el que nos encontráramos. En mi transición profesional más reciente, estuve encantado de que casi Todas mis opciones implicaban trabajar en equipos o dentro de organizaciones dirigidas por mujeres fenomenales, y espero que el campo continúe levantando las voces de aquellos que tradicionalmente no se han centrado en conversaciones orientadas a la tecnología.

¿Qué consejo le darías a las mujeres que buscan ingresar al campo de la IA?

El mismo consejo que le doy a cualquiera que pregunte: busque gerentes, asesores y equipos que lo apoyen, que lo den energía e inspiren, que valoren su opinión y perspectiva, y que se arriesguen para defenderlo a usted y a su trabajo.

¿Cuáles son algunos de los problemas más apremiantes que enfrenta la IA a medida que evoluciona?

Los impactos y daños que los sistemas de IA ya están causando en las personas son bien conocidos en este momento, y uno de los mayores desafíos apremiantes es ir más allá de describir el problema y desarrollar enfoques sólidos para abordar sistemáticamente esos daños e incentivar su adopción. Lanzamos el Laboratorio de Gobernanza de IA en CDT para impulsar el progreso en ambas direcciones.

¿Cuáles son algunas de las cuestiones que los usuarios de IA deberían tener en cuenta?

En su mayor parte, a los sistemas de inteligencia artificial todavía les faltan cinturones de seguridad, bolsas de aire y señales de tránsito, por lo que se debe proceder con precaución antes de usarlos para tareas importantes.

¿Cuál es la mejor manera de construir IA de manera responsable?

La mejor manera de construir IA de manera responsable es con humildad. Considere cómo se ha definido el éxito del sistema de IA en el que está trabajando, a quién sirve esa definición y qué contexto puede faltar. Piense en quién podría fallar el sistema y qué sucederá si falla. Y construir sistemas no sólo con las personas que los utilizarán sino con las comunidades que estarán sujetas a ellos.

¿Cómo pueden los inversores impulsar mejor una IA responsable?

Los inversores deben crear espacio para que los creadores de tecnología actúen de forma más deliberada antes de lanzar al mercado tecnologías a medias. La intensa presión competitiva para lanzar los modelos de IA más nuevos, más grandes y más brillantes está generando una preocupante falta de inversión en prácticas responsables. Si bien la innovación desinhibida canta un tentador canto de sirena, es un espejismo que dejará a todos en peor situación.

La IA no es mágica; es sólo un espejo que se muestra a la sociedad. Si queremos que refleje algo diferente, tenemos trabajo que hacer.



Source link-48