\n<\/p>\n
Para darles a las acad\u00e9micas y a otras personas centradas en la IA su merecido (y esperado) tiempo en el centro de atenci\u00f3n, TechCrunch ha estado publicando una serie de entrevistas centradas en mujeres destacadas que han contribuido a la revoluci\u00f3n de la IA. Publicaremos estos art\u00edculos a lo largo del a\u00f1o a medida que contin\u00faa el auge de la IA, destacando trabajos clave que a menudo pasan desapercibidos. Lea m\u00e1s perfiles aqu\u00ed.<\/p>\n
En el centro de atenci\u00f3n hoy: Allison Cohen, gerente senior de proyectos de IA aplicada en Mila, una comunidad con sede en Quebec de m\u00e1s de 1200 investigadores especializados en IA y aprendizaje autom\u00e1tico. Trabaja con investigadores, cient\u00edficos sociales y socios externos para implementar proyectos de IA socialmente beneficiosos. La cartera de trabajo de Cohen incluye una herramienta que detecta la misoginia, una aplicaci\u00f3n para identificar la actividad en l\u00ednea de presuntas v\u00edctimas de trata de personas y una aplicaci\u00f3n agr\u00edcola para recomendar pr\u00e1cticas agr\u00edcolas sostenibles en Ruanda.<\/p>\n
Anteriormente, Cohen fue codirector del descubrimiento de f\u00e1rmacos de IA en la Asociaci\u00f3n Global sobre Inteligencia Artificial, una organizaci\u00f3n para guiar el desarrollo y uso responsable de la IA. Tambi\u00e9n se desempe\u00f1\u00f3 como consultora de estrategia de IA en Deloitte y consultora de proyectos en el Centro de Pol\u00edtica Digital Internacional, un grupo de expertos canadiense independiente.<\/p>\n
Brevemente, \u00bfc\u00f3mo empezaste en la IA? \u00bfQu\u00e9 te atrajo del campo?<\/strong><\/p>\n Darme cuenta de que pod\u00edamos modelar matem\u00e1ticamente todo, desde reconocer rostros hasta negociar acuerdos comerciales, cambi\u00f3 mi forma de ver el mundo, que es lo que hizo que la IA fuera tan atractiva para m\u00ed. Ir\u00f3nicamente, ahora que trabajo en IA, veo que no podemos (y en muchos casos no deber\u00edamos) capturar este tipo de fen\u00f3menos con algoritmos.<\/p>\n Estuve expuesto a este campo mientras completaba una maestr\u00eda en asuntos globales en la Universidad de Toronto. El programa fue dise\u00f1ado para ense\u00f1ar a los estudiantes a navegar por los sistemas que afectan el orden mundial, desde macroeconom\u00eda hasta derecho internacional y psicolog\u00eda humana. Sin embargo, a medida que aprend\u00ed m\u00e1s sobre la IA, reconoc\u00ed lo vital que ser\u00eda para la pol\u00edtica mundial y lo importante que era educarme sobre el tema.<\/p>\n Lo que me permiti\u00f3 incursionar en este campo fue un concurso de redacci\u00f3n de ensayos. Para el concurso, escrib\u00ed un art\u00edculo que describ\u00eda c\u00f3mo las drogas psicod\u00e9licas ayudar\u00edan a los humanos a seguir siendo competitivos en un mercado laboral plagado de IA, lo que me calific\u00f3 para asistir al Simposio de St. Gallen en 2018 (era un art\u00edculo de escritura creativa). Mi invitaci\u00f3n y posterior participaci\u00f3n en ese evento me dieron la confianza para continuar con mi inter\u00e9s en el campo.<\/p>\n \u00bfDe qu\u00e9 trabajo est\u00e1s m\u00e1s orgulloso en el campo de la IA?<\/strong><\/p>\n Uno de los proyectos que administr\u00e9 implic\u00f3 la construcci\u00f3n de un conjunto de datos que conten\u00eda casos de expresiones sutiles y abiertas de prejuicios contra las mujeres.<\/p>\n Para este proyecto, fue crucial dotar de personal y gestionar un equipo multidisciplinario de expertos en procesamiento del lenguaje natural, ling\u00fcistas y especialistas en estudios de g\u00e9nero durante todo el ciclo de vida del proyecto. Es algo de lo que estoy bastante orgulloso. Aprend\u00ed de primera mano por qu\u00e9 este proceso es fundamental para crear aplicaciones responsables y tambi\u00e9n por qu\u00e9 no se hace lo suficiente: \u00a1es un trabajo duro! Si puede apoyar a cada una de estas partes interesadas en la comunicaci\u00f3n efectiva entre disciplinas, puede facilitar un trabajo que combine tradiciones de d\u00e9cadas de las ciencias sociales y desarrollos de vanguardia en inform\u00e1tica.<\/p>\n Tambi\u00e9n estoy orgulloso de que este proyecto haya sido bien recibido por la comunidad. Uno de nuestros art\u00edculos obtuvo un reconocimiento destacado en el taller sobre modelado de lenguaje socialmente responsable en una de las principales conferencias de IA, NeurIPS. Adem\u00e1s, este trabajo inspir\u00f3 un proceso interdisciplinario similar dirigido por AI Suecia, que adapt\u00f3 el trabajo para adaptarlo a las nociones y expresiones suecas de misoginia.<\/p>\n \u00bfC\u00f3mo se enfrentan los desaf\u00edos de la industria tecnol\u00f3gica dominada por los hombres y, por extensi\u00f3n, de la industria de la IA dominada por los hombres?<\/strong><\/p>\n Es lamentable que en una industria tan vanguardista todav\u00eda veamos din\u00e1micas de g\u00e9nero problem\u00e1ticas. No s\u00f3lo afecta negativamente a las mujeres: todos estamos perdiendo. Me inspir\u00e9 bastante en un concepto llamado \u00abteor\u00eda del punto de vista feminista\u00bb que aprend\u00ed en el libro de Sasha Costanza-Chock, \u00abDesign Justice\u00bb. <\/p>\n La teor\u00eda afirma que las comunidades marginadas, cuyos conocimientos y experiencias no se benefician de los mismos privilegios que otras, tienen una conciencia del mundo que puede generar un cambio justo e inclusivo. Por supuesto, no todas las comunidades marginadas son iguales, ni tampoco lo son las experiencias de los individuos dentro de esas comunidades.<\/p>\n Dicho esto, una variedad de perspectivas de esos grupos es fundamental para ayudarnos a navegar, desafiar y desmantelar todo tipo de desaf\u00edos e inequidades estructurales. Es por eso que no incluir a las mujeres puede mantener el campo de la IA excluyente para un sector a\u00fan m\u00e1s amplio de la poblaci\u00f3n, reforzando la din\u00e1mica de poder tambi\u00e9n fuera del campo.<\/p>\n En t\u00e9rminos de c\u00f3mo he manejado una industria dominada por hombres, he encontrado que los aliados son bastante importantes. Estos aliados son producto de relaciones s\u00f3lidas y de confianza. Por ejemplo, he sido muy afortunada de tener amigos como Peter Kurzwelly, quien comparti\u00f3 su experiencia en podcasting para apoyarme en la creaci\u00f3n de un podcast dirigido y centrado en mujeres llamado \u00abEl mundo que estamos construyendo\u00bb. Este podcast nos permite elevar el trabajo de a\u00fan m\u00e1s mujeres y personas no binarias en el campo de la IA.<\/p>\n \u00bfQu\u00e9 consejo le dar\u00edas a las mujeres que buscan ingresar al campo de la IA?<\/strong><\/p>\n Encuentra una puerta abierta. No tiene que ser remunerado, no tiene que ser una carrera y ni siquiera tiene que estar alineado con sus antecedentes o experiencia. Si puedes encontrar una oportunidad, puedes usarla para perfeccionar tu voz en el espacio y construir a partir de ah\u00ed. Si es voluntario, d\u00e9lo todo; le permitir\u00e1 destacarse y, con suerte, recibir un pago por su trabajo lo antes posible.<\/p>\n Por supuesto, poder ser voluntario es un privilegio, algo que tambi\u00e9n quiero reconocer.<\/p>\n Cuando perd\u00ed mi trabajo durante la pandemia y el desempleo estaba en su punto m\u00e1s alto en Canad\u00e1, muy pocas empresas buscaban contratar talentos de IA, y las que contrataban no buscaban estudiantes de asuntos globales con ocho meses de experiencia en consultor\u00eda. . Mientras solicitaba empleo, comenc\u00e9 a trabajar como voluntario en una organizaci\u00f3n de \u00e9tica de IA.<\/p>\n Uno de los proyectos en los que trabaj\u00e9 mientras era voluntario trataba sobre si deber\u00eda haber protecci\u00f3n de derechos de autor para el arte producido por IA. Me comuniqu\u00e9 con un abogado de un bufete de abogados canadiense de inteligencia artificial para comprender mejor el espacio. Ella me puso en contacto con alguien de CIFAR, quien me puso en contacto con Benjamin Prud’homme, el director ejecutivo del equipo de IA para la Humanidad de Mila. Es sorprendente pensar que a trav\u00e9s de una serie de intercambios sobre el arte de la IA, conoc\u00ed una oportunidad profesional que desde entonces ha transformado mi vida.<\/p>\n \u00bfCu\u00e1les son algunos de los problemas m\u00e1s apremiantes que enfrenta la IA a medida que evoluciona?<\/strong><\/p>\n Tengo tres respuestas a esta pregunta que de alguna manera est\u00e1n interconectadas. Creo que tenemos que averiguar:<\/p>\n \u00bfCu\u00e1les son algunas de las cuestiones que los usuarios de IA deber\u00edan tener en cuenta?<\/strong><\/p>\n La explotaci\u00f3n laboral es uno de los temas que no creo que reciba suficiente cobertura. Existen muchos modelos de IA que aprenden a partir de datos etiquetados utilizando m\u00e9todos de aprendizaje supervisados. Cuando el modelo se basa en datos etiquetados, hay personas que tienen que realizar este etiquetado (es decir, alguien agrega la etiqueta \u00abgato\u00bb a una imagen de un gato). Estas personas (anotadores) suelen ser objeto de pr\u00e1cticas de explotaci\u00f3n. Para los modelos que no requieren que los datos sean etiquetados durante el proceso de entrenamiento (como es el caso de algunos modelos de IA generativa y otros modelos b\u00e1sicos), los conjuntos de datos a\u00fan se pueden construir de forma explotadora, ya que los desarrolladores a menudo no obtienen el consentimiento ni proporcionan compensaci\u00f3n. o cr\u00e9dito a los creadores de los datos.<\/p>\n Recomendar\u00eda ver el trabajo de Krystal Kauffman, a quien me alegr\u00f3 mucho ver en esta serie de TechCrunch. Est\u00e1 avanzando en la defensa de los derechos laborales de los anotadores, incluido un salario digno, el fin de las pr\u00e1cticas de \u201crechazo masivo\u201d y pr\u00e1cticas de participaci\u00f3n que se alineen con los derechos humanos fundamentales (en respuesta a acontecimientos como la vigilancia intrusiva).<\/p>\n \u00bfCu\u00e1l es la mejor manera de construir IA de manera responsable?<\/strong><\/p>\n La gente suele recurrir a los principios \u00e9ticos de la IA para afirmar que su tecnolog\u00eda es responsable. Desafortunadamente, la reflexi\u00f3n \u00e9tica s\u00f3lo puede comenzar despu\u00e9s de que ya se hayan tomado una serie de decisiones, que incluyen, entre otras:<\/p>\n Si espera hasta que se hayan tomado estas decisiones, habr\u00e1 perdido innumerables oportunidades para desarrollar tecnolog\u00eda responsable.<\/p>\n En mi experiencia, la mejor manera de construir una IA responsable es ser consciente, desde las primeras etapas del proceso, de c\u00f3mo se define el problema y a qu\u00e9 intereses satisface; c\u00f3mo la orientaci\u00f3n apoya o desaf\u00eda din\u00e1micas de poder preexistentes; y qu\u00e9 comunidades se ver\u00e1n empoderadas o desempoderadas mediante el uso de la IA.<\/p>\n Si desea crear soluciones significativas, debe navegar cuidadosamente por estos sistemas de poder.<\/p>\n \u00bfC\u00f3mo pueden los inversores impulsar mejor una IA responsable?<\/strong><\/p>\n Pregunta por los valores del equipo. Si los valores son definidos, al menos en parte, por la comunidad local y hay un grado de responsabilidad ante esa comunidad, es m\u00e1s probable que el equipo incorpore pr\u00e1cticas responsables.<\/p>\n<\/p><\/div>\n\n
\n