\n<\/p>\n
Para brindarles a las acad\u00e9micas y a otras personas centradas en la IA su merecido (y esperado) tiempo en el centro de atenci\u00f3n, TechCrunch est\u00e1 lanzando una serie de entrevistas centradas en mujeres notables que han contribuido a la revoluci\u00f3n de la IA. Publicaremos varios art\u00edculos a lo largo del a\u00f1o a medida que contin\u00fae el auge de la IA, destacando trabajos clave que a menudo pasan desapercibidos. Lea m\u00e1s perfiles aqu\u00ed.<\/p>\n
Urvashi Aneja es el director fundador de Digital Futures Lab, un esfuerzo de investigaci\u00f3n interdisciplinario que busca examinar la interacci\u00f3n entre la tecnolog\u00eda y la sociedad en el Sur Global. Tambi\u00e9n es miembro asociado del programa Asia Pac\u00edfico de Chatham House, un instituto de pol\u00edticas independiente con sede en Londres.<\/p>\n
La investigaci\u00f3n actual de Aneja se centra en el impacto social de los sistemas algor\u00edtmicos de toma de decisiones en la India, donde reside, y en la gobernanza de la plataforma. Aneja fue autora recientemente de un estudio sobre los usos actuales de la IA en la India, en el que revisa casos de uso en sectores como la polic\u00eda y la agricultura.<\/p>\n
Brevemente, \u00bfc\u00f3mo empezaste en la IA? \u00bfQu\u00e9 te atrajo del campo?<\/strong><\/p>\n Comenc\u00e9 mi carrera en investigaci\u00f3n y participaci\u00f3n pol\u00edtica en el sector humanitario. Durante varios a\u00f1os, estudi\u00e9 el uso de tecnolog\u00edas digitales en crisis prolongadas en contextos de bajos recursos. R\u00e1pidamente aprend\u00ed que existe una delgada l\u00ednea entre la innovaci\u00f3n y la experimentaci\u00f3n, particularmente cuando se trata de poblaciones vulnerables. Los aprendizajes de esta experiencia hicieron que me preocupara profundamente las narrativas tecno-solucionistas en torno al potencial de las tecnolog\u00edas digitales, en particular la IA. Al mismo tiempo, India hab\u00eda lanzado su misi\u00f3n India Digital y su Estrategia Nacional para la Inteligencia Artificial. Me preocuparon las narrativas dominantes que ve\u00edan la IA como una soluci\u00f3n milagrosa para los complejos problemas socioecon\u00f3micos de la India, y la total falta de discurso cr\u00edtico sobre el tema.<\/p>\n \u00bfDe qu\u00e9 trabajo est\u00e1s m\u00e1s orgulloso (en el campo de la IA)?<\/strong><\/p>\n Estoy orgulloso de haber podido llamar la atenci\u00f3n sobre la econom\u00eda pol\u00edtica de la producci\u00f3n de IA, as\u00ed como sobre implicaciones m\u00e1s amplias para la justicia social, las relaciones laborales y la sostenibilidad ambiental. Muy a menudo, las narrativas sobre la IA se centran en los beneficios de aplicaciones espec\u00edficas y, en el mejor de los casos, en los beneficios y riesgos de esa aplicaci\u00f3n. Pero esto pasa por alto el bosque por los \u00e1rboles: una lente orientada al producto oscurece los impactos estructurales m\u00e1s amplios, como la contribuci\u00f3n de la IA a la injusticia epist\u00e9mica, la descalificaci\u00f3n de la mano de obra y la perpetuaci\u00f3n de un poder irresponsable en el mundo mayoritario. Tambi\u00e9n estoy orgulloso de que hayamos podido traducir estas preocupaciones en pol\u00edticas y regulaciones concretas, ya sea dise\u00f1ando pautas de adquisici\u00f3n para el uso de la IA en el sector p\u00fablico o entregando evidencia en procedimientos legales contra las grandes empresas tecnol\u00f3gicas en el Sur Global.<\/p>\n \u00bfC\u00f3mo afrontar los desaf\u00edos de la industria tecnol\u00f3gica dominada por los hombres y, por extensi\u00f3n, de la industria de la inteligencia artificial dominada por los hombres?<\/strong><\/p>\n Dejando que mi trabajo hable por s\u00ed solo. Y preguntando constantemente: \u00bfpor qu\u00e9?<\/p>\n \u00bfQu\u00e9 consejo le dar\u00edas a las mujeres que buscan ingresar al campo de la IA?<\/strong><\/p>\n Desarrolla tus conocimientos y experiencia. Aseg\u00farese de que su comprensi\u00f3n t\u00e9cnica de los problemas sea s\u00f3lida, pero no se centre \u00fanicamente en la IA. En su lugar, estudie ampliamente para poder establecer conexiones entre campos y disciplinas. No hay suficientes personas que comprendan la IA como un sistema sociot\u00e9cnico producto de la historia y la cultura.<\/p>\n \u00bfCu\u00e1les son algunos de los problemas m\u00e1s apremiantes que enfrenta la IA a medida que evoluciona?<\/strong><\/p>\n Creo que el problema m\u00e1s apremiante es la concentraci\u00f3n de poder dentro de un pu\u00f1ado de empresas de tecnolog\u00eda. Si bien no es nuevo, este problema se ve exacerbado por los nuevos desarrollos en grandes modelos de lenguaje y la IA generativa. Muchas de estas empresas ahora est\u00e1n avivando los temores sobre los riesgos existenciales de la IA. Esto no s\u00f3lo es una distracci\u00f3n de los da\u00f1os existentes, sino que tambi\u00e9n posiciona a estas empresas como necesarias para abordar los da\u00f1os relacionados con la IA. En muchos sentidos, estamos perdiendo parte del impulso del \u201clatigazo tecnol\u00f3gico\u201d que surgi\u00f3 tras el episodio de Cambridge Analytica. En lugares como India, tambi\u00e9n me preocupa que la IA se est\u00e9 posicionando como necesaria para el desarrollo socioecon\u00f3mico, presentando una oportunidad para superar desaf\u00edos persistentes. Esto no s\u00f3lo exagera el potencial de la IA, sino que tambi\u00e9n ignora el hecho de que no es posible saltarse el desarrollo institucional necesario para desarrollar salvaguardias. Otro tema que no estamos considerando con la suficiente seriedad son los impactos ambientales de la IA: es probable que la trayectoria actual sea insostenible. En el ecosistema actual, es poco probable que los m\u00e1s vulnerables a los impactos del cambio clim\u00e1tico sean los beneficiarios de la innovaci\u00f3n en IA.<\/p>\n \u00bfCu\u00e1les son algunas de las cuestiones que los usuarios de IA deber\u00edan tener en cuenta?<\/strong><\/p>\n Los usuarios deben ser conscientes de que la IA no es magia ni nada parecido a la inteligencia humana. Es una forma de estad\u00edstica computacional que tiene muchos usos beneficiosos, pero en \u00faltima instancia es s\u00f3lo una suposici\u00f3n probabil\u00edstica basada en patrones hist\u00f3ricos o previos. Estoy seguro de que hay varios otros problemas que los usuarios tambi\u00e9n deben tener en cuenta, pero quiero advertir que debemos tener cuidado con los intentos de trasladar la responsabilidad a los usuarios. Veo esto m\u00e1s recientemente con el uso de herramientas de IA generativa en contextos de bajos recursos en la mayor\u00eda del mundo: en lugar de ser cautelosos con estas tecnolog\u00edas experimentales y poco confiables, el enfoque a menudo cambia a c\u00f3mo los usuarios finales, como los agricultores o los trabajadores de primera l\u00ednea. Los trabajadores de la salud necesitan mejorar sus habilidades.<\/p>\n \u00bfCu\u00e1l es la mejor manera de construir IA de manera responsable?<\/strong><\/p>\n Esto debe comenzar con la evaluaci\u00f3n de la necesidad de IA en primer lugar. \u00bfExiste alg\u00fan problema que la IA pueda resolver de forma \u00fanica o son posibles otros medios? Y si vamos a construir IA, \u00bfes necesario un modelo complejo de caja negra, o podr\u00eda funcionar igual de bien un modelo m\u00e1s simple basado en la l\u00f3gica? Tambi\u00e9n necesitamos volver a centrar el conocimiento del dominio en la construcci\u00f3n de la IA. En la obsesi\u00f3n por los grandes datos, hemos sacrificado la teor\u00eda: necesitamos construir una teor\u00eda del cambio basada en el conocimiento del dominio y esta deber\u00eda ser la base de los modelos que estamos construyendo, no solo los grandes datos. Por supuesto, esto se suma a cuestiones clave como la participaci\u00f3n, los equipos inclusivos, los derechos laborales, etc.<\/p>\n \u00bfC\u00f3mo pueden los inversores impulsar mejor una IA responsable?<\/strong><\/p>\n Los inversores deben considerar todo el ciclo de vida de la producci\u00f3n de IA, no solo los resultados de las aplicaciones de IA. Esto requerir\u00eda examinar una serie de cuestiones tales como si el trabajo se valora justamente, los impactos ambientales, el modelo de negocio de la empresa (es decir, \u00bfse basa en la vigilancia comercial?) y las medidas internas de rendici\u00f3n de cuentas dentro de la empresa. Los inversores tambi\u00e9n deben pedir pruebas mejores y m\u00e1s rigurosas sobre los supuestos beneficios de la IA.<\/p>\n<\/p><\/div>\n