\n<\/p>\n
Para brindarles a las acad\u00e9micas y a otras personas centradas en la IA su merecido (y esperado) tiempo en el centro de atenci\u00f3n, TechCrunch est\u00e1 lanzando una serie de entrevistas centradas en mujeres notables que han contribuido a la revoluci\u00f3n de la IA. Publicaremos varios art\u00edculos a lo largo del a\u00f1o a medida que contin\u00fae el auge de la IA, destacando trabajos clave que a menudo pasan desapercibidos. Lea m\u00e1s perfiles aqu\u00ed.<\/p>\n
Sandra Wachter es profesora e investigadora principal en \u00e9tica de datos, inteligencia artificial, rob\u00f3tica, algoritmos y regulaci\u00f3n en el Oxford Internet Institute. Tambi\u00e9n fue miembro del Instituto Alan Turing, el instituto nacional de ciencia de datos e inteligencia artificial del Reino Unido.<\/p>\n
Mientras estuvo en el Instituto Turing, Watcher evalu\u00f3 los aspectos \u00e9ticos y legales de la ciencia de datos, destacando casos en los que los algoritmos opacos se han vuelto racistas y sexistas. Tambi\u00e9n busc\u00f3 formas de auditar la IA para abordar la desinformaci\u00f3n y promover la equidad.<\/p>\n
Brevemente, \u00bfc\u00f3mo empezaste en la IA? \u00bfQu\u00e9 te atrajo del campo?<\/strong><\/p>\n No recuerdo un momento de mi vida en el que no pensara que la innovaci\u00f3n y la tecnolog\u00eda tienen un potencial incre\u00edble para mejorar la vida de las personas. Sin embargo, tambi\u00e9n s\u00e9 que la tecnolog\u00eda puede tener consecuencias devastadoras para la vida de las personas. Y por eso siempre me sent\u00ed impulsado (sobre todo debido a mi fuerte sentido de la justicia) a encontrar una manera de garantizar ese perfecto t\u00e9rmino medio. Permitir la innovaci\u00f3n y al mismo tiempo proteger los derechos humanos.<\/p>\n Siempre sent\u00ed que la ley tiene un papel muy importante que desempe\u00f1ar. La ley puede ser ese punto medio que proteja a las personas pero que permita la innovaci\u00f3n. El derecho como disciplina me result\u00f3 muy natural. Me gustan los desaf\u00edos, me gusta entender c\u00f3mo funciona un sistema, ver c\u00f3mo puedo jugar con \u00e9l, encontrar lagunas y posteriormente cerrarlas.<\/p>\n La IA es una fuerza incre\u00edblemente transformadora. Se implementa en finanzas, empleo, justicia penal, inmigraci\u00f3n, salud y arte. Esto puede ser bueno y malo. Y si es bueno o malo es una cuesti\u00f3n de dise\u00f1o y pol\u00edtica. Naturalmente, me atrajo porque sent\u00ed que la ley puede hacer una contribuci\u00f3n significativa para garantizar que la innovaci\u00f3n beneficie a la mayor cantidad de personas posible.<\/p>\n \u00bfDe qu\u00e9 trabajo est\u00e1s m\u00e1s orgulloso (en el campo de la IA)?<\/strong><\/p>\n Creo que el trabajo del que estoy m\u00e1s orgulloso actualmente es un art\u00edculo en coautor\u00eda con Brent Mittelstadt (un fil\u00f3sofo), Chris Russell (un cient\u00edfico inform\u00e1tico) y yo como abogado.<\/p>\n Nuestro \u00faltimo trabajo sobre prejuicios y equidad, \u201cLa injusticia del aprendizaje autom\u00e1tico justo\u201d, revel\u00f3 el impacto da\u00f1ino de aplicar muchas medidas de \u201cjusticia grupal\u201d en la pr\u00e1ctica. Espec\u00edficamente, la justicia se logra \u201cbajando nivel\u201d o empeorando la situaci\u00f3n de todos, en lugar de ayudar a los grupos desfavorecidos. Este enfoque es muy problem\u00e1tico en el contexto de las leyes antidiscriminatorias de la UE y el Reino Unido, adem\u00e1s de ser \u00e9ticamente preocupante. En un art\u00edculo en Wired discutimos cu\u00e1n da\u00f1ino puede ser bajar el nivel en la pr\u00e1ctica: en la atenci\u00f3n m\u00e9dica, por ejemplo, hacer cumplir la equidad grupal podr\u00eda significar pasar por alto m\u00e1s casos de c\u00e1ncer de los estrictamente necesarios y, al mismo tiempo, hacer que un sistema sea menos preciso en general.<\/p>\n Para nosotros, esto fue aterrador y es algo que es importante saber para la gente de tecnolog\u00eda, pol\u00edticas y, en realidad, para todos los seres humanos. De hecho, nos hemos comprometido con los reguladores del Reino Unido y la UE y les hemos compartido nuestros alarmantes resultados. Espero profundamente que esto brinde a los formuladores de pol\u00edticas la influencia necesaria para implementar nuevas pol\u00edticas que impidan que la IA cause da\u00f1os tan graves.<\/p>\n \u00bfC\u00f3mo afrontar los desaf\u00edos de la industria tecnol\u00f3gica dominada por los hombres y, por extensi\u00f3n, de la industria de la inteligencia artificial dominada por los hombres?<\/strong><\/p>\n Lo interesante es que nunca vi la tecnolog\u00eda como algo que \u201cpertenece\u201d a los varones. Reci\u00e9n cuando comenc\u00e9 la escuela la sociedad me dijo que la tecnolog\u00eda no tiene lugar para personas como yo. Todav\u00eda recuerdo que cuando ten\u00eda 10 a\u00f1os, el plan de estudios dictaba que las ni\u00f1as ten\u00edan que tejer y coser mientras los ni\u00f1os constru\u00edan casas para p\u00e1jaros. Tambi\u00e9n quer\u00eda construir una pajarera y solicit\u00e9 que me transfirieran a la clase de ni\u00f1os, pero mis profesores me dijeron que \u201clas ni\u00f1as no hacen eso\u201d. Incluso acud\u00ed al director de la escuela para intentar revocar la decisi\u00f3n, pero lamentablemente fracas\u00e9 en ese momento.<\/p>\n Es muy dif\u00edcil luchar contra un estereotipo que dice que no deber\u00edas ser parte de esta comunidad. Ojal\u00e1 pudiera decir que cosas as\u00ed ya no suceden, pero lamentablemente esto no es cierto.<\/p>\n Sin embargo, he tenido mucha suerte de trabajar con aliados como Brent Mittelstadt y Chris Russell. Tuve el privilegio de contar con mentores incre\u00edbles como mi Ph.D. Supervisor y yo tenemos una red cada vez mayor de personas de todos los g\u00e9neros con ideas afines que est\u00e1n haciendo todo lo posible para marcar el camino a seguir y mejorar la situaci\u00f3n de todos los interesados \u200b\u200ben la tecnolog\u00eda.<\/p>\n \u00bfQu\u00e9 consejo le dar\u00edas a las mujeres que buscan ingresar al campo de la IA?<\/strong><\/p>\n Por encima de todo, trate de encontrar personas y aliados con ideas afines. Encontrar a su gente y apoyarse mutuamente es crucial. Mi trabajo m\u00e1s impactante siempre proviene de hablar con personas de mente abierta de otros or\u00edgenes y disciplinas para resolver problemas comunes que enfrentamos. La sabidur\u00eda aceptada por s\u00ed sola no puede resolver problemas nuevos, por lo que las mujeres y otros grupos que hist\u00f3ricamente han enfrentado barreras para ingresar a la IA y otros campos tecnol\u00f3gicos tienen las herramientas para verdaderamente innovar y ofrecer algo nuevo.<\/p>\n \u00bfCu\u00e1les son algunos de los problemas m\u00e1s apremiantes que enfrenta la IA a medida que evoluciona?<\/strong><\/p>\n Creo que hay una amplia gama de cuestiones que necesitan una seria consideraci\u00f3n jur\u00eddica y pol\u00edtica. Por nombrar algunos, la IA est\u00e1 plagada de datos sesgados que conducen a resultados discriminatorios e injustos. La IA es intr\u00ednsecamente opaca y dif\u00edcil de entender, pero tiene la tarea de decidir qui\u00e9n obtiene un pr\u00e9stamo, qui\u00e9n consigue el trabajo, qui\u00e9n debe ir a prisi\u00f3n y a qui\u00e9n se le permite ir a la universidad.<\/p>\n La IA generativa tiene problemas relacionados, pero tambi\u00e9n contribuye a la desinformaci\u00f3n, est\u00e1 plagada de alucinaciones, viola la protecci\u00f3n de datos y los derechos de propiedad intelectual, pone en riesgo los puestos de trabajo de las personas y contribuye m\u00e1s al cambio clim\u00e1tico que la industria de la aviaci\u00f3n.<\/p>\n No tenemos tiempo que perder; Ten\u00edamos que haber abordado estas cuestiones ayer.<\/p>\n \u00bfCu\u00e1les son algunas de las cuestiones que los usuarios de IA deber\u00edan tener en cuenta?<\/strong><\/p>\n Creo que hay una tendencia a creer en una cierta narrativa del tipo \u201cla IA est\u00e1 aqu\u00ed y aqu\u00ed para quedarse, subirse a bordo o quedarse atr\u00e1s\u201d. Creo que es importante pensar en qui\u00e9n impulsa esta narrativa y qui\u00e9n se beneficia de ella. Es importante recordar d\u00f3nde reside el poder real. El poder no est\u00e1 en quienes innovan, sino en quienes compran e implementan la IA.<\/p>\n Por lo tanto, los consumidores y las empresas deber\u00edan preguntarse: \u00ab\u00bfEsta tecnolog\u00eda realmente me ayuda y en qu\u00e9 sentido?\u00bb Los cepillos de dientes el\u00e9ctricos ahora tienen \u00abIA\u00bb integrada. \u00bfPara quien es esto? \u00bfQui\u00e9n necesita esto? \u00bfQu\u00e9 se est\u00e1 mejorando aqu\u00ed?<\/p>\n En otras palabras, preg\u00fantese qu\u00e9 est\u00e1 roto y qu\u00e9 necesita arreglarse y si la IA realmente puede arreglarlo.<\/p>\n Este tipo de pensamiento cambiar\u00e1 el poder del mercado y es de esperar que la innovaci\u00f3n tome una direcci\u00f3n que se centre en la utilidad para una comunidad en lugar de simplemente en las ganancias.<\/p>\n \u00bfCu\u00e1l es la mejor manera de construir IA de manera responsable?<\/strong><\/p>\n Contar con leyes que exijan una IA responsable. Aqu\u00ed tambi\u00e9n tiende a dominar una narrativa muy in\u00fatil y falsa: que la regulaci\u00f3n sofoca la innovaci\u00f3n. Esto no es verdad. La regulaci\u00f3n sofoca da\u00f1ino<\/em> innovaci\u00f3n. Las buenas leyes fomentan y nutren la innovaci\u00f3n \u00e9tica; Por eso tenemos coches, aviones, trenes y puentes seguros. La sociedad no sale perdiendo si la regulaci\u00f3n impide la Tambi\u00e9n se dijo que las normas de tr\u00e1fico y seguridad para los autom\u00f3viles \u201csofocan la innovaci\u00f3n\u201d y \u201climitan la autonom\u00eda\u201d. Estas leyes impiden que las personas conduzcan sin licencia, impiden que entren al mercado autom\u00f3viles que no tengan cinturones de seguridad y bolsas de aire y castigan a las personas que no conducen de acuerdo con el l\u00edmite de velocidad. Imag\u00ednese c\u00f3mo ser\u00eda el historial de seguridad de la industria automotriz si no tuvi\u00e9ramos leyes para regular los veh\u00edculos y los conductores. La IA se encuentra actualmente en un punto de inflexi\u00f3n similar, y el intenso lobby de la industria y la presi\u00f3n pol\u00edtica hacen que a\u00fan no est\u00e9 claro qu\u00e9 camino tomar\u00e1.<\/p>\n \u00bfC\u00f3mo pueden los inversores impulsar mejor una IA responsable?<\/strong><\/p>\n Hace unos a\u00f1os escrib\u00ed un art\u00edculo titulado \u00abC\u00f3mo la IA justa puede hacernos m\u00e1s ricos\u00bb. Creo profundamente que una IA que respete los derechos humanos y sea imparcial, explicable y sostenible no s\u00f3lo es lo correcto desde el punto de vista legal, \u00e9tico y moral, sino que tambi\u00e9n puede ser rentable.<\/p>\n Realmente espero que los inversores comprendan que si impulsan una investigaci\u00f3n e innovaci\u00f3n responsables, tambi\u00e9n obtendr\u00e1n mejores productos. Los malos datos, los malos algoritmos y las malas elecciones de dise\u00f1o conducen a peores productos. Incluso si no puedo convencerte de que debes hacer lo \u00e9tico porque es lo correcto, espero que veas que lo \u00e9tico tambi\u00e9n es m\u00e1s rentable. La \u00e9tica debe verse como una inversi\u00f3n, no como un obst\u00e1culo que hay que superar.<\/p>\n<\/p><\/div>\n
creaci\u00f3n de IA que viola los derechos humanos.<\/p>\n