\n<\/p>\n
Para brindarles a las acad\u00e9micas y a otras personas centradas en la IA su merecido (y esperado) tiempo en el centro de atenci\u00f3n, TechCrunch est\u00e1 lanzando una serie de entrevistas centradas en mujeres notables que han contribuido a la revoluci\u00f3n de la IA. Publicaremos varios art\u00edculos a lo largo del a\u00f1o a medida que contin\u00fae el auge de la IA, destacando trabajos clave que a menudo pasan desapercibidos. Lea m\u00e1s perfiles aqu\u00ed.<\/p>\n
Sarah Kreps es polit\u00f3loga, veterana de la Fuerza A\u00e9rea de EE. UU. y analista especializada en la pol\u00edtica exterior y de defensa de EE. UU. Es profesora de gobierno en la Universidad de Cornell, profesora adjunta de derecho en la Facultad de Derecho de Cornell y acad\u00e9mica adjunta en el Modern War Institute de West Point.<\/p>\n
La investigaci\u00f3n reciente de Kreps explora tanto el potencial como los riesgos de la tecnolog\u00eda de inteligencia artificial como GPT-4 de OpenAI, espec\u00edficamente en la esfera pol\u00edtica. En una columna de opini\u00f3n para The Guardian el a\u00f1o pasado, escribi\u00f3 que, a medida que se invierta m\u00e1s dinero en la IA, la carrera armamentista de la IA no s\u00f3lo entre las empresas sino tambi\u00e9n entre los pa\u00edses se intensificar\u00e1, mientras que el desaf\u00edo pol\u00edtico de la IA se volver\u00e1 m\u00e1s dif\u00edcil.<\/p>\n
Brevemente, \u00bfc\u00f3mo empezaste en la IA? \u00bfQu\u00e9 te atrajo del campo?<\/strong><\/p>\n Comenc\u00e9 en el \u00e1rea de tecnolog\u00edas emergentes con implicaciones para la seguridad nacional. Yo era oficial de la Fuerza A\u00e9rea en el momento en que se despleg\u00f3 el dron Predator y hab\u00eda estado involucrado en sistemas avanzados de radar y sat\u00e9lite. Hab\u00eda pasado cuatro a\u00f1os trabajando en este espacio, por lo que era natural que, como doctor, estuviera interesado en estudiar las implicaciones de las tecnolog\u00edas emergentes para la seguridad nacional. Primero escrib\u00ed sobre drones, y el debate sobre los drones avanzaba hacia cuestiones de autonom\u00eda, lo que por supuesto implica inteligencia artificial.<\/p>\n En 2018, estuve en un taller de inteligencia artificial en un grupo de expertos de DC y OpenAI hizo una presentaci\u00f3n sobre esta nueva capacidad GPT-2 que hab\u00edan desarrollado. Acab\u00e1bamos de pasar por las elecciones de 2016 y la interferencia electoral extranjera, que hab\u00eda sido relativamente f\u00e1cil de detectar debido a peque\u00f1os detalles como errores gramaticales de hablantes no nativos de ingl\u00e9s, el tipo de errores que no eran sorprendentes dado que la interferencia hab\u00eda venido del Agencia de Investigaci\u00f3n de Internet respaldada por Rusia. Cuando OpenAI hizo esta presentaci\u00f3n, inmediatamente me preocup\u00e9 por la posibilidad de generar desinformaci\u00f3n cre\u00edble a escala y luego, mediante microtargeting, manipular la psicolog\u00eda de los votantes estadounidenses de maneras mucho m\u00e1s efectivas de lo que hab\u00eda sido posible cuando estas personas intentaban escribir contenido a mano. , donde la escala siempre iba a ser un problema.<\/p>\n Me acerqu\u00e9 a OpenAI y me convert\u00ed en uno de los primeros colaboradores acad\u00e9micos en su estrategia de lanzamiento por etapas. Mi investigaci\u00f3n particular tuvo como objetivo investigar el posible caso de uso indebido: si GPT-2 y posteriormente GPT-3 eran cre\u00edbles como generadores de contenido pol\u00edtico. En una serie de experimentos, evalu\u00e9 si el p\u00fablico ver\u00eda este contenido como cre\u00edble, pero luego tambi\u00e9n realic\u00e9 un gran experimento de campo en el que gener\u00e9 \u201ccartas de distrito electoral\u201d que aleatoric\u00e9 con cartas de distrito electoral reales para ver si los legisladores responder\u00edan al mismo ritmo a saber si podr\u00edan ser enga\u00f1ados, si actores malintencionados podr\u00edan dar forma a la agenda legislativa con una campa\u00f1a de env\u00edo de cartas a gran escala.<\/p>\n Estas preguntas tocaron el coraz\u00f3n de lo que significa ser una democracia soberana y conclu\u00ed inequ\u00edvocamente que estas nuevas tecnolog\u00edas representaban nuevas amenazas a nuestra democracia.<\/p>\n \u00bfDe qu\u00e9 trabajo est\u00e1s m\u00e1s orgulloso (en el campo de la IA)?<\/strong><\/p>\n Estoy muy orgulloso del experimento de campo que realic\u00e9. Nadie hab\u00eda hecho nada remotamente similar y fuimos los primeros en mostrar el potencial disruptivo en el contexto de una agenda legislativa.<\/p>\n Pero tambi\u00e9n estoy orgulloso de las herramientas que lamentablemente nunca saqu\u00e9 al mercado. Trabaj\u00e9 con varios estudiantes de inform\u00e1tica en Cornell para desarrollar una aplicaci\u00f3n que procesara los correos electr\u00f3nicos entrantes legislativos y los ayudara a responder a los electores de manera significativa. Est\u00e1bamos trabajando en esto antes de ChatGPT y us\u00e1bamos IA para digerir el gran volumen de correos electr\u00f3nicos y brindar asistencia de IA para el personal con poco tiempo que se comunica con personas en su distrito o estado. Pens\u00e9 que estas herramientas eran importantes debido al descontento de los electores con la pol\u00edtica, pero tambi\u00e9n a las crecientes demandas de tiempo de los legisladores. Desarrollar la IA en estas formas de inter\u00e9s p\u00fablico parec\u00eda una contribuci\u00f3n valiosa y un trabajo interdisciplinario interesante para los polit\u00f3logos e inform\u00e1ticos. Llevamos a cabo una serie de experimentos para evaluar las preguntas de comportamiento sobre c\u00f3mo se sentir\u00edan las personas si una IA les respondiera y concluimos que tal vez la sociedad no estaba preparada para algo como esto. Pero unos meses despu\u00e9s de que lo desconect\u00e1ramos, ChatGPT entr\u00f3 en escena y la IA es tan omnipresente que casi me pregunto c\u00f3mo es que alguna vez nos preocupamos si esto era \u00e9ticamente dudoso o leg\u00edtimo. Pero todav\u00eda siento que es correcto que hici\u00e9ramos preguntas \u00e9ticas dif\u00edciles sobre el caso de uso leg\u00edtimo.<\/p>\n \u00bfC\u00f3mo afrontar los desaf\u00edos de la industria tecnol\u00f3gica dominada por los hombres y, por extensi\u00f3n, de la industria de la inteligencia artificial dominada por los hombres?<\/strong><\/p>\n Como investigador, no he sentido esos desaf\u00edos de manera tan aguda. Estaba en el \u00c1rea de la Bah\u00eda y todos los tipos literalmente daban sus discursos en el ascensor del hotel, un clich\u00e9 que pude considerar intimidante. Recomendar\u00eda que encuentren mentores (hombres y mujeres), desarrollen habilidades y dejen que esas habilidades hablen por s\u00ed mismas, asuman desaf\u00edos y se mantengan resilientes.<\/p>\n \u00bfQu\u00e9 consejo le dar\u00edas a las mujeres que buscan ingresar al campo de la IA?<\/strong><\/p>\n Creo que hay muchas oportunidades para las mujeres: necesitan desarrollar habilidades y tener confianza para prosperar.<\/p>\n \u00bfCu\u00e1les son algunos de los problemas m\u00e1s apremiantes que enfrenta la IA a medida que evoluciona?<\/strong><\/p>\n Me preocupa que la comunidad de IA haya desarrollado tantas iniciativas de investigaci\u00f3n que se centran en cosas como la \u201csuperalineaci\u00f3n\u201d que oscurecen las preguntas m\u00e1s profundas (o en realidad correctas) sobre los valores de qui\u00e9n o con qu\u00e9 valores estamos tratando de alinear la IA. El problem\u00e1tico lanzamiento de Google Gemini mostr\u00f3 la caricatura que puede surgir al alinearse con un conjunto limitado de valores de los desarrolladores de maneras que en realidad condujeron a imprecisiones hist\u00f3ricas (casi) rid\u00edculas en sus resultados. Creo que los valores de esos desarrolladores eran de buena fe, pero revelaron el hecho de que estos grandes modelos de lenguaje est\u00e1n siendo programados con un conjunto particular de valores que moldear\u00e1n la forma en que la gente piensa sobre la pol\u00edtica, las relaciones sociales y una variedad de temas delicados. Esas cuestiones no son del tipo de riesgo existencial, pero crean el tejido de la sociedad y confieren un poder considerable a las grandes empresas (por ejemplo, OpenAI, Google, Meta, etc.) que son responsables de esos modelos.<\/p>\n \u00bfCu\u00e1les son algunas de las cuestiones que los usuarios de IA deber\u00edan tener en cuenta?<\/strong><\/p>\n A medida que la IA se vuelve omnipresente, creo que hemos entrado en un mundo en el que \u201cconfiar pero verificar\u201d. Es nihilista no creer en nada, pero hay una gran cantidad de contenido generado por IA y los usuarios realmente deben ser prudentes en t\u00e9rminos de aquello en lo que conf\u00edan instintivamente. Es bueno buscar fuentes alternativas para verificar la autenticidad antes de asumir que todo es exacto. Pero creo que eso ya lo aprendimos con las redes sociales y la desinformaci\u00f3n.<\/p>\n \u00bfCu\u00e1l es la mejor manera de construir IA de manera responsable?<\/strong><\/p>\n Recientemente escrib\u00ed un art\u00edculo para el Bulletin of the Atomic Scientists, que comenz\u00f3 cubriendo armas nucleares pero se ha adaptado para abordar tecnolog\u00edas disruptivas como la IA. Hab\u00eda estado pensando en c\u00f3mo los cient\u00edficos podr\u00edan ser mejores administradores p\u00fablicos y quer\u00eda conectar algunos de los casos hist\u00f3ricos que hab\u00eda estado analizando para un proyecto de libro. No solo describo una serie de pasos que respaldar\u00eda para el desarrollo responsable, sino que tambi\u00e9n explico por qu\u00e9 algunas de las preguntas que hacen los desarrolladores de IA son incorrectas, incompletas o equivocadas.<\/p>\n<\/p><\/div>\n