\n<\/p>\n
Para brindarles a las acad\u00e9micas y a otras personas centradas en la IA su merecido (y esperado) tiempo en el centro de atenci\u00f3n, TechCrunch est\u00e1 lanzando una serie de entrevistas centradas en mujeres destacadas que han contribuido a la revoluci\u00f3n de la IA. Publicaremos varios art\u00edculos a lo largo del a\u00f1o a medida que contin\u00fae el auge de la IA, destacando trabajos clave que a menudo pasan desapercibidos. Lea m\u00e1s perfiles aqu\u00ed.<\/p>\n
Irene Solaiman comenz\u00f3 su carrera en IA como investigadora y gerente de pol\u00edticas p\u00fablicas en OpenAI, donde lider\u00f3 un nuevo enfoque para el lanzamiento de GPT-2, un predecesor de ChatGPT. Despu\u00e9s de trabajar como gerente de pol\u00edticas de IA en Zillow durante casi un a\u00f1o, se uni\u00f3 a Hugging Face como jefa de pol\u00edticas globales. Sus responsabilidades all\u00ed van desde desarrollar y liderar la pol\u00edtica de IA de la empresa a nivel mundial hasta realizar investigaciones sociot\u00e9cnicas.<\/p>\n
Solaiman tambi\u00e9n asesora al Instituto de Ingenieros El\u00e9ctricos y Electr\u00f3nicos (IEEE), la asociaci\u00f3n profesional de ingenier\u00eda electr\u00f3nica, en cuestiones de IA, y es un reconocido experto en IA en la Organizaci\u00f3n intergubernamental para la Cooperaci\u00f3n y el Desarrollo Econ\u00f3mico (OCDE).<\/p>\n
Una trayectoria profesional completamente no lineal es algo com\u00fan en la IA. Mi incipiente inter\u00e9s comenz\u00f3 de la misma manera que muchos adolescentes con habilidades sociales inc\u00f3modas encuentran sus pasiones: a trav\u00e9s de los medios de ciencia ficci\u00f3n. Originalmente estudi\u00e9 pol\u00edtica de derechos humanos y luego tom\u00e9 cursos de inform\u00e1tica, ya que ve\u00eda la IA como un medio para trabajar en derechos humanos y construir un futuro mejor. Poder realizar investigaciones t\u00e9cnicas y liderar pol\u00edticas en un campo con tantas preguntas sin respuesta y caminos sin recorrer mantiene mi trabajo apasionante.<\/p>\n
Me siento m\u00e1s orgulloso cuando mi experiencia resuena con personas de todo el campo de la IA, especialmente mis escritos sobre consideraciones de lanzamiento en el complejo panorama de los lanzamientos y la apertura de los sistemas de IA. Ver mi art\u00edculo sobre la implementaci\u00f3n t\u00e9cnica del marco de gradiente de liberaci\u00f3n de IA que genera debates entre cient\u00edficos y se utiliza en informes gubernamentales es afirmativo, \u00a1y una buena se\u00f1al de que estoy trabajando en la direcci\u00f3n correcta! Personalmente, parte del trabajo que m\u00e1s me motiva es el de alineaci\u00f3n de valores culturales, que se dedica a garantizar que los sistemas funcionen mejor para las culturas en las que se implementan. Con mi incre\u00edble coautora y ahora querida amiga, Christy Dennison, trabajar en un proceso para adaptar los modelos ling\u00fc\u00edsticos a la sociedad fue un proyecto de gran coraz\u00f3n (y muchas horas de depuraci\u00f3n) que ha dado forma al trabajo de seguridad y alineaci\u00f3n actual.<\/p>\n
He encontrado, y sigo encontrando, a mi gente: desde trabajar con l\u00edderes de empresas incre\u00edbles que se preocupan profundamente por los mismos temas que yo priorizo \u200b\u200bhasta excelentes coautores de investigaciones con quienes puedo comenzar cada sesi\u00f3n de trabajo con una mini sesi\u00f3n de terapia. Los grupos de afinidad son de gran ayuda para crear una comunidad y compartir consejos. Es importante destacar aqu\u00ed la interseccionalidad; Mis comunidades de investigadores musulmanes y BIPOC son continuamente inspiradoras.<\/p>\n
Tenga un grupo de apoyo cuyo \u00e9xito sea su \u00e9xito. En t\u00e9rminos de juventud, creo que \u00e9sta es una \u201cchica de chicas\u201d. Las mismas mujeres y aliadas con las que ingres\u00e9 a este campo son mis citas favoritas para tomar caf\u00e9 y mis llamadas de p\u00e1nico nocturnas antes de una fecha l\u00edmite. Uno de los mejores consejos profesionales que he le\u00eddo fue el de Arvind Narayan en la plataforma anteriormente conocida como Twitter que establece el \u00abPrincipio de Liam Neeson\u00bb de no ser el m\u00e1s inteligente de todos, sino tener un conjunto particular de habilidades.<\/p>\n
Las cuestiones m\u00e1s apremiantes evolucionan, por lo que la metarespuesta es: coordinaci\u00f3n internacional para sistemas m\u00e1s seguros para todos los pueblos. Las personas que utilizan sistemas y se ven afectadas por ellos, incluso en el mismo pa\u00eds, tienen diferentes preferencias e ideas sobre lo que es m\u00e1s seguro para ellos. Y los problemas que surjan depender\u00e1n no s\u00f3lo de c\u00f3mo evolucione la IA, sino tambi\u00e9n del entorno en el que se implemente; Las prioridades de seguridad y nuestras definiciones de capacidad difieren regionalmente, como una mayor amenaza de ataques cibern\u00e9ticos a infraestructuras cr\u00edticas en econom\u00edas m\u00e1s digitalizadas.<\/p>\n
Las soluciones t\u00e9cnicas rara vez, o nunca, abordan los riesgos y da\u00f1os de manera integral. Si bien hay medidas que los usuarios pueden tomar para aumentar su conocimiento de la IA, es importante invertir en una multitud de salvaguardas para los riesgos a medida que evolucionan. Por ejemplo, estoy entusiasmado con una mayor investigaci\u00f3n sobre las marcas de agua como herramienta t\u00e9cnica, y tambi\u00e9n necesitamos orientaci\u00f3n coordinada de los formuladores de pol\u00edticas sobre la distribuci\u00f3n de contenido generado, especialmente en las plataformas de redes sociales.<\/p>\n
Con los pueblos afectados y reevaluando constantemente nuestros m\u00e9todos de evaluaci\u00f3n e implementaci\u00f3n de t\u00e9cnicas de seguridad. Tanto las aplicaciones beneficiosas como los da\u00f1os potenciales evolucionan constantemente y requieren retroalimentaci\u00f3n iterativa. Los medios por los que mejoramos la seguridad de la IA deben examinarse colectivamente como un campo. Las evaluaciones m\u00e1s populares de modelos en 2024 son mucho m\u00e1s s\u00f3lidas que las que realic\u00e9 en 2019. Hoy en d\u00eda, soy mucho m\u00e1s optimista con las evaluaciones t\u00e9cnicas que con el equipo rojo. Considero que las evaluaciones humanas tienen una utilidad extremadamente alta, pero a medida que surgen m\u00e1s pruebas de la carga mental y los costos dispares de la retroalimentaci\u00f3n humana, soy cada vez m\u00e1s optimista en cuanto a estandarizar las evaluaciones.<\/p>\n
\u00a1Ya lo son! Me alegra ver que muchos inversores y empresas de capital de riesgo participan activamente en conversaciones sobre pol\u00edticas y seguridad, incluso a trav\u00e9s de cartas abiertas y testimonios en el Congreso. Estoy ansioso por escuchar m\u00e1s de la experiencia de los inversores sobre lo que estimula a las peque\u00f1as empresas en todos los sectores, especialmente porque estamos viendo un mayor uso de la IA en campos fuera de las industrias tecnol\u00f3gicas centrales.<\/p>\n<\/p><\/div>\n