Los tuits de Sam Altman<\/a> muestran que la compa\u00f1\u00eda est\u00e1 contratando a una gran cantidad de ingenieros de aprendizaje autom\u00e1tico y cient\u00edficos inform\u00e1ticos porque \u00abChatGPT tiene una hoja de ruta ambiciosa y est\u00e1 obstaculizada por la ingenier\u00eda\u00bb.<\/p>\n\u00bfEst\u00e1n estos inform\u00e1ticos e ingenieros equipados para tomar decisiones que, como ha dicho OpenAI, \u201crequerir\u00e1n mucha m\u00e1s cautela de la que la sociedad suele aplicar a las nuevas tecnolog\u00edas\u201d?<\/p>\n
Las empresas de tecnolog\u00eda deben contratar equipos multidisciplinarios que incluyan cient\u00edficos sociales que comprendan los impactos humanos y sociales de la tecnolog\u00eda. Con una variedad de perspectivas sobre c\u00f3mo entrenar aplicaciones de IA e implementar par\u00e1metros de seguridad, las empresas pueden articular un razonamiento transparente para sus decisiones. Esto puede, a su vez, impulsar la percepci\u00f3n del p\u00fablico de la tecnolog\u00eda como neutral y confiable.<\/p>\n
Incluir perspectivas externas<\/h2>\n
Otro elemento de la justicia procesal es dar a las personas la oportunidad de participar en un proceso de toma de decisiones. En una publicaci\u00f3n de blog reciente sobre c\u00f3mo OpenAI est\u00e1 abordando el sesgo, la compa\u00f1\u00eda dijo que busca \u00abinformaci\u00f3n externa sobre nuestra tecnolog\u00eda\u00bb que apunta a un ejercicio de equipo rojo reciente, un proceso de evaluaci\u00f3n de riesgos a trav\u00e9s de un enfoque contradictorio.<\/p>\n
Si bien la formaci\u00f3n de equipos rojos es un proceso importante para evaluar el riesgo, debe incluir informaci\u00f3n externa. En el ejercicio de equipo rojo de OpenAI, 82 de los 103 participantes eran empleados. De los 23 participantes restantes, la mayor\u00eda eran acad\u00e9micos de inform\u00e1tica de universidades predominantemente occidentales. Para obtener diversos puntos de vista, las empresas deben mirar m\u00e1s all\u00e1 de sus propios empleados, disciplinas y geograf\u00eda.<\/p>\n
Tambi\u00e9n pueden permitir una retroalimentaci\u00f3n m\u00e1s directa en los productos de IA al proporcionar a los usuarios mayores controles sobre el rendimiento de la IA. Tambi\u00e9n podr\u00edan considerar brindar oportunidades para comentarios p\u00fablicos sobre nuevas pol\u00edticas o cambios en los productos.<\/p>\n
Garantizar la transparencia<\/h2>\n
Las empresas deben garantizar que todas las reglas y los procesos de seguridad relacionados sean transparentes y transmitan motivos confiables sobre c\u00f3mo se tomaron las decisiones. Por ejemplo, es importante proporcionar al p\u00fablico informaci\u00f3n sobre c\u00f3mo se entrenan las aplicaciones, de d\u00f3nde se extraen los datos, qu\u00e9 papel tienen los humanos en el proceso de entrenamiento y qu\u00e9 capas de seguridad existen para minimizar el mal uso.<\/p>\n
Permitir que los investigadores auditen y comprendan los modelos de IA es clave para generar confianza.<\/p>\n
Altman acert\u00f3 en una entrevista reciente de ABC News cuando dijo: \u00abCreo que la sociedad tiene una cantidad limitada de tiempo para descubrir c\u00f3mo reaccionar ante eso, c\u00f3mo regularlo, c\u00f3mo manejarlo\u00bb.<\/p>\n
A trav\u00e9s de un enfoque de justicia procesal, en lugar de la opacidad y la fe ciega del enfoque de los predecesores tecnol\u00f3gicos, las empresas que construyen plataformas de IA pueden involucrar a la sociedad en el proceso y ganar, no exigir, confianza y legitimidad.<\/p>\n<\/p><\/div>\n