\n<\/p>\n
De hecho, lo que hemos descrito aqu\u00ed es en realidad el mejor de los casos, en el que es posible hacer cumplir la equidad haciendo cambios simples que afectan el desempe\u00f1o de cada grupo. En la pr\u00e1ctica, los algoritmos de equidad pueden comportarse de manera mucho m\u00e1s radical e impredecible. Esta encuesta encontr\u00f3 que, en promedio, la mayor\u00eda de los algoritmos en visi\u00f3n por computadora mejoraron la equidad al da\u00f1ar a todos los grupos, por ejemplo, al disminuir la memoria y la precisi\u00f3n. A diferencia de nuestra hip\u00f3tesis, en la que hemos disminuido el da\u00f1o sufrido por un grupo, es posible que nivelar hacia abajo pueda hacer que todos empeoren directamente. <\/p>\n
Carreras de nivelaci\u00f3n<\/span> en contra de los objetivos de equidad algor\u00edtmica y objetivos m\u00e1s amplios de igualdad en la sociedad: mejorar los resultados de los grupos hist\u00f3ricamente desfavorecidos o marginados. Reducir el rendimiento de los grupos de alto rendimiento evidentemente no beneficia a los grupos de peor rendimiento. Adem\u00e1s, nivelar hacia abajo puede da\u00f1ar directamente a los grupos hist\u00f3ricamente desfavorecidos. La elecci\u00f3n de eliminar un beneficio en lugar de compartirlo con otros muestra una falta de preocupaci\u00f3n, solidaridad y voluntad de aprovechar la oportunidad para solucionar el problema. Estigmatiza a los grupos hist\u00f3ricamente desfavorecidos y solidifica la separaci\u00f3n y la desigualdad social que condujo a un problema en primer lugar.<\/p>\n Cuando construimos sistemas de IA para tomar decisiones sobre la vida de las personas, nuestras decisiones de dise\u00f1o codifican juicios de valor impl\u00edcitos sobre lo que se debe priorizar. Nivelar hacia abajo es una consecuencia de la elecci\u00f3n de medir y corregir la equidad \u00fanicamente en t\u00e9rminos de disparidad entre grupos, mientras se ignora la utilidad, el bienestar, la prioridad y otros bienes que son fundamentales para las cuestiones de igualdad en el mundo real. No es el destino inevitable de la justicia algor\u00edtmica; m\u00e1s bien, es el resultado de tomar el camino de menor resistencia matem\u00e1tica, y no por razones sociales, legales o \u00e9ticas generales. <\/p>\n Para avanzar tenemos tres opciones: <\/p>\n \u2022 Podemos continuar implementando sistemas sesgados que ostensiblemente benefician solo a un segmento privilegiado de la poblaci\u00f3n mientras da\u00f1an severamente a otros. Creemos que subir de nivel es el \u00fanico camino a seguir moral, \u00e9tica y legalmente aceptable. El desaf\u00edo para el futuro de la equidad en la IA es crear sistemas que sean sustancialmente justos, no solo procesalmente justos a trav\u00e9s de la nivelaci\u00f3n. Subir de nivel es un desaf\u00edo m\u00e1s complejo: debe combinarse con pasos activos para erradicar las causas reales de los sesgos en los sistemas de IA. Las soluciones t\u00e9cnicas a menudo son solo una curita para lidiar con un sistema roto. Mejorar el acceso a la atenci\u00f3n m\u00e9dica, seleccionar conjuntos de datos m\u00e1s diversos y desarrollar herramientas que aborden espec\u00edficamente los problemas que enfrentan las comunidades hist\u00f3ricamente desfavorecidas puede ayudar a que la equidad sustantiva sea una realidad.<\/p>\n Este es un desaf\u00edo mucho m\u00e1s complejo que simplemente ajustar un sistema para hacer que dos n\u00fameros sean iguales entre grupos. Puede requerir no solo una innovaci\u00f3n tecnol\u00f3gica y metodol\u00f3gica significativa, incluido el redise\u00f1o de los sistemas de IA desde cero, sino tambi\u00e9n cambios sociales sustanciales en \u00e1reas como el acceso y los gastos de atenci\u00f3n m\u00e9dica. <\/p>\n Por dif\u00edcil que sea, este reenfoque en la \u201cIA justa\u201d es esencial. Los sistemas de IA toman decisiones que cambian la vida. Las elecciones sobre c\u00f3mo deber\u00edan ser justos y para qui\u00e9n son demasiado importantes para tratar la justicia como un simple problema matem\u00e1tico que hay que resolver. Este es el statu quo que ha resultado en m\u00e9todos justos que logran la igualdad a trav\u00e9s de la nivelaci\u00f3n hacia abajo. Hasta ahora, hemos creado m\u00e9todos que son matem\u00e1ticamente justos, pero que no pueden y no benefician demostrablemente a los grupos desfavorecidos. <\/p>\n Esto no es suficiente. Las herramientas existentes se tratan como una soluci\u00f3n a la equidad algor\u00edtmica, pero hasta ahora no cumplen su promesa. Sus efectos moralmente turbios hacen que sea menos probable que se utilicen y pueden estar retrasando las soluciones reales a estos problemas. Lo que necesitamos son sistemas que sean justos al subir de nivel, que ayuden a los grupos con peor desempe\u00f1o sin da\u00f1ar arbitrariamente a otros. Este es el desaf\u00edo que ahora debemos resolver. Necesitamos una IA que sea sustantivamente, no solo matem\u00e1ticamente, justa. <\/p>\n<\/div>\n
\u2022 Podemos seguir definiendo la equidad en t\u00e9rminos matem\u00e1ticos formalistas y desplegar IA que sea menos precisa para todos los grupos y da\u00f1ina para algunos grupos.
\u2022 Podemos tomar medidas y lograr la equidad a trav\u00e9s de \u00absubir de nivel\u00bb. <\/p>\n