La Administración Biden reveló el martes una primera de su tipo “Declaración de derechos de la IA” pidiendo a los desarrolladores y legisladores que aborden los problemas de larga data de sesgo algorítmico y discriminación El documento modelo detalla numerosos ejemplos en los que la IA puede afectar negativamente a las comunidades e insta a los desarrolladores a incorporar prácticas equitativas en su filosofía de diseño.
Si bien el plan marca el esfuerzo más importante del gobierno federal para abordar los daños de la IA hasta la fecha, el documento carece de mecanismos de aplicación significativos, dijeron los expertos a Gizmodo. Peor aún, algunos críticos temen que las recetas de políticas puedan normalizar de manera contraproducente los usos dañinos de la IA, particularmente cuando los implementan las fuerzas armadas o las fuerzas del orden. La declaración de derechos, que se enfoca principalmente en el sesgo de los sistemas de inteligencia artificial implementados en el sector privado, en gran medida elude el crecimiento preocupaciones sobre el propio uso del gobierno federal de herramientas de vigilancia de IA.
los Declaración de derechos de la IA como se propuso el martes se basa en cinco protecciones clave. Estos incluyen la capacidad de estar protegido contra sistemas inseguros o ineficaces, protección contra la discriminación algorítmica, privacidad de datos reforzada, avisos de cuándo y cómo se utilizan los sistemas automatizados y la capacidad de los usuarios de optar por no participar en los sistemas y tener acceso a un humano. siendo. La administración de Biden espera que estos principios básicos puedan, en última instancia, ayudar a guiar el «diseño, desarrollo e implementación» de los sistemas de inteligencia artificial.
En esencia, la declaración de derechos de la IA tiene como objetivo improvisar una apariencia de estándares y marcos para ayudar a los legisladores y desarrolladores de IA a abordar las consecuencias sociales negativas de los sistemas automatizados. El documento apunta a un aumento de lugar de trabajo y vigilancia escolarexacerbado sesgo en la vivienday sesgos en algoritmos de contratación como áreas clave donde las herramientas de IA están causando daños en el mundo real. Esos problemas afectan desproporcionadamente a las comunidades de color.
“Las prácticas establecidas en el Plan para una Declaración de Derechos de AI no son solo aspiracionales; son alcanzables y urgentemente necesarios para construir tecnologías y una sociedad que funcione para todos nosotros”, dijo la Dra. Alondra Nelson, subdirectora de ciencia y sociedad de la Oficina de Política Científica y Tecnológica de la Casa Blanca, en un comunicado.
G/O Media puede recibir una comisión
Las recomendaciones de los planos, que no son vinculantes, piden a los desarrolladores de IA que tomen «medidas proactivas y continuas» para proteger a las personas de la discriminación y crear herramientas con una filosofía de equidad integrada desde el principio. El plan condena el uso de «vigilancia y monitoreo continuos» y aboga por una supervisión humana significativa de los sistemas de IA utilizados en áreas críticas como la justicia penal y la atención médica.
Durante una conferencia de prensa, los formuladores de políticas involucrados en la redacción del plan dijeron repetidamente que las protecciones de IA representan una extensión moderna de las protecciones de las libertades civiles. El componente racializado del sesgo algorítmico y la discriminación, dijeron los formuladores de políticas, vincula la declaración de derechos de la IA con la de la Administración Biden. agenda de equidad más amplia.
“Los daños que pueden causar los sistemas automatizados constituyen una nueva frontera de los derechos civiles”, dijo Chiraag Bains, subdirector de Justicia Racial y Económica de la Casa Blanca durante la sesión informativa.
Fabian Rogers, un defensor de la comunidad de Brooklyn, Nueva York, habló durante la sesión informativa y contó una experiencia en la que el propietario intentó implementar un sistema de reconocimiento facial para ingresar a un gran complejo de apartamentos. Si se implementara, los residentes no habrían tenido más remedio que proporcionar un escaneo facial para ingresar a su hogar, un sacrificio que Rogers describió como una «clara violación de los derechos». Él y otros defensores pudieron detener el lanzamiento, pero dijeron que el escenario ilustraba la falta fundamental de protecciones significativas para la gente común.
“Es demasiado fácil para los propietarios implementar tecnología no probada, no regulada e insegura que no queríamos ni solicitamos”, dijo Rogers.
Los legisladores que hablaron el martes dijeron que la declaración de derechos representa la conclusión de una conversación de un año con defensores de la privacidad, periodistas, tecnólogos y miembros de las comunidades afectadas por los sistemas automatizados. Si bien la declaración de derechos es la declaración más clara de los principios de la IA realizada por el gobierno de los EE. UU. hasta la fecha, el extenso documento proporciona poco en términos de la capacidad real de aplicación. El proyecto de ley reafirma muchos de los problemas planteados durante mucho tiempo por los defensores de la privacidad, pero no detalla las vías por las cuales el gobierno federal podría persuadir de manera significativa a los desarrolladores de IA para que actúen de manera responsable. El proyecto de ley apunta al tema de las nuevas legislación federal de datos.
Algunos temen que la declaración de derechos pueda hacer más daño que bien. Los críticos, como el director ejecutivo del Proyecto de Supervisión de Tecnología de Vigilancia (STOP), Albert Fox Cahn, expresaron su preocupación por el plan, aunque bien intencionado, corre el riesgo de normalizar aún más la vigilancia sesgada. Esa normalización, advirtió, podría potencialmente amplificar la discriminación.
“Respeto a la gente de WhiteHouse OSTP [Office of Science and Technology Policy] que trabajó en esto, pero no podría estar más en desacuerdo”, Fox Cahn escribió en Twitter. “Este es un plan para normalizar y acelerar la vigilancia de la IA, no para combatirla. Esto ignora la forma en que la IA alimenta la discriminación y la opresión en el mundo real”.
en un declaraciónSTOP dijo que el documento de la declaración de derechos respalda el uso de los sistemas de inteligencia artificial por parte de las fuerzas del orden público en un momento en que los defensores piden prohibiciones de herramientas de inteligencia artificial particularmente dañinas. Más de una docena de ciudades, incluidas Portland y Boston, han ordenanzas pasadas y legislación que prohíbe los sistemas automatizados como el reconocimiento facial del uso público.
“Cuando la policía y las empresas implementan formas nuevas y destructivas de IA todos los días, debemos hacer una pausa en todos los ámbitos de las tecnologías más invasivas”, dijo Fox Cahn. “Si bien la Casa Blanca apunta a algunos de los peores delincuentes, hace muy poco para abordar las amenazas cotidianas de la IA, particularmente en manos de la policía”.