El año pasado, el La Oficina de Política Científica y Tecnológica de la Casa Blanca anunció que Estados Unidos necesitaba una declaración de derechos para la era de los algoritmos. Los daños de la inteligencia artificial impactan desproporcionadamente a las comunidades marginadas, escribieron el director y el subdirector de la oficina en un artículo de opinión de WIRED, por lo que se necesitaba la orientación del gobierno para proteger a las personas contra la IA discriminatoria o ineficaz.
Hoy, la OSTP publicó el Plan para una Declaración de derechos de IA, después de recopilar información de empresas como Microsoft y Palantir, así como de nuevas empresas de auditoría de IA, grupos de derechos humanos y el público en general. Sus cinco principios establecen que las personas tienen derecho a controlar cómo se utilizan sus datos, optar por no participar en la toma de decisiones automatizada, vivir libres de algoritmos ineficaces o inseguros, saber cuándo la IA está tomando una decisión sobre ellos y no ser discriminados por algoritmos injustos.
“Las tecnologías van y vienen, pero las libertades fundamentales, los derechos, las oportunidades y el acceso deben mantenerse abiertos, y es trabajo del gobierno ayudar a garantizar que ese sea el caso”, dijo a WIRED Alondra Nelson, subdirectora de ciencia y sociedad de OSTP. “Esta es la Casa Blanca diciendo que los trabajadores, estudiantes, consumidores, comunidades, todos en este país deben esperar y exigir algo mejor de nuestras tecnologías”.
Sin embargo, a diferencia de la más conocida Declaración de Derechos de EE. UU., que comprende las primeras diez enmiendas a la constitución, la versión AI no tendrá fuerza de ley: es un libro blanco no vinculante.
El plan de la Casa Blanca para los derechos de la IA está dirigido principalmente al gobierno federal. Cambiará la forma en que se usan los algoritmos solo si dirige la forma en que las agencias gubernamentales adquieren e implementan la tecnología de IA, o ayuda a los padres, trabajadores, legisladores o diseñadores a hacer preguntas difíciles sobre los sistemas de IA. No tiene poder sobre las grandes empresas de tecnología que posiblemente tienen el mayor poder para dar forma al despliegue de aprendizaje automático y tecnología de IA.
El documento publicado hoy se asemeja a la avalancha de principios éticos de IA publicados por empresas, organizaciones sin fines de lucro, gobiernos democráticos e incluso la iglesia católica en los últimos años. Sus principios suelen ser direccionalmente correctos, utilizando palabras como transparencia, explicabilidad y confianza, pero carecen de fuerza y son demasiado vagos para marcar una diferencia en la vida cotidiana de las personas.
Nelson de OSTP dice que el Plan para una Declaración de Derechos de IA difiere de las recitaciones anteriores de los principios de IA porque está destinado a traducirse directamente en la práctica. El año pasado de sesiones de escucha tenía la intención de llevar el proyecto más allá de los caprichos, dice Nelson. “Nosotros también entendemos que los principios no son suficientes”, dice Nelson. “Esto es realmente solo un pago inicial. Es solo el comienzo y el comienzo”.
La OSTP recibió correos electrónicos de unas 150 personas sobre su proyecto y escuchó de unas 130 personas, empresas y organizaciones adicionales que respondieron a una solicitud de información a principios de este año. El plan final tiene por objeto proteger a las personas de la discriminación por motivos de raza, religión, edad o cualquier otra clase de personas protegidas por la ley. Extiende la definición de sexo para incluir «embarazo, parto y condiciones médicas relacionadas», un cambio realizado en respuesta a las preocupaciones del público sobre la privacidad de los datos de aborto.