La Casa Blanca dio a conocer esta mañana lo que coloquialmente llama una «Declaración de derechos de IA», que tiene como objetivo establecer principios sobre las formas en que se deben implementar los algoritmos de IA, así como las medidas de seguridad en sus aplicaciones. En cinco viñetas elaboradas con comentarios del público, empresas como Microsoft y Palantir y grupos de derechos humanos y ética de la IA, el documento establece los principios de seguridad, transparencia y privacidad que la Oficina de Política Científica y Tecnológica (OSTP, por sus siglas en inglés), que redactó el borrador de la IA. Declaración de derechos: argumenta que conducirá a mejores resultados mientras mitiga las consecuencias dañinas de la vida real.
La Declaración de derechos de IA exige que los sistemas de IA demuestren ser seguros y efectivos mediante pruebas y consultas con las partes interesadas, además del monitoreo continuo de los sistemas en producción. Llama explícitamente a la discriminación algorítmica, diciendo que los sistemas de IA deben diseñarse para proteger tanto a las comunidades como a las personas de la toma de decisiones sesgada. Y sugiere encarecidamente que los usuarios deberían poder optar por no participar en las interacciones con un sistema de IA si así lo desean, por ejemplo, en caso de una falla del sistema.
Más allá de esto, el plan propuesto por la Casa Blanca postula que los usuarios deben tener control sobre cómo se utilizan sus datos, ya sea en la toma de decisiones o el desarrollo de un sistema de IA, y ser informados en un lenguaje sencillo sobre cuándo se utiliza un sistema automatizado en un lenguaje sencillo.
Para los puntos de OSTP, la historia reciente está llena de ejemplos de algoritmos que se han vuelto locos. Posteriormente se descubrió que los modelos utilizados en los hospitales para informar los tratamientos de los pacientes eran discriminatorios, mientras que se demostró que las herramientas de contratación diseñadas para descartar candidatos para puestos de trabajo rechazan predominantemente a las mujeres solicitantes en favor de los hombres, debido a los datos sobre los que se entrenaron los sistemas. Sin embargo, como señalan Axios y Wired en su cobertura de la prensa de hoy, la Casa Blanca llega tarde a la fiesta; un número creciente de organismos ya han intervenido sobre el tema de la regulación de la IA, incluida la UE e incluso el Vaticano.
También es completamente voluntario. Mientras que la Casa Blanca busca “predicar con el ejemplo” y hacer que las agencias federales se alineen con sus propias acciones y políticas derivadas, las corporaciones privadas no están sujetas a la Declaración de Derechos de AI.
Junto con el lanzamiento de la Declaración de Derechos de AI, la Casa Blanca anunció que ciertas agencias, incluido el Departamento de Salud y Servicios Humanos y el Departamento de Educación, publicarán una guía en los próximos meses para reducir el uso de tecnologías algorítmicas dañinas o peligrosas. en configuraciones específicas. Pero estos pasos no alcanzan, por ejemplo, la regulación de la UE en desarrollo, que prohíbe y restringe ciertas categorías de IA que se considera que tienen un potencial dañino.
Aún así, expertos como Oren Etzioni, cofundador del Instituto Allen para IA, creen que las pautas de la Casa Blanca tendrán cierta influencia. “Si se implementa correctamente, [a] El proyecto de ley podría reducir el uso indebido de la IA y, sin embargo, respaldar los usos beneficiosos de la IA en la medicina, la conducción, la productividad empresarial y más”, dijo a The Wall Street Journal.