Como Estados Unidos El gobierno federal lucha por regular significativamente la IA (o incluso por su funcionamiento), y la ciudad de Nueva York está entrando en la brecha de gobernanza.
La ciudad presentó esta semana un Plan de Acción de IA que el alcalde Eric Adams considera el primero de su tipo en el país. El conjunto de aproximadamente 40 iniciativas políticas está diseñado para proteger a los residentes contra daños como prejuicios o discriminación por parte de la IA. Incluye el desarrollo de estándares para la IA adquiridos por agencias municipales y nuevos mecanismos para medir el riesgo de la IA utilizados por los departamentos de la ciudad.
La regulación de la IA de Nueva York pronto podría ampliarse aún más. La concejal de la ciudad Jennifer Gutiérrez, presidenta del comité de tecnología del organismo, presentó hoy una legislación que crearía una Oficina de Integridad de Datos Algorítmicos para supervisar la IA en Nueva York.
Si se establece, la oficina proporcionaría un lugar para que los ciudadanos presenten quejas sobre los sistemas automatizados de toma de decisiones utilizados por las agencias públicas, funcionando como un defensor del pueblo para los algoritmos en los cinco condados. También evaluaría los sistemas de IA antes de su despliegue por parte de la ciudad en busca de prejuicios y discriminación.
Varios senadores estadounidenses han sugerido crear una nueva agencia federal para regular la IA a principios de este año, pero Gutiérrez dice que ha aprendido que no tiene sentido esperar a que se tomen medidas en Washington, DC. «Tenemos una responsabilidad única porque aquí vive mucha innovación», dice. «Es realmente importante para nosotros tomar la iniciativa».
Gutiérrez apoya el requisito de probar los algoritmos utilizados por el gobierno de la ciudad porque la IA está comenzando a usarse ampliamente, dice. Los departamentos de la ciudad están interesados en utilizar software de inteligencia artificial para tareas administrativas, como evaluar el riesgo de que un niño sea víctima de abuso o las tasas de aprendizaje de los estudiantes. También desconfía de la afición del alcalde Eric Adams por la tecnología, como los perros robóticos y la inteligencia artificial, para realizar llamadas automáticas en idiomas que no habla. La ciudad de Nueva York tiene reputación de ser un campo de pruebas para la tecnología de vigilancia, desde un reciente aumento en el uso de drones hasta el uso cuestionable del reconocimiento facial en viviendas y estadios, y por parte de la policía.
Nueva York estaba por delante del gobierno federal en materia de regulación de la IA incluso antes de esta semana. En 2018 se formó un grupo de trabajo de la ciudad para evaluar el uso de la tecnología. A principios de este año entró en vigor una ley que exige que se revisen los algoritmos de contratación utilizados por las empresas para detectar sesgos. Pero se han reducido algunas protecciones. En enero de 2022, Adams canceló una orden ejecutiva firmada por su predecesor, Bill de Blasio, que creaba un Oficial de Políticas y Gestión de Algoritmos para trabajar con las agencias de la ciudad en la implementación de la IA de manera equitativa. Un informe emitido por el oficial en 2020 decía que las agencias de la ciudad utilizaron 16 tipos de algoritmos que tenían un impacto potencialmente sustancial en los derechos de las personas, pero no examinaron todos los modelos de IA utilizados por el Departamento de Policía de la ciudad de Nueva York.
Gutiérrez dice que todavía no tiene un conocimiento completo de los algoritmos utilizados por las agencias de la ciudad. Una auditoría publicada en febrero por el contralor del estado de Nueva York encontró que la ciudad tiene un enfoque ad hoc e incompleto para la gobernanza de la IA. Advirtió que esto significa que la ciudad no puede «garantizar que el uso de la IA por parte de la ciudad sea transparente, preciso e imparcial y evite impactos dispares».