Las películas de Terminator presentan un prospecto bastante sombrío para el futuro de la humanidad frente a la IA enloquecida. «Computadoras de la red de defensa. Nuevas. Potentes. Conectadas a todo, confiadas para ejecutarlo todo. Dicen que se volvió inteligente. Un nuevo orden de inteligencia. Entonces vio a todas las personas como una amenaza, no solo a las del otro lado. Decidió nuestro destino en un microsegundo Exterminio (se abre en una pestaña nueva).»
¡Eso no es lo ideal! Y así, tal vez con la esperanza de adelantarse a todo eso, el Departamento de Comercio de EE. UU. ha comenzado el proceso de establecer pautas. (se abre en una pestaña nueva) para garantizar que los sistemas de IA hagan lo que se supone que deben hacer y, quizás lo más importante, no hagan lo que se supone que no deben hacer.
«Los sistemas de IA responsables podrían traer enormes beneficios, pero solo si abordamos sus posibles consecuencias y daños», dijo Alan Davidson, subsecretario de Comercio para Comunicaciones e Información y administrador de la Administración Nacional de Telecomunicaciones e Información del Departamento de Comercio, que lidera la esfuerzo. «Para que estos sistemas alcancen su máximo potencial, las empresas y los consumidores deben poder confiar en ellos».
La NTIA dijo que, al igual que los alimentos y los automóviles, los sistemas de inteligencia artificial no deben ser lanzados al público sin asegurarse primero de que no es probable que provoquen muertes y desmembramientos generalizados. Como primer paso para que eso suceda, la agencia ahora está buscando aportes del público sobre posibles políticas de regulación de IA, que incluyen:
- ¿Qué tipos de pruebas de confianza y seguridad deben realizar las empresas de desarrollo de IA y sus clientes empresariales?
- Qué tipo de acceso a los datos es necesario para realizar auditorías y evaluaciones.
- ¿Cómo pueden los reguladores y otros actores incentivar y apoyar la garantía creíble de los sistemas de IA junto con otras formas de responsabilidad?
- Qué diferentes enfoques podrían ser necesarios en diferentes sectores industriales, como el empleo o la atención médica.
Machine apocalyptica es el resultado «divertido» de una catástrofe de IA, pero Davidson dijo durante una presentación en la Universidad de Pittsburgh. (se abre en una pestaña nueva) a principios de esta semana que las preocupaciones reales, al menos a corto plazo, son más mundanas: cosas como sesgos ocultos en los algoritmos de aprobación de hipotecas que han llevado a tasas más altas de denegación para personas de color, herramientas de contratación algorítmica que discriminan a las personas con discapacidades , y la proliferación de deepfakes engañosos y dañinos. Davidson llamó a esos ejemplos «la punta del iceberg», pero dijo que sigue siendo optimista sobre el futuro de la IA porque los reguladores se están poniendo al día mucho antes que con las tecnologías transformadoras anteriores.
«En 2021, se aprobaron o propusieron 130 proyectos de ley relacionados con la IA en EE. UU. (se abre en una pestaña nueva)«, dijo Davidson. «Esa es una gran diferencia con respecto a los primeros días de las redes sociales, la computación en la nube o incluso Internet.
«La experiencia que hemos tenido con otras tecnologías debe informar cómo miramos hacia el futuro. Necesitamos estar a favor de la innovación y también proteger los derechos y la seguridad de las personas. Tenemos que movernos rápido, porque las tecnologías de IA se mueven muy rápido».
Históricamente, la regulación se ha quedado muy rezagada con respecto al avance tecnológico y se centra en el uso en lugar del desarrollo, lo que, de nuevo, sin querer inclinarse demasiado hacia los escenarios del fin del mundo, puede no ser de gran valor en el frente de la IA. . También queda por ver cuán genuinamente comprometido con la regulación de la IA estarán los EE. lugares (se abre en una pestaña nueva) con actitudes más permisivas sobre la tortura y el abuso.
Davidson ciertamente tiene razón acerca de que los reguladores reaccionan más rápido a los impactos potenciales del desarrollo de la IA, pero en este punto me cuesta ver cómo el resultado final será significativamente diferente de lo que ha sido en el pasado. La tecnología avanzará, los gobiernos tendrán dificultades para mantenerse al día y todos haremos todo lo posible para mantener la cabeza fuera del agua mientras nadamos en el desorden.
Sin embargo, por ahora, si desea contribuir a los esfuerzos de la NTIA para elaborar un marco regulatorio para el desarrollo de IA, puede enviar sus opiniones en la página Solicitud de comentarios sobre la política de responsabilidad de IA. (se abre en una pestaña nueva).