Dos docenas de expertos, científicos e investigadores de IA, incluidos dos de los tres «padrinos de la IA», piden que las empresas de IA sean responsables de sus acciones y que los gobiernos regulen la IA de manera más efectiva.
En una carta firmada por Yoshua Bengio y Geoffrey Hinton, entre otros, el grupo describe los posibles peligros del rápido avance de la tecnología de inteligencia artificial. Les preocupa tomar atajos en materia de seguridad, un enfoque de no intervención por parte de los reguladores y la falta de sistemas implementados para siquiera probar adecuadamente sistemas autónomos avanzados de IA.
«Los sistemas de IA podrían llegar rápidamente a superar a los humanos en un número cada vez mayor de tareas. Si dichos sistemas no se diseñan e implementan cuidadosamente, plantean una serie de riesgos a escala social. Amenazan con amplificar la injusticia social, erosionar la estabilidad social y debilitar nuestra comprensión compartida de la realidad que es fundamental para la sociedad», escribieron.
El grupo también elaboró una lista de políticas que, según ellos, deberían promulgarse para proteger mejor a las personas de los peligros de la IA. Su llamado a la acción incluye exigir que tanto los laboratorios de IA como los gobiernos asignen un tercio de sus recursos de I+D relacionados con la IA al uso seguro y ético de la IA. También piden a los gobiernos que establezcan supervisión y seguimiento de la IA y que los laboratorios de IA implementen políticas de escalamiento responsables.
Otras ideas incluyen un sistema de licencias para entrenar sistemas de IA, una mejor compartimentación de la información dentro de los laboratorios de IA y protecciones legales para los denunciantes en los principales laboratorios de IA.
Tanto Bengio como Hinton han hablado abiertamente sobre el uso de la IA de forma segura y responsable. Hinton dejó su trabajo en Google para denunciar el uso indebido de la IA, incluidos los deepfakes, las fotos y vídeos falsos y los clones de voces generados por computadora. Mientras tanto, Bengio testificó ante el Congreso en julio sobre las amenazas de la IA a la democracia y la seguridad nacional.
Recomendado por nuestros editores
En marzo, empresarios tecnológicos como Steve Wozniak y Elon Musk escribieron y firmaron una carta similar. Esa carta pedía una pausa en el desarrollo de la IA más allá de GPT-4 durante al menos seis meses o hasta que se pudieran instalar mejores salvaguardas, aunque Musk rápidamente presentó su propia startup de IA un mes después.
Todo esto ocurre unos días antes de una cumbre sobre seguridad de la IA en Bletchley Park en el Reino Unido, el famoso hogar de descifradores de códigos de la Segunda Guerra Mundial como Alan Turing.
¡Obtenga nuestras mejores historias!
Matricularse en ¿Qué hay de nuevo ahora? para recibir nuestras historias principales en su bandeja de entrada todas las mañanas.
Este boletín puede contener publicidad, ofertas o enlaces de afiliados. La suscripción a un boletín indica su consentimiento a nuestros Términos de uso y Política de privacidad. Puede darse de baja de los boletines en cualquier momento.