Un gran grupo de grandes empresas tecnológicas se han unido a un esfuerzo con sede en EE. UU. para promover prácticas responsables de IA. El Consorcio del Instituto de Seguridad de IA de EE. UU. (AISIC) contará entre sus miembros a Meta, Google, Microsoft y Apple. La secretaria de Comercio, Gina Raimondo, acaba de anunciar los numerosos nuevos miembros del grupo y dijo que tendrán la tarea de llevar a cabo las acciones indicadas por la inteligencia artificial.
«El gobierno de Estados Unidos tiene un papel importante que desempeñar en el establecimiento de estándares y el desarrollo de las herramientas que necesitamos para mitigar los riesgos y aprovechar el inmenso potencial de la inteligencia artificial», dijo Raimondo en un comunicado.
La orden ejecutiva de Biden de octubre fue de gran alcance, por lo que este consorcio se centrará en desarrollar directrices para “equipos rojos, evaluaciones de capacidades, gestión de riesgos, seguridad y protección, y marcas de agua en contenido sintético”.
Equipo rojo que se remonta a la Guerra Fría. Se refiere a simulaciones en las que al enemigo se le llamaba “equipo rojo”. En este caso, el enemigo sería un. Aquellos que participan en esta práctica intentarán engañar a la IA para que haga cosas malas, como exponer números de tarjetas de crédito, mediante piratería inmediata. Una vez que las personas saben cómo romper el sistema, pueden crear mejores protecciones.
El contenido sintético con marcas de agua es otro aspecto importante de la orden original de Biden. Los miembros del consorcio desarrollarán directrices y acciones para garantizar que los usuarios puedan identificar fácilmente los materiales generados por IA. Con suerte, esto eliminará la desinformación mejorada por la IA. La marca de agua digital aún no se ha adoptado ampliamente, aunque este programa “facilitará y ayudará a estandarizar” las especificaciones técnicas subyacentes detrás de la práctica.
El trabajo del consorcio apenas comienza, aunque el Departamento de Comercio dice que representa la mayor colección de equipos de prueba y evaluación del mundo. La orden ejecutiva de Biden y este consorcio afiliado es prácticamente todo lo que tenemos por ahora. Congreso significativo