\n<\/aside>\n<\/p>\n
El jueves, la Casa Blanca anunci\u00f3 una sorprendente colaboraci\u00f3n entre los principales desarrolladores de IA, incluidos OpenAI, Google, Antrhopic, Hugging Face, Microsoft, Nvidia y Stability AI, para participar en una evaluaci\u00f3n p\u00fablica de sus sistemas de IA generativa en DEF CON 31, una convenci\u00f3n de hackers que tendr\u00e1 lugar en Las Vegas en agosto. El evento ser\u00e1 organizado por AI Village, una comunidad de hackers de IA.<\/p>\n
Desde el a\u00f1o pasado, los modelos de lenguaje extenso (LLM) como ChatGPT se han convertido en una forma popular de acelerar las tareas de escritura y comunicaci\u00f3n, pero los funcionarios reconocen que tambi\u00e9n conllevan riesgos inherentes. Temas como confabulaciones, fugas y prejuicios plantean desaf\u00edos para los profesionales de la seguridad y el p\u00fablico. Es por eso que la Oficina de Ciencia, Tecnolog\u00eda y Pol\u00edtica de la Casa Blanca respalda llevar estos nuevos modelos generativos de IA al l\u00edmite.<\/p>\n
\u00abEste ejercicio independiente proporcionar\u00e1 informaci\u00f3n cr\u00edtica a los investigadores y al p\u00fablico sobre los impactos de estos modelos y permitir\u00e1 a las empresas y desarrolladores de IA tomar medidas para solucionar los problemas que se encuentran en esos modelos\u00bb, dice un comunicado de la Casa Blanca, que dice que el evento se alinea con la Declaraci\u00f3n de Derechos de IA de la administraci\u00f3n Biden y el Marco de Gesti\u00f3n de Riesgos de IA del Instituto Nacional de Est\u00e1ndares y Tecnolog\u00eda.<\/p>\n
En un anuncio paralelo escrito por AI Village, los organizadores Sven Cattell, Rumman Chowdhury y Austin Carson llaman al pr\u00f3ximo evento \u00abel ejercicio de equipo rojo m\u00e1s grande jam\u00e1s realizado por cualquier grupo de modelos de IA\u00bb. Miles de personas participar\u00e1n en la evaluaci\u00f3n p\u00fablica del modelo de IA, que utilizar\u00e1 una plataforma de evaluaci\u00f3n desarrollada por Scale AI.<\/p>\n\n Anuncio <\/span> <\/p>\n<\/aside>\nEl \u00abequipo rojo\u00bb es un proceso mediante el cual los expertos en seguridad intentan encontrar vulnerabilidades o fallas en los sistemas de una organizaci\u00f3n para mejorar la seguridad y la resiliencia en general.<\/p>\n
Seg\u00fan Cattell, el fundador de AI Village, \u00ablos diversos problemas con estos modelos no se resolver\u00e1n hasta que m\u00e1s personas sepan c\u00f3mo trabajar en equipo y evaluarlos\u00bb. Al realizar el ejercicio de formaci\u00f3n de equipos rojos m\u00e1s grande para cualquier grupo de modelos de IA, AI Village y DEF CON tienen como objetivo hacer crecer la comunidad de investigadores equipados para manejar las vulnerabilidades en los sistemas de IA.<\/p>\n
Los LLM han demostrado ser sorprendentemente dif\u00edciles de bloquear, en parte debido a una t\u00e9cnica llamada \u00abinyecci\u00f3n r\u00e1pida\u00bb, sobre la que publicamos una historia en septiembre. El investigador de inteligencia artificial Simon Willison ha escrito en detalle sobre los peligros de la inyecci\u00f3n r\u00e1pida, una t\u00e9cnica que puede hacer descarrilar un modelo de lenguaje para que realice acciones no previstas por su creador.<\/p>\n
Durante el evento DEF CON, los participantes tendr\u00e1n acceso cronometrado a m\u00faltiples LLM a trav\u00e9s de computadoras port\u00e1tiles proporcionadas por los organizadores. Un sistema de puntos estilo capturar la bandera fomentar\u00e1 la prueba de una amplia gama de da\u00f1os potenciales. Al final, la persona con m\u00e1s puntos ganar\u00e1 una GPU Nvidia de gama alta.<\/p>\n
\u00abPublicaremos lo que aprendamos de este evento para ayudar a otros que quieran probar lo mismo\u00bb, escribe AI Village. \u00abCuanta m\u00e1s gente sepa c\u00f3mo trabajar mejor con estos modelos y sus limitaciones, mejor\u00bb.<\/p>\n
DEF CON 31 tendr\u00e1 lugar del 10 al 13 de agosto de 2023 en el Caesar’s Forum de Las Vegas.<\/p>\n<\/p><\/div>\n
Source link-49<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"Agrandar \/ Una imagen generada por IA de la Casa Blanca frente a un fondo cibern\u00e9tico. a mitad de camino El jueves, la Casa Blanca anunci\u00f3 una sorprendente colaboraci\u00f3n entre…<\/p>\n","protected":false},"author":1,"featured_media":618405,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[21980],"tags":[4886,960,133,35184,7730,9844,8,287,10010,9151,7197],"_links":{"self":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/618404"}],"collection":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/comments?post=618404"}],"version-history":[{"count":1,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/618404\/revisions"}],"predecessor-version":[{"id":618406,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/618404\/revisions\/618406"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media\/618405"}],"wp:attachment":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media?parent=618404"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/categories?post=618404"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/tags?post=618404"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}