\n<\/aside>\n<\/p>\n
El CEO de OpenAI, Sam Altman, testific\u00f3 hoy en el Senado de los EE. UU. sobre los peligros potenciales de la tecnolog\u00eda de inteligencia artificial fabricada por su empresa y otras, e inst\u00f3 a los legisladores a imponer requisitos de licencia y otras regulaciones a las organizaciones que fabrican sistemas avanzados de IA como GPT-4 de OpenAI.<\/p>\n
\u201cCreemos que la intervenci\u00f3n regulatoria de los gobiernos ser\u00e1 fundamental para mitigar los riesgos de modelos cada vez m\u00e1s poderosos\u201d, dijo Altman. \u00abPor ejemplo, el gobierno de EE. UU. podr\u00eda considerar una combinaci\u00f3n de requisitos de licencia y prueba para el desarrollo y lanzamiento de modelos de IA por encima de un umbral de capacidades\u00bb.<\/p>\n
Si bien Altman promocion\u00f3 los beneficios de AI, dijo que OpenAI est\u00e1 \u00abbastante preocupado\u00bb de que las elecciones se vean afectadas por el contenido generado por AI. \u00abDado que nos enfrentaremos a una elecci\u00f3n el pr\u00f3ximo a\u00f1o y estos modelos est\u00e1n mejorando, creo que esta es un \u00e1rea importante de preocupaci\u00f3n… Creo que alguna regulaci\u00f3n ser\u00eda bastante sabia sobre este tema\u00bb, dijo Altman.<\/p>\n
Altman habl\u00f3 en una audiencia celebrada por el Subcomit\u00e9 de Privacidad, Tecnolog\u00eda y Leyes del Comit\u00e9 Judicial del Senado. Tambi\u00e9n testific\u00f3 la directora de privacidad y confianza de IBM, Christina Montgomery.<\/p>\n
\u00abIBM insta al Congreso a adoptar un enfoque de regulaci\u00f3n de precisi\u00f3n para la IA\u00bb, dijo Montgomery. \u00abEsto significa establecer reglas para regir el despliegue de IA en casos de uso espec\u00edficos, sin regular la tecnolog\u00eda en s\u00ed\u00bb. Montgomery dijo que el Congreso deber\u00eda definir claramente los riesgos de la IA e imponer \u00abreglas diferentes para diferentes riesgos\u00bb, con las reglas m\u00e1s estrictas \u00abaplicadas a los casos de uso con los mayores riesgos para las personas y la sociedad\u00bb.<\/p>\n\n Anuncio <\/span> <\/p>\n<\/aside>\nLa tecnolog\u00eda de inteligencia artificial \u00abpuede salir bastante mal\u00bb<\/h2>\n Varios legisladores comentaron sobre la voluntad de OpenAI e IBM de enfrentar nuevas reglas, y el senador Dick Durbin (D-Ill.) dijo que es notable que las grandes empresas acudieran al Senado para \u00absuplicarnos que las regulemos\u00bb.<\/p>\n
Altman sugiri\u00f3 que el Congreso forme una nueva agencia que otorgue licencias a la tecnolog\u00eda de inteligencia artificial \u00abpor encima de cierta escala de capacidades y podr\u00eda retirar esa licencia para garantizar el cumplimiento de los est\u00e1ndares de seguridad\u00bb. Antes de que un sistema de IA se lance al p\u00fablico, debe haber auditor\u00edas independientes por parte de \u00abexpertos que puedan decir que el modelo cumple o no con estos umbrales de seguridad establecidos y estos porcentajes en las preguntas X o Y\u00bb, dijo.<\/p>\n
Altman dijo que le preocupa que la industria de la IA pueda \u00abcausar un da\u00f1o significativo al mundo\u00bb.<\/p>\n
\u00abCreo que si esta tecnolog\u00eda sale mal, puede salir bastante mal, y queremos expresarnos al respecto\u00bb, dijo Altman. \u201cQueremos trabajar con el gobierno para evitar que eso suceda\u201d.<\/p>\n
Altman dijo que no cree que se deban aplicar requisitos onerosos a las empresas e investigadores cuyos modelos son mucho menos avanzados que los de OpenAI. Sugiri\u00f3 que el Congreso \u00abdefina umbrales de capacidad\u00bb y coloque modelos de IA que puedan realizar ciertas funciones en el estricto r\u00e9gimen de licencias.<\/p>\n
Como ejemplos, Altman dijo que podr\u00edan requerirse licencias para modelos de IA \u00abque puedan persuadir, manipular, influir en el comportamiento de una persona, sus creencias\u00bb o \u00abayudar a crear nuevos agentes biol\u00f3gicos\u00bb. Altman dijo que ser\u00eda m\u00e1s sencillo exigir una licencia para cualquier sistema que est\u00e9 por encima de un cierto umbral de potencia de c\u00f3mputo, pero que preferir\u00eda trazar la l\u00ednea regulatoria en funci\u00f3n de capacidades espec\u00edficas.<\/p>\n
OpenAI consta de entidades sin fines de lucro y con fines de lucro. Altman dijo que el modelo GPT-4 de OpenAI es \u00abm\u00e1s probable que responda de manera \u00fatil y veraz y rechace solicitudes da\u00f1inas que cualquier otro modelo de capacidad similar\u00bb, en parte debido a las extensas pruebas y auditor\u00edas previas al lanzamiento:<\/p>\n\n Anuncio <\/span> <\/p>\n<\/aside>\n\nAntes de lanzar cualquier sistema nuevo, OpenAI realiza pruebas exhaustivas, contrata a expertos externos para realizar revisiones detalladas y auditor\u00edas independientes, mejora el comportamiento del modelo e implementa sistemas s\u00f3lidos de seguridad y monitoreo. Antes de lanzar GPT-4, nuestro \u00faltimo modelo, pasamos m\u00e1s de seis meses realizando evaluaciones exhaustivas, equipos rojos externos y pruebas de capacidad peligrosa.<\/p>\n<\/blockquote>\n
Altman tambi\u00e9n dijo que las personas deber\u00edan poder optar por que sus datos personales no se utilicen para entrenar modelos de IA. OpenAI anunci\u00f3 el mes pasado que los usuarios de ChatGPT ahora pueden desactivar el historial de chat para evitar que las conversaciones se utilicen para entrenar modelos de IA.<\/p>\n
No se debe \u00abenga\u00f1ar\u00bb a las personas para que interact\u00faen con la IA<\/h2>\n Montgomery present\u00f3 requisitos de transparencia y dijo que los consumidores deber\u00edan saber cu\u00e1ndo interact\u00faan con la IA. \u00abNinguna persona en ning\u00fan lugar debe ser enga\u00f1ada para que interact\u00fae con un sistema de IA… la era de la IA no puede ser otra era de moverse r\u00e1pido y romper cosas\u00bb, dijo.<\/p>\n
Tambi\u00e9n dijo que Estados Unidos deber\u00eda responsabilizar r\u00e1pidamente a las empresas por implementar IA \u00abque difunde informaci\u00f3n err\u00f3nea sobre cosas como las elecciones\u00bb.<\/p>\n
Los senadores escucharon a Gary Marcus, un autor que fund\u00f3 dos empresas de inteligencia artificial y aprendizaje autom\u00e1tico y es profesor em\u00e9rito de psicolog\u00eda y ciencias neuronales en la Universidad de Nueva York. Dijo en la audiencia de hoy que la IA puede crear mentiras persuasivas y brindar consejos m\u00e9dicos da\u00f1inos. Marcus tambi\u00e9n critic\u00f3 a Microsoft por no retirar inmediatamente el chatbot de Sydney despu\u00e9s de que exhibiera un comportamiento alarmante.<\/p>\n
\u00abSydney claramente ten\u00eda problemas… lo habr\u00eda retirado temporalmente del mercado y no lo hicieron\u00bb, dijo Marcus. \u00abEsa fue una llamada de atenci\u00f3n para m\u00ed y un recordatorio de que incluso si tienes empresas como OpenAI que es una organizaci\u00f3n sin fines de lucro… otras personas pueden comprar esas empresas y hacer lo que quieran con ellas. Tal vez tengamos un conjunto estable de actores ahora, pero la cantidad de poder que estos sistemas tienen para dar forma a nuestras opiniones y vidas es realmente significativa, y eso ni siquiera entra en los riesgos de que alguien pueda reutilizarlos deliberadamente para todo tipo de malos prop\u00f3sitos\u00bb.<\/p>\n<\/p><\/div>\n
Source link-49<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"Agrandar \/ El CEO de OpenAI, Sam Altman, testifica sobre las reglas de IA ante el Subcomit\u00e9 Judicial del Senado sobre Privacidad, Tecnolog\u00eda y la Ley el 16 de mayo…<\/p>\n","protected":false},"author":1,"featured_media":632049,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[21980],"tags":[6119,4185,2238,99,5430,283,49133,495,6118,7416,4491],"_links":{"self":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/632048"}],"collection":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/comments?post=632048"}],"version-history":[{"count":1,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/632048\/revisions"}],"predecessor-version":[{"id":632050,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/632048\/revisions\/632050"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media\/632049"}],"wp:attachment":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media?parent=632048"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/categories?post=632048"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/tags?post=632048"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}