\n<\/aside>\n<\/p>\n
Un grupo de investigaci\u00f3n de IA sin fines de lucro quiere que la Comisi\u00f3n Federal de Comercio investigue OpenAI, Inc. y detenga los lanzamientos de GPT-4.<\/p>\n
OpenAI \u00abha lanzado un producto GPT-4 para el mercado de consumo que es sesgado, enga\u00f1oso y un riesgo para la privacidad y la seguridad p\u00fablica. Los resultados no se pueden probar ni replicar. No se realiz\u00f3 una evaluaci\u00f3n independiente antes de la implementaci\u00f3n\u00bb, dijo una queja a la FTC presentada hoy por el Centro de Inteligencia Artificial y Pol\u00edtica Digital (CAIDP).<\/p>\n
Al pedir \u00absupervisi\u00f3n y evaluaci\u00f3n independientes de los productos comerciales de IA que se ofrecen en los Estados Unidos\u00bb, el CAIDP solicit\u00f3 a la FTC que \u00ababra una investigaci\u00f3n sobre OpenAI, proh\u00edba m\u00e1s lanzamientos comerciales de GPT-4 y garantice el establecimiento de las medidas de seguridad necesarias para proteger a los consumidores\u00bb. las empresas y el mercado comercial\u00bb.<\/p>\n
Al se\u00f1alar que la FTC \u00abha declarado que el uso de la IA debe ser ‘transparente, explicable, justo y emp\u00edricamente s\u00f3lido al tiempo que fomenta la responsabilidad'\u00bb, el grupo sin fines de lucro argument\u00f3 que \u00abel producto GPT-4 de OpenAI no satisface ninguno de estos requisitos\u00bb.<\/p>\n
GPT-4 fue presentado por OpenAI el 14 de marzo y est\u00e1 disponible para los suscriptores de ChatGPT Plus. Bing de Microsoft ya est\u00e1 usando GPT-4. OpenAI calific\u00f3 a GPT-4 como un gran avance, diciendo que \u00abaprueba un examen de barra simulado con una puntuaci\u00f3n alrededor del 10 por ciento superior de los examinados\u00bb, en comparaci\u00f3n con el 10 por ciento inferior de los examinados para GPT-3.5.<\/p>\n
Aunque OpenAI dijo que ten\u00eda expertos externos que evaluaron los riesgos potenciales planteados por GPT-4, CAIDP no es el primer grupo que plantea preocupaciones sobre el movimiento demasiado r\u00e1pido del campo de la IA. Como informamos ayer, el Future of Life Institute public\u00f3 una carta abierta instando a los laboratorios de IA a \u00abpausar inmediatamente durante al menos 6 meses el entrenamiento de sistemas de IA m\u00e1s potentes que GPT-4\u00bb. La larga lista de firmantes de la carta inclu\u00eda a muchos profesores junto con algunos nombres notables de la industria tecnol\u00f3gica como Elon Musk y Steve Wozniak.<\/p>\n
El grupo afirma que GPT-4 viola la Ley FTC<\/h2>\n CAIDP dijo que la FTC deber\u00eda investigar a OpenAI usando su autoridad bajo la Secci\u00f3n 5 de la Ley de la Comisi\u00f3n Federal de Comercio para investigar, enjuiciar y prohibir \u00abactos o pr\u00e1cticas desleales o enga\u00f1osas en el comercio o que lo afecten\u00bb. El grupo afirma que \u00abel lanzamiento comercial de GPT-4 viola la Secci\u00f3n 5 de la Ley de la FTC, la gu\u00eda bien establecida de la FTC para las empresas sobre el uso y la publicidad de productos de IA, as\u00ed como las normas emergentes para la gobernanza de la IA que el El gobierno de los Estados Unidos ha respaldado formalmente las Pautas universales para la IA que los principales expertos y sociedades cient\u00edficas han recomendado\u00bb.<\/p>\n\n Anuncio <\/span> <\/p>\n<\/aside>\nLa FTC debe \u00abdetener la implementaci\u00f3n comercial adicional de GPT por parte de OpenAI\u00bb, exigir una evaluaci\u00f3n independiente de los productos GPT antes de la implementaci\u00f3n y \u00aba lo largo del ciclo de vida de la IA de GPT\u00bb, \u00abrequerir el cumplimiento de la gu\u00eda de IA de la FTC\u00bb antes de implementaciones futuras y \u00abestablecer un mecanismo de reporte de incidentes para GPT-4 similar a los mecanismos de la FTC para reportar fraude al consumidor\u00bb, dijo el grupo.<\/p>\n
En t\u00e9rminos m\u00e1s generales, CAIDP inst\u00f3 a la FTC a emitir reglas que requieran \u00abest\u00e1ndares de referencia para productos en el sector del mercado de IA generativa\u00bb.<\/p>\n
Nos comunicamos con OpenAI y actualizaremos este art\u00edculo si recibimos una respuesta.<\/p>\n
\u201cOpenAI no ha revelado detalles\u201d<\/h2>\n El presidente y fundador de CAIDP es Marc Rotenberg, quien previamente cofund\u00f3 y dirigi\u00f3 el Centro de informaci\u00f3n de privacidad electr\u00f3nica. Rotenberg es profesor adjunto en Georgetown Law y form\u00f3 parte del Grupo de Expertos en IA dirigido por la Organizaci\u00f3n internacional para la Cooperaci\u00f3n y el Desarrollo Econ\u00f3micos. Rotenberg tambi\u00e9n firm\u00f3 la carta abierta del Future of Life Institute, que se cita en la demanda de CAIDP.<\/p>\n
El presidente y director de investigaci\u00f3n de CAIDP es Merve Hickok, quien tambi\u00e9n es profesor de \u00e9tica de datos en la Universidad de Michigan. Ella testific\u00f3 en una audiencia del Congreso sobre AI el 8 de marzo. La lista de miembros del equipo de CAIDP incluye muchas otras personas involucradas en los campos de tecnolog\u00eda, academia, privacidad, derecho e investigaci\u00f3n.<\/p>\n
El mes pasado, la FTC advirti\u00f3 a las empresas que analicen \u00ablos riesgos y el impacto razonablemente previsibles de su producto de IA antes de ponerlo en el mercado\u00bb. La agencia tambi\u00e9n plante\u00f3 varias preocupaciones sobre los \u00abda\u00f1os de la IA, como la inexactitud, el sesgo, la discriminaci\u00f3n y el avance de la vigilancia comercial\u00bb en un informe al Congreso el a\u00f1o pasado.<\/p>\n
GPT-4 presenta muchos tipos de riesgos, y su tecnolog\u00eda subyacente no se ha explicado adecuadamente, dijo CAIDP a la FTC. \u00abOpenAI no ha revelado detalles sobre la arquitectura, el tama\u00f1o del modelo, el hardware, los recursos inform\u00e1ticos, las t\u00e9cnicas de capacitaci\u00f3n, la construcci\u00f3n de conjuntos de datos o los m\u00e9todos de capacitaci\u00f3n\u00bb, dice la denuncia de CAIDP. \u00abLa pr\u00e1ctica de la comunidad de investigaci\u00f3n ha sido documentar los datos de entrenamiento y las t\u00e9cnicas de entrenamiento para modelos de lenguaje grande, pero OpenAI decidi\u00f3 no hacer esto para GPT-4\u00bb.<\/p>\n
\u00abLos modelos de IA generativa son productos de consumo inusuales porque exhiben comportamientos que pueden no haber sido identificados previamente por la compa\u00f1\u00eda que los lanz\u00f3 a la venta\u00bb, dijo tambi\u00e9n el grupo.<\/p>\n<\/p><\/div>\n
Source link-49<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"Im\u00e1genes Getty | VCG Un grupo de investigaci\u00f3n de IA sin fines de lucro quiere que la Comisi\u00f3n Federal de Comercio investigue OpenAI, Inc. y detenga los lanzamientos de GPT-4.…<\/p>\n","protected":false},"author":1,"featured_media":548645,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[21980],"tags":[6312,1605,22519,99,3167,73336,1804,3655,8,272,9229],"_links":{"self":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/548644"}],"collection":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/comments?post=548644"}],"version-history":[{"count":1,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/548644\/revisions"}],"predecessor-version":[{"id":548646,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/548644\/revisions\/548646"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media\/548645"}],"wp:attachment":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media?parent=548644"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/categories?post=548644"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/tags?post=548644"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}