\n
En una cumbre en la Casa Blanca este viernes, siete de las principales empresas de IA del mundo se comprometieron a mejorar las medidas de seguridad en torno a sus productos de IA. Despu\u00e9s de meses de consultas y solicitudes de comentarios, el acuerdo entre la Casa Blanca y las empresas con inversi\u00f3n en inteligencia artificial Amazon, Anthropic, Meta, Microsoft, Google, Inflection y OpenAI busca abordar las preocupaciones de la Administraci\u00f3n con respecto a los riesgos y peligros de los sistemas de inteligencia artificial.<\/p>\n
Una de las medidas acordadas es un aumento de la financiaci\u00f3n para la investigaci\u00f3n de la discriminaci\u00f3n, como una forma de contrarrestar los sesgos algor\u00edtmicos que actualmente son inherentes a las redes de IA.<\/p>\n\nLas empresas tambi\u00e9n acordaron realizar inversiones adicionales en ciberseguridad. Si alguna vez desarroll\u00f3 un proyecto o codific\u00f3 algo dentro de una herramienta como ChatGPT, sabe cu\u00e1n completa es la informaci\u00f3n contenida en su chat de IA. Y ya se han filtrado suficientes credenciales de usuario de ChatGPT en l\u00ednea, sin culpa de OpenAI, que es lo que se pretende combatir con la mayor inversi\u00f3n en seguridad cibern\u00e9tica.<\/p>\n
Tambi\u00e9n se prometi\u00f3 la implementaci\u00f3n de marcas de agua en el contenido generado por IA, un tema que ha estado particularmente de moda \u00faltimamente, por una variedad de razones. <\/p>\n
Est\u00e1 el punto de vista de los derechos de autor, que ya ha visto m\u00faltiples demandas iniciadas en compa\u00f1\u00edas de IA generativa: marcar con agua el contenido generado por IA ser\u00eda una forma de calmar los temores de que los datos emergentes generados por humanos (los que se producen autom\u00e1ticamente solo por actuar nuestras vidas) se diluyen cada vez m\u00e1s en un mar de contenido generado por IA que mejora r\u00e1pidamente.<\/p>\n
Tambi\u00e9n est\u00e1 el \u00e1ngulo de impacto sist\u00e9mico: \u00bfqu\u00e9 trabajos se ver\u00e1n afectados por la IA? S\u00ed, hay suficiente necesidad en el mundo para eventualmente absorber a los trabajadores hacia otras industrias menos afectadas, pero esa transici\u00f3n tiene costos humanos, econ\u00f3micos y temporales. Si cambian demasiado, demasiado r\u00e1pido, toda la econom\u00eda y el sistema laboral podr\u00edan colapsar. <\/p>\n
Por supuesto, la marca de agua de los datos generados por IA (o datos sint\u00e9ticos, como se los ha llamado m\u00e1s recientemente y con frecuencia) tambi\u00e9n es de inter\u00e9s para las empresas de IA. No quieren que sus IA eventualmente se vuelvan LOCAS debido a conjuntos de datos sint\u00e9ticos, conjuntos de datos envenenados, ni por la incapacidad de distinguir los datos sint\u00e9ticos de los datos emergentes m\u00e1s seguros, pero mucho m\u00e1s costosos. <\/p>\n
Y si los problemas relacionados con el entrenamiento recursivo de las IA siguen siendo demasiado dif\u00edciles de resolver durante demasiado tiempo ahora que la IA est\u00e1 fuera de la botella, los desarrolladores de IA pronto podr\u00edan quedarse sin buenos conjuntos de datos con los que seguir entrenando sus redes.<\/p>\n
Todas las promesas fueron voluntarias, posiblemente como muestra de buena voluntad por parte de las corporaciones que m\u00e1s invirtieron en IA. Pero hay una ventaja adicional: un movimiento como este tambi\u00e9n quita algo de la ventaja de \u00ab\u00bfpodemos controlar la IA al ritmo que estamos yendo actualmente?\u00bb debate. Si los propios desarrolladores de AI est\u00e1n dispuestos a aumentar voluntariamente la seguridad de sus sistemas, entonces tal vez esta tambi\u00e9n sea un \u00e1rea en la que tambi\u00e9n sean buenos guardianes (aunque su millaje puede variar). <\/p>\n
Parte del problema con este enfoque es que estas son solo siete empresas: \u00bfqu\u00e9 pasa con los cientos de otras empresas que desarrollan productos de IA? \u00bfSe puede confiar en los que ya son m\u00e1s peque\u00f1os y est\u00e1n en desventaja frente a gigantes como OpenAI y Microsoft? Porque esas son las empresas que tienen m\u00e1s que ganar sacando a la fuerza el producto del que depende su sustento al aire libre sin preparaci\u00f3n. Definitivamente no ser\u00eda la primera vez que un producto se apresura a monetizarse.<\/p>\n
Los compromisos requer\u00edan validaci\u00f3n interna y externa y verificaci\u00f3n de que se est\u00e1n cumpliendo activamente (pero siempre hay descuidos, errores de comunicaci\u00f3n, documentos perdidos y lagunas). <\/p>\n
El problema aqu\u00ed es que la IA presenta un riesgo fundamental de nivel de extinci\u00f3n, y hay un lado de ese borde en el que definitivamente no queremos estar.<\/p>\n<\/div>\n
Source link-41<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"En una cumbre en la Casa Blanca este viernes, siete de las principales empresas de IA del mundo se comprometieron a mejorar las medidas de seguridad en torno a sus…<\/p>\n","protected":false},"author":1,"featured_media":740310,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[21980],"tags":[11012,650,133,121,3848,3751,555,1366,388],"_links":{"self":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/740309"}],"collection":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/comments?post=740309"}],"version-history":[{"count":1,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/740309\/revisions"}],"predecessor-version":[{"id":740311,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/740309\/revisions\/740311"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media\/740310"}],"wp:attachment":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media?parent=740309"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/categories?post=740309"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/tags?post=740309"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}