\n<\/p>\n
Zoom, la empresa<\/span> que normalizaba asistir a reuniones de negocios en pantalones de pijama, se vio obligada a dejar de silenciar esta semana para asegurar a los usuarios que no usar\u00eda datos personales para entrenar inteligencia artificial sin su consentimiento.<\/p>\n La semana pasada, un usuario entusiasta de Hacker News not\u00f3 que una actualizaci\u00f3n de los t\u00e9rminos y condiciones de Zoom en marzo parec\u00eda esencialmente darle a la compa\u00f1\u00eda rienda suelta para sorber voz, video y otros datos, e introducirlos en sistemas de aprendizaje autom\u00e1tico.<\/p>\n Los nuevos t\u00e9rminos establecen que los clientes \u00abconsienten el acceso, el uso, la recopilaci\u00f3n, la creaci\u00f3n, la modificaci\u00f3n, la distribuci\u00f3n, el procesamiento, el uso compartido, el mantenimiento y el almacenamiento de los datos generados por el servicio de Zoom\u00bb para fines que incluyen \u00abaprendizaje autom\u00e1tico o inteligencia artificial (incluso para capacitaci\u00f3n y ajuste). de algoritmos y modelos).\u201d<\/p>\n El descubrimiento provoc\u00f3 art\u00edculos de noticias cr\u00edticos y mensajes enojados<\/a> al otro lado de medios de comunicaci\u00f3n social<\/a>. Pronto, Zoom retrocedi\u00f3. El lunes, la directora de productos de Zoom, Smita Hasham, escribi\u00f3 una publicaci\u00f3n de blog que dec\u00eda: \u00abNo usaremos contenido de audio, video o chat del cliente para entrenar nuestros modelos de inteligencia artificial sin su consentimiento\u00bb. La compa\u00f1\u00eda tambi\u00e9n actualiz\u00f3 sus t\u00e9rminos para decir lo mismo.<\/p>\n Esas actualizaciones parecen lo suficientemente tranquilizadoras, pero, por supuesto, muchos usuarios o administradores de Zoom para cuentas comerciales pueden hacer clic en \u00abAceptar\u00bb en los t\u00e9rminos sin darse cuenta completamente de lo que est\u00e1n entregando. Y los empleados que deben usar Zoom pueden no estar al tanto de la elecci\u00f3n que hizo su empleador. Un abogado se\u00f1ala que los t\u00e9rminos a\u00fan permiten que Zoom recopile una gran cantidad de datos sin consentimiento. (Zoom no respondi\u00f3 a una solicitud de comentarios).<\/p>\n El alboroto muestra la falta de protecciones de datos significativas en un momento en que el auge de la IA generativa ha hecho que la industria tecnol\u00f3gica tenga a\u00fan m\u00e1s hambre de datos de lo que ya estaba. Las empresas han llegado a ver la IA generativa como una especie de monstruo que debe ser alimentado a toda costa, incluso si no siempre est\u00e1 claro para qu\u00e9 se necesitan exactamente esos datos o qu\u00e9 podr\u00edan terminar haciendo esos futuros sistemas de IA.<\/p>\n El ascenso de los generadores de im\u00e1genes de IA como DALL-E 2 y Midjourny, seguido de ChatGPT y otros chatbots inteligentes pero con fallas, fue posible gracias a una gran cantidad de datos de entrenamiento, muchos de ellos con derechos de autor, que se extrajeron de la web. Y todo tipo de empresas actualmente buscan utilizar los datos que poseen, o que generan sus clientes y usuarios, para construir herramientas de IA generativa.<\/p>\n Zoom ya se sube al carro generativo. En junio, la empresa present\u00f3 dos funciones de generaci\u00f3n de texto para resumir reuniones y redactar correos electr\u00f3nicos sobre ellas. Zoom posiblemente podr\u00eda usar datos de las videoconferencias de sus usuarios para desarrollar algoritmos m\u00e1s sofisticados. Estos pueden resumir o analizar el comportamiento de las personas en las reuniones, o tal vez incluso representar una imagen virtual de alguien cuya conexi\u00f3n se cort\u00f3 temporalmente o no ha tenido tiempo de ducharse.<\/p>\n El problema con el esfuerzo de Zoom por obtener m\u00e1s datos es que refleja la situaci\u00f3n general en lo que respecta a nuestros datos personales. Muchas empresas de tecnolog\u00eda ya se benefician de nuestra informaci\u00f3n, y muchas de ellas, como Zoom, ahora est\u00e1n buscando formas de obtener m\u00e1s datos para proyectos de IA generativa. Y, sin embargo, depende de nosotros, los usuarios, tratar de vigilar lo que est\u00e1n haciendo.<\/p>\n \u201cLas empresas tienen un deseo extremo de recopilar la mayor cantidad de datos posible\u201d, dice Janet Haven, directora ejecutiva del grupo de expertos Data and Society. \u201cEste es el modelo comercial: recopilar datos y crear productos en torno a esos datos, o vender esos datos a intermediarios de datos\u201d.<\/p>\n EE. UU. carece de una ley federal de privacidad, lo que deja a los consumidores m\u00e1s expuestos a los dolores del hambre de datos inspirados en ChatGPT que las personas en la UE. La legislaci\u00f3n propuesta, como la Ley estadounidense de protecci\u00f3n y privacidad de datos, ofrece alguna esperanza de proporcionar reglas federales m\u00e1s estrictas sobre la recopilaci\u00f3n y el uso de datos, y la Declaraci\u00f3n de derechos de AI de la administraci\u00f3n Biden tambi\u00e9n exige la protecci\u00f3n de datos de forma predeterminada. Pero por ahora, un rechazo p\u00fablico como ese en respuesta a los movimientos de Zoom es la forma m\u00e1s efectiva de frenar el apetito de datos de las empresas. Desafortunadamente, este no es un mecanismo confiable para detectar todas las decisiones cuestionables de las empresas que intentan competir en IA.<\/p>\n En una era en la que las nuevas tecnolog\u00edas m\u00e1s emocionantes y ampliamente elogiadas se construyen sobre monta\u00f1as de datos recopilados de los consumidores, a menudo de manera \u00e9ticamente cuestionable, parece que las nuevas protecciones no pueden llegar lo suficientemente pronto. \u201cSe supone que cada persona debe tomar medidas para protegerse\u201d, dice Havens. \u201cEso es antit\u00e9tico a la idea de que este es un problema social\u201d.<\/p>\n<\/div>\n