\n<\/aside>\n<\/p>\n
ChatGPT ha conquistado el mundo. A los dos meses de su lanzamiento, alcanz\u00f3 los 100 millones de usuarios activos, lo que la convierte en la aplicaci\u00f3n para consumidores de m\u00e1s r\u00e1pido crecimiento jam\u00e1s lanzada. Los usuarios se sienten atra\u00eddos por las capacidades avanzadas de la herramienta y preocupados por su potencial para causar disrupci\u00f3n en varios sectores.<\/p>\n
Una implicaci\u00f3n mucho menos discutida son los riesgos de privacidad que ChatGPT representa para todos y cada uno de nosotros. Justo ayer, Google present\u00f3 su propia IA conversacional llamada Bard, y seguramente otras seguir\u00e1n. Las empresas de tecnolog\u00eda que trabajan en IA han entrado verdaderamente en una carrera armamentista.<\/p>\n
El problema es que est\u00e1 alimentado por nuestros datos personales.<\/p>\n
300 mil millones de palabras. \u00bfCu\u00e1ntos son tuyos?<\/h2>\n ChatGPT est\u00e1 respaldado por un gran modelo de lenguaje que requiere grandes cantidades de datos para funcionar y mejorar. Cuantos m\u00e1s datos entrene el modelo, mejor ser\u00e1 para detectar patrones, anticipar lo que vendr\u00e1 a continuaci\u00f3n y generar texto plausible.<\/p>\n
OpenAI, la empresa detr\u00e1s de ChatGPT, aliment\u00f3 la herramienta con unos 300\u00a0000 millones de palabras extra\u00eddas sistem\u00e1ticamente de Internet: libros, art\u00edculos, sitios web y publicaciones, incluida la informaci\u00f3n personal obtenida sin consentimiento.<\/p>\n
Si alguna vez ha escrito una publicaci\u00f3n de blog o una rese\u00f1a de un producto, o ha comentado un art\u00edculo en l\u00ednea, es muy probable que ChatGPT haya consumido esta informaci\u00f3n.<\/p>\n
Entonces, \u00bfpor qu\u00e9 es eso un problema?<\/h2>\n La recopilaci\u00f3n de datos utilizada para entrenar ChatGPT es problem\u00e1tica por varias razones.<\/p>\n
Primero, a ninguno de nosotros se nos pregunt\u00f3 si OpenAI podr\u00eda usar nuestros datos. Esta es una clara violaci\u00f3n de la privacidad, especialmente cuando los datos son confidenciales y pueden usarse para identificarnos a nosotros, a los miembros de nuestra familia o nuestra ubicaci\u00f3n.<\/p>\n\n Anuncio <\/span> <\/p>\n<\/aside>\nIncluso cuando los datos est\u00e1n disponibles p\u00fablicamente, su uso puede violar lo que llamamos integridad contextual. Este es un principio fundamental en las discusiones legales sobre privacidad. Requiere que la informaci\u00f3n de los individuos no se revele fuera del contexto en el que se produjo originalmente.<\/p>\n
Adem\u00e1s, OpenAI no ofrece procedimientos para que las personas verifiquen si la empresa almacena su informaci\u00f3n personal o para solicitar que se elimine. Este es un derecho garantizado de acuerdo con el Reglamento General Europeo de Protecci\u00f3n de Datos (RGPD), aunque todav\u00eda se debate si ChatGPT cumple con los requisitos del RGPD.<\/p>\n
Este \u00abderecho al olvido\u00bb es particularmente importante en los casos en que la informaci\u00f3n es inexacta o enga\u00f1osa, lo que parece ser algo habitual con ChatGPT.<\/p>\n
Adem\u00e1s, los datos raspados en los que se entren\u00f3 ChatGPT pueden ser propietarios o estar protegidos por derechos de autor. Por ejemplo, cuando la solicit\u00e9, la herramienta produjo los primeros p\u00e1rrafos de la novela de Peter Carey \u201cLa verdadera historia de la pandilla Kelly\u201d, un texto protegido por derechos de autor.<\/p>\n\nAgrandar
\/<\/span> ChatGPT no considera la protecci\u00f3n de los derechos de autor al generar resultados. Cualquiera que utilice los resultados en otro lugar podr\u00eda estar plagiando inadvertidamente.<\/div>\nCaptura de pantalla de ChatGPT por Uri Gal<\/p>\n<\/figcaption><\/figure>\n
Finalmente, OpenAI no pag\u00f3 por los datos que extrajo de Internet. Las personas, los propietarios del sitio web y las empresas que lo produjeron no fueron compensados. Esto es particularmente digno de menci\u00f3n considerando que OpenAI se valor\u00f3 recientemente en US $ 29 mil millones, m\u00e1s del doble de su valor en 2021.<\/p>\n
OpenAI tambi\u00e9n acaba de anunciar ChatGPT Plus, un plan de suscripci\u00f3n pago que ofrecer\u00e1 a los clientes acceso continuo a la herramienta, tiempos de respuesta m\u00e1s r\u00e1pidos y acceso prioritario a nuevas funciones. Este plan contribuir\u00e1 a los ingresos esperados de $ 1 mil millones para 2024.<\/p>\n\n Anuncio <\/span> <\/p>\n<\/aside>\nNada de esto hubiera sido posible sin los datos (nuestros datos) recopilados y utilizados sin nuestro permiso.<\/p>\n
Una pol\u00edtica de privacidad endeble<\/h2>\n Otro riesgo de privacidad involucra los datos proporcionados a ChatGPT en forma de indicaciones para el usuario. Cuando le pedimos a la herramienta que responda preguntas o realice tareas, es posible que, sin darnos cuenta, entreguemos informaci\u00f3n confidencial y la pongamos en el dominio p\u00fablico.<\/p>\n
Por ejemplo, un abogado puede pedirle a la herramienta que revise un borrador de acuerdo de divorcio, o un programador puede pedirle que verifique un fragmento de c\u00f3digo. El acuerdo y el c\u00f3digo, adem\u00e1s de los ensayos producidos, ahora forman parte de la base de datos de ChatGPT. Esto significa que se pueden usar para entrenar a\u00fan m\u00e1s la herramienta y se pueden incluir en las respuestas a las indicaciones de otras personas.<\/p>\n
M\u00e1s all\u00e1 de esto, OpenAI recopila una amplia gama de otra informaci\u00f3n del usuario. De acuerdo con la pol\u00edtica de privacidad de la empresa, recopila la direcci\u00f3n IP de los usuarios, el tipo y la configuraci\u00f3n del navegador y datos sobre las interacciones de los usuarios con el sitio, incluido el tipo de contenido con el que interact\u00faan los usuarios, las funciones que utilizan y las acciones que realizan.<\/p>\n
Tambi\u00e9n recopila informaci\u00f3n sobre las actividades de navegaci\u00f3n de los usuarios a lo largo del tiempo y en los sitios web. De manera alarmante, OpenAI afirma que puede compartir la informaci\u00f3n personal de los usuarios con terceros no especificados, sin informarles, para cumplir con sus objetivos comerciales.<\/p>\n
\u00bfEs hora de controlarlo?<\/h2>\n Algunos expertos creen que ChatGPT es un punto de inflexi\u00f3n para la IA: una realizaci\u00f3n del desarrollo tecnol\u00f3gico que puede revolucionar la forma en que trabajamos, aprendemos, escribimos e incluso pensamos. A pesar de sus beneficios potenciales, debemos recordar que OpenAI es una empresa privada con fines de lucro cuyos intereses e imperativos comerciales no necesariamente se alinean con las mayores necesidades de la sociedad.<\/p>\n
Los riesgos de privacidad que vienen adjuntos a ChatGPT deber\u00edan sonar como una advertencia. Y como consumidores de un n\u00famero creciente de tecnolog\u00edas de IA, debemos tener mucho cuidado con la informaci\u00f3n que compartimos con dichas herramientas.<\/p>\n
The Conversation contact\u00f3 a OpenAI para hacer comentarios, pero no respondieron antes de la fecha l\u00edmite.<\/p>\n
chica uri<\/em> es profesor de sistemas de informaci\u00f3n empresarial en la Universidad de Sydney<\/em><\/p>\nEste art\u00edculo se vuelve a publicar de The Conversation bajo una licencia Creative Commons. Lea el art\u00edculo original.<\/em><\/p>\n