\n<\/p>\n
No debes confiar en las respuestas que te env\u00ede un chatbot. Y probablemente tampoco deber\u00edas confiarle tu informaci\u00f3n personal. Esto es especialmente cierto para las \u00abnovias AI\u00bb o \u00abnovios AI\u00bb, seg\u00fan una nueva investigaci\u00f3n.<\/p>\n
Un an\u00e1lisis de 11 de los llamados chatbots rom\u00e1nticos y de compa\u00f1\u00eda, publicado el mi\u00e9rcoles por la Fundaci\u00f3n Mozilla, encontr\u00f3 una letan\u00eda de preocupaciones de seguridad y privacidad con los bots. En conjunto, las aplicaciones, que se han descargado m\u00e1s de 100 millones de veces en dispositivos Android, recopilan enormes cantidades de datos de las personas; utilizar rastreadores que env\u00edan informaci\u00f3n a Google, Facebook y empresas de Rusia y China; permitir a los usuarios utilizar contrase\u00f1as d\u00e9biles; y falta de transparencia sobre su propiedad y los modelos de IA que los impulsan.<\/p>\n
Desde que OpenAI lanz\u00f3 ChatGPT al mundo en noviembre de 2022, los desarrolladores se han apresurado a implementar grandes modelos de lenguaje y crear chatbots con los que las personas puedan interactuar y pagar para suscribirse. La investigaci\u00f3n de Mozilla ofrece una idea de c\u00f3mo esta fiebre del oro puede haber descuidado la privacidad de las personas y de las tensiones entre las tecnolog\u00edas emergentes y la forma en que recopilan y utilizan datos. Tambi\u00e9n indica c\u00f3mo los piratas inform\u00e1ticos podr\u00edan abusar de los mensajes de chat de las personas.<\/p>\n
Muchos servicios de \u201cnovias AI\u201d o chatbots rom\u00e1nticos tienen un aspecto similar. A menudo presentan im\u00e1genes de mujeres generadas por IA que pueden ser sexualizadas o acompa\u00f1ar mensajes provocativos. Los investigadores de Mozilla observaron una variedad de chatbots, incluidas aplicaciones grandes y peque\u00f1as, algunas de las cuales pretenden ser \u00abnovias\u00bb. Otras ofrecen a las personas apoyo a trav\u00e9s de la amistad o la intimidad, o permiten juegos de roles y otras fantas\u00edas.<\/p>\n
\u00abEstas aplicaciones est\u00e1n dise\u00f1adas para recopilar una gran cantidad de informaci\u00f3n personal\u00bb, dice Jen Caltrider, l\u00edder del proyecto del equipo de Privacidad no incluida de Mozilla, que realiz\u00f3 el an\u00e1lisis. \u00abTe empujan hacia los juegos de rol, mucho sexo, mucha intimidad, mucho compartir\u00bb. Por ejemplo, las capturas de pantalla del chatbot EVA AI muestran un texto que dice: \u00abMe encanta cuando me env\u00edas tus fotos\u00bb. y voz\u201d, y preguntando si alguien est\u00e1 \u201clisto para compartir todos tus secretos y deseos\u201d.<\/p>\n
Caltrider dice que existen m\u00faltiples problemas con estas aplicaciones y sitios web. Es posible que muchas de las aplicaciones no tengan claro qu\u00e9 datos comparten con terceros, d\u00f3nde se encuentran o qui\u00e9n los crea, dice Caltrider, y agrega que algunas permiten a las personas crear contrase\u00f1as d\u00e9biles, mientras que otras brindan poca informaci\u00f3n sobre la IA que utilizan. usar. Todas las aplicaciones analizadas ten\u00edan diferentes casos de uso y debilidades.<\/p>\n
Tomemos como ejemplo Romantic AI, un servicio que te permite \u00abcrear tu propia novia AI\u00bb. Las im\u00e1genes promocionales en su p\u00e1gina de inicio muestran un chatbot enviando un mensaje que dice: \u00abAcabo de comprar lencer\u00eda nueva\u00bb. \u00bfQuieres verla? Los documentos de privacidad de la aplicaci\u00f3n, seg\u00fan el an\u00e1lisis de Mozilla, dicen que no vender\u00e1 los datos de las personas. Sin embargo, cuando los investigadores probaron la aplicaci\u00f3n, descubrieron que \u00abenviaba 24.354 rastreadores de anuncios en un minuto de uso\u00bb. La IA rom\u00e1ntica, como la mayor\u00eda de las empresas destacadas en la investigaci\u00f3n de Mozilla, no respondi\u00f3 a WIRED. s solicitud de comentarios. Otras aplicaciones monitoreadas ten\u00edan cientos de rastreadores.<\/p>\n
En general, dice Caltrider, las aplicaciones no tienen claro qu\u00e9 datos pueden compartir o vender, o exactamente c\u00f3mo usan parte de esa informaci\u00f3n. \u00abLa documentaci\u00f3n legal era vaga, dif\u00edcil de entender, no muy espec\u00edfica, una especie de material repetitivo\u00bb, dice Caltrider, y agrega que esto puede reducir la confianza que la gente deber\u00eda tener en las empresas.<\/p>\n<\/div>\n