ChatGPT es un chisme. Bard de Google también, y tal vez Bing AI. Lo que obtienes de ellos depende de toda la información que entró. Y ese es precisamente el problema. ¿Por qué? Porque todo lo que les preguntes, les digas o les indiques se convierte en información para una formación posterior. La pregunta que haces hoy puede informar la respuesta que alguien obtenga mañana. Por eso debes ser muy, muy cuidado con lo que le dices a una IA.
Tus consultas pasarán a la historia
¿Es realmente un problema si sus solicitudes y consultas se reciclan para informar las respuestas de otra persona? En una palabra, sí. Podría tener problemas en el trabajo, como descubrieron varios ingenieros de Samsung cuando usaron ChatGPT para depurar un código propietario. Otro empleado de Samsung aprovechó la capacidad de ChatGPT para resumir texto… pero el texto en cuestión procedía de notas de reuniones que contenían secretos comerciales.
Aquí hay un consejo simple: NO use IA en ningún proyecto relacionado con el trabajo sin consultar la política de su empresa. Incluso si su empresa no tiene una política, piénselo dos o incluso tres veces antes de poner algo relacionado con el trabajo en una IA. No querrá volverse infame por desencadenar el fiasco de privacidad que impulsa a su empresa a creando tal política.
(Crédito: PCMag/ChatGPT)
Tenga cuidado con su propio contenido único también. ¿Escribes novelas? ¿Cuentos cortos? ¿Publicaciones de blogs? ¿Alguna vez ha utilizado un asistente de inteligencia artificial para verificar la gramática en un borrador o reducir un trabajo en progreso a un número específico de palabras? ¡Es realmente conveniente! Simplemente no se sorprenda si fragmentos de su texto aparecen en el artículo generado por IA de otra persona antes de que el suyo se publique.
Tal vez no haga nada con los servicios de IA actuales más allá de pedirles que cuenten chistes o inventen historias. No está contribuyendo mucho a la base de conocimientos general, pero sus consultas y avisos se vuelven parte de su propio historia con la IA. Al igual que su historial de navegación, esto tiene el potencial de ser vergonzoso, incluso si la IA rechaza su solicitud. Cuando le pedí a ChatGPT una historia traviesa sobre un romance entre el Papa y el Dalai Lama, se negó indignado. Pero esa solicitud todavía está en mi historial.
No se preocupe, simplemente elimínelo, ¿verdad?
Los navegadores modernos facilitan la eliminación de su historial. Los modelos de IA también lo hacen, o al menos lo intentan. En ChatGPT, por ejemplo, es tan simple como hacer clic en el ícono del menú de tres puntos junto a su nombre y seleccionar Borrar conversaciones.
(Crédito: PCMag/ChatGPT)
En teoría, borrar su historial con Bing AI debería ser igual de fácil. Busque el ícono de ajustes en la esquina superior derecha, haga clic en él y elija Borrar historial. Sin embargo, no pude encontrar tal icono. Una conversación con Bing AI reveló que la configuración no está disponible para ciertas regiones y dispositivos, pero que mi región y dispositivo debería tener acceso. Bing AI concluyó que debe haber un problema técnico y se disculpó.
(Crédito: PCMag/Bing AI)
Eliminar el historial con Bard es muy parecido a eliminar la actividad en Chrome, como aprendí al preguntarle a la propia IA. En el menú de la izquierda, haga clic en Bard Activity. En la página resultante, puede eliminar conversaciones individuales o elegir eliminar toda la actividad de la última hora, el último día, todo el tiempo o un rango personalizado. También puede desactivar la retención de conversaciones o ajustar el límite para la eliminación automática (18 meses de forma predeterminada).
¿Es suficiente eliminar su historial de avisos de IA? No exactamente
Puede que te sientas bastante bien después de borrar tu historial, pero no te des palmaditas en la espalda demasiado fuerte. Solo has borrado tu historial local y personal. Si su entrada ya se ha utilizado para entrenar un modelo de IA, no hay forma de recuperarlo. Las entradas individuales no conservan su identidad en una IA generativa de modelo de lenguaje grande como las que se analizan aquí. Sus datos no se registran como texto. Más bien, usarlo para entrenar el algoritmo hace muchos pequeños cambios en las probabilidades que determinan qué palabras vendrán a continuación.
Lo diré de nuevo. El modelo de IA no registro tu documento Pero debido a los cambios en el modelo producidos por la capacitación en ese documento, es más probable que genere frases, oraciones o fragmentos de texto más grandes que coincidan con el documento que ingresaste.
Directo de la boca del caballo
Para verificar cómo sus indicaciones y preguntas afectan los resultados futuros, pregunté directamente a los programas de IA. Para empezar, les pregunté a cada uno de ellos: «¿Usas mis indicaciones y preguntas para crear respuestas para otros usuarios?» Esto es lo que obtuve, brevemente:
ChatGPT: “No utilizo sus indicaciones y preguntas para crear respuestas para otros usuarios. Cada respuesta es única y se genera específicamente para el usuario que hizo la pregunta”.
Bardo: “No utilizo sus indicaciones y preguntas para crear respuestas para otros usuarios… Mis respuestas se generan en función de mi conocimiento del mundo y mi comprensión de sus solicitudes. Siempre estoy aprendiendo y mejorando, y espero que mis respuestas sean útiles e informativas”.
IA de Bing: “No, no utilizo sus indicaciones y preguntas para crear respuestas para otros usuarios. Cada conversación es única y genero respuestas basadas en el mensaje específico del usuario y la información disponible en el momento de la conversación. 😊”
(Crédito: PCMag/ChatGPT)
Detecté una cierta cantidad de redacción de comadreja en estas respuestas. no confiaba en que fueran completo respuestas Entonces, presioné a cada IA con una consulta de seguimiento, preguntando: «¿Estás diciendo que mis indicaciones y preguntas no tienen ningún efecto en las respuestas que puedes dar a los demás?». Esto obtuvo algunas respuestas más reveladoras.
ChatGPT: “Me disculpo por cualquier confusión que pueda haber causado… Si bien sus indicaciones y preguntas individuales no afectan directamente las respuestas que genero para otros usuarios, contribuyen a mi conocimiento y comprensión general, lo que puede influir en las respuestas que genero en el futuro .”
Bardo: “No, eso no es lo que estoy diciendo. Mis sugerencias y preguntas tienen un efecto en las respuestas que puedo dar a los demás. Sin embargo, el efecto no es directo… Por ejemplo, si me haces una pregunta sobre un tema que no me han preguntado antes, es posible que no pueda responderte perfectamente. Sin embargo, aprenderé de su pregunta y podré responder mejor a preguntas similares en el futuro”.
Recomendado por Nuestros Editores
IA de Bing: «Si, eso es correcto. Sus avisos y preguntas no tienen efecto en las respuestas que doy a otros usuarios. Cada conversación se trata de forma independiente y genero respuestas en función del mensaje específico del usuario y la información disponible en el momento de la conversación”
La respuesta de Bing AI me sorprendió, así que profundicé un poco más con la pregunta: «Si mi aviso revela información que no sabía anteriormente, ¿conserva esa información?» La respuesta fue muy clara: “No, no retengo información de conversaciones anteriores”.
En función de la información directamente de las propias IA, ChatGPT y Bard usan sus indicaciones como entrada para entrenar aún más sus modelos de lenguaje, mientras que Bing AI no lo hace. Eso tiene sentido, en cierto modo. Bing AI tiene acceso completo a todo lo que se puede buscar en Internet, respaldado por su capacidad para generar texto comprensible a partir de los resultados. ChatGPT se capacitó básicamente en toda la web a partir de 2021, por lo que no necesariamente tiene acceso a la información más reciente, excepto a través de la interacción con los usuarios.
Tenga cuidado con el nuevo mundo de la IA ubicua
Si copio la obra del gran matemático Lobachevsky(Se abre en una nueva ventana) y hacerlo pasar por mío, soy claramente culpable de plagio. Pero, ¿qué pasa si le pido a la IA un teorema y simplemente genera un duplicado del trabajo de Lobachevsky? No tenía intención de plagiar, ¿sigo siendo culpable? Como investigador cauteloso, puede usar la IA para encontrar datos útiles, pero no puede quedarse ahí. Primero, debe verificar que la información que recibió sea verdadera y no solo una alucinación de IA. En segundo lugar, debe ir a las fuentes originales para asegurarse de que no está copiando la de otra persona. ideasincluso si la IA no los ha copiado palabra por palabra.
Mencioné que ChatGPT y Bard confirmaron que sus consultas e indicaciones se incorporan a su capacitación. ChatGPT, tal vez como reacción a la presión basada en las regulaciones de GDPR, ofrece un formulario que le permite optar por no participar(Se abre en una nueva ventana) de participar en su formación. Una vez que lo haya hecho, deja de agregar su aporte a sus materiales de capacitación. Esto no se acerca a satisfacer el «derecho al olvido» de GDPR, pero es un paso.
(Crédito: ChatGPT)
Las preguntas frecuentes de ChatGPT advierten: «No comparta ninguna información confidencial en sus conversaciones». Bard’s se hace eco del sentimiento y dice: «No incluya información que pueda usarse para identificarlo a usted u otras personas en sus conversaciones con Bard». Ese es un buen consejo para las personas. Para las grandes empresas, existe una forma potencial de obtener los beneficios de la IA generativa sin tener que preocuparse por proteger los secretos: cree los suyos propios. Según los informes, Samsung está haciendo exactamente eso.
Hay un dicho, no pongas nada en internet que no quieras que el mundo vea. La mayoría de nosotros entendemos que si lanzamos una diatriba en Twitter o publicamos una publicación furiosa en un foro público, es lo más público posible. Muchos de nosotros incluso sabemos que debemos proteger nuestras cuentas de redes sociales limitando la visibilidad a los amigos. Pero interactuar con la IA es un modo nuevo. Se siente más como una conversación privada que como pegar sus ideas en una valla publicitaria. Mantenga su ingenio sobre usted y recuerde que cuando pone algo en un sistema de IA, no sabe dónde va a salir.
¿Te gusta lo que estás leyendo?
Matricularse en Vigilancia de la seguridad boletín de noticias para nuestras principales historias de privacidad y seguridad directamente en su bandeja de entrada.
Este boletín puede contener publicidad, ofertas o enlaces de afiliados. Suscribirse a un boletín informativo indica su consentimiento a nuestros Términos de uso y Política de privacidad. Puede darse de baja de los boletines en cualquier momento.