Los funcionarios de OpenAI dicen que los historiales de ChatGPT que un usuario informó son el resultado de que su cuenta ChatGPT se vio comprometida. Los inicios de sesión no autorizados provinieron de Sri Lanka, dijo un representante de Open AI. El usuario dijo que inicia sesión en su cuenta desde Brooklyn, Nueva York.

«Por lo que descubrimos, lo consideramos una apropiación de cuenta en el sentido de que es consistente con la actividad que vemos cuando alguien contribuye a un ‘grupo’ de identidades que una comunidad externa o un servidor proxy utiliza para distribuir acceso gratuito», escribió el representante. “La investigación observó que las conversaciones se crearon recientemente desde Sri Lanka. Estas conversaciones tienen lugar en el mismo período de tiempo que los inicios de sesión exitosos desde Sri Lanka”.

Desde entonces, el usuario, Chase Whiteside, cambió su contraseña, pero dudaba que su cuenta estuviera comprometida. Dijo que utilizó una contraseña de nueve caracteres con letras mayúsculas y minúsculas y caracteres especiales. Dijo que no lo usó en ningún otro lugar que no sea una cuenta de Microsoft. Dijo que los historiales de chat de otras personas aparecieron todos a la vez el lunes por la mañana durante un breve descanso del uso de su cuenta.

La explicación de OpenAI probablemente significa que la sospecha original de que ChatGPT filtraba historiales de chat a usuarios no relacionados es errónea. Sin embargo, subraya que el sitio no proporciona ningún mecanismo para que usuarios como Whiteside protejan sus cuentas mediante 2FA o rastreen detalles como la ubicación IP de los inicios de sesión actuales y recientes. Estas protecciones han sido estándar en la mayoría de las plataformas principales durante años.

Historia original: ChatGPT está filtrando conversaciones privadas que incluyen credenciales de inicio de sesión y otros datos personales de usuarios no relacionados, según indicaron capturas de pantalla enviadas por un lector de Ars el lunes.

Dos de las siete capturas de pantalla enviadas por el lector se destacaron en particular. Ambos contenían múltiples pares de nombres de usuario y contraseñas que parecían estar conectados a un sistema de soporte utilizado por los empleados de un portal de medicamentos recetados de una farmacia. Un empleado que utilizaba el chatbot de IA parecía estar solucionando los problemas que encontró al utilizar el portal.

“Horrible, horrible, horrible”

«ESTO es tan jodidamente loco, horrible, horrible, horrible, no puedo creer lo mal que se construyó en primer lugar, y la obstrucción que se pone frente a mí que impide que mejore», escribió el usuario. . “Yo dispararía [redacted name of software] solo por este absurdo si fuera mi elección. Esto está mal.»

Además del lenguaje sincero y las credenciales, la conversación filtrada incluye el nombre de la aplicación que el empleado está solucionando y el número de la tienda donde ocurrió el problema.

Toda la conversación va mucho más allá de lo que se muestra en la captura de pantalla redactada arriba. Un enlace que incluyó el lector de Ars, Chase Whiteside, mostró la conversación de chat en su totalidad. La URL reveló pares de credenciales adicionales.

Los resultados aparecieron el lunes por la mañana poco después de que el lector Whiteside utilizara ChatGPT para una consulta no relacionada.

«Fui a hacer una consulta (en este caso, ayuda para encontrar nombres inteligentes para los colores en una paleta) y cuando volví a acceder momentos después, noté las conversaciones adicionales», escribió Whiteside en un correo electrónico. “No estaban allí cuando usé ChatGPT anoche (soy un usuario bastante frecuente). No se realizaron consultas; simplemente aparecieron en mi historial y ciertamente no son mías (y tampoco creo que sean del mismo usuario)”.

Otras conversaciones filtradas a Whiteside incluyen el nombre de una presentación en la que alguien estaba trabajando, detalles de una propuesta de investigación inédita y un script que utiliza el lenguaje de programación PHP. Los usuarios de cada conversación filtrada parecían ser diferentes y no relacionados entre sí. La conversación que involucra al portal de recetas incluyó el año 2020. Las fechas no aparecieron en las otras conversaciones.

El episodio, y otros similares, subrayan la sabiduría de eliminar los datos personales de las consultas realizadas a ChatGPT y otros servicios de inteligencia artificial siempre que sea posible. En marzo pasado, OpenAI, creador de ChatGPT, desconectó el chatbot de IA después de que un error provocó que el sitio mostrara títulos del historial de chat de un usuario activo a usuarios no relacionados.

En noviembre, los investigadores publicaron un artículo informando cómo utilizaron consultas para incitar a ChatGPT a divulgar direcciones de correo electrónico, números de teléfono y fax, direcciones físicas y otros datos privados que se incluyeron en el material utilizado para entrenar el modelo de lenguaje grande ChatGPT.

Preocupadas por la posibilidad de filtración de datos privados o propietarios, las empresas, incluida Apple, han restringido el uso de ChatGPT y sitios similares por parte de sus empleados.

Como se mencionó en un artículo de diciembre cuando varias personas descubrieron que los dispositivos UniFi de Ubiquiti transmitían videos privados pertenecientes a usuarios no relacionados, este tipo de experiencias son tan antiguas como Internet. Como se explica en el artículo:

Las causas fundamentales precisas de este tipo de error del sistema varían de un incidente a otro, pero a menudo involucran dispositivos «intermedios», que se encuentran entre los dispositivos frontales y posteriores. Para mejorar el rendimiento, los middleboxes almacenan en caché ciertos datos, incluidas las credenciales de los usuarios que iniciaron sesión recientemente. Cuando se producen discrepancias, las credenciales de una cuenta se pueden asignar a una cuenta diferente.

Esta historia se actualizó el 30 de enero a las 3:21 p.m. ET para reflejar la investigación de OpenAI sobre el incidente.

Twitter, también conocido como X, está abriendo la puerta a la recopilación de datos biométricos de las personas como parte de un nuevo sistema de verificación de usuarios, según la nueva política de privacidad de la compañía.

El política de privacidad se actualizó esta semana y entrará en vigor el 29 de septiembre. Sin embargo, la recopilación de datos biométricos será opcional. «Con base en su consentimiento, podemos recopilar y utilizar su información biométrica con fines de seguridad e identificación», dice la política.

(Crédito: Twitter)

Twitter no respondió de inmediato a una solicitud de comentarios. Pero la compañía dijo a Bloomberg que los datos biométricos se pueden recopilar para los usuarios de X Premium, anteriormente conocido como Twitter Blue, que ofrece a los suscriptores una marca de verificación verificada por 8 dólares al mes.

Para verificar la identidad de un suscriptor, los usuarios de X Premium pueden optar por enviar una identificación emitida por el gobierno. Luego, la compañía planea extraer los datos faciales de la identificación del gobierno y compararlos con una selfie enviada por el usuario para confirmar su identidad. El proceso requerirá que el usuario dé su consentimiento para almacenar su información por hasta 30 días con X y compartirla con una empresa israelí llamada AU10TIX, a la que se le cobrará la verificación de identidad.

Pío

«Esto además nos ayudará a vincular, para aquellos que elijan, una cuenta a una persona real mediante el procesamiento de su identificación emitida por el gobierno», dijo X a Bloomberg. «Esto también ayudará a X a combatir los intentos de suplantación de identidad y hacer que la plataforma sea más segura».

Dicho esto, el sistema opcional de verificación de identidad podría alejar a algunos usuarios que temen que X maneje mal sus datos más confidenciales. El otro cambio notable en la política de privacidad de X es cómo la compañía planea recopilar el historial laboral y los detalles educativos de los usuarios para construir un competidor para LinkedIn.

El próximo servicio podría ayudar a los usuarios a desarrollar sus carreras. Pero también requerirá que los participantes compartan aún más información personal con X. Según la política de privacidad, la compañía señala que puede compartir los datos laborales con empleadores potenciales y al mismo tiempo utilizar los detalles para generar anuncios.

(Crédito: Twitter)

La política de privacidad actualizada también reitera la intención del propietario de X, Elon Musk, de aprovechar los tweets creados por los usuarios en Twitter para entrenar modelos de IA. En julio, Musk mencionó el plan en su esfuerzo por crear un programa de inteligencia artificial generativa para contrarrestar el ChatGPT de OpenAI. Pero muchos artistas ya se están rebelando contra la idea y prometiendo abandonar Twitter por temor a que Musk cree una IA lo suficientemente poderosa como para copiar sus estilos artísticos sin ofrecer ninguna compensación.

Las agencias reguladoras federales han multado a 11 instituciones financieras con un total combinado de $549 millones por usar aplicaciones de mensajería «fuera del canal» (WhatsApp, iMessage, Signal y mensajes de texto) para conversaciones sobre transacciones y otros negocios. Las leyes de valores requieren que las empresas de inversión y los bancos conserven los registros de comunicaciones y garanticen que los empleados solo realicen negocios a través de canales autorizados. “Las empresas no mantuvieron ni preservaron la gran mayoría de estas comunicaciones fuera del canal, en violación de las leyes federales de valores”, escribió hoy la Comisión de Bolsa y Valores (SEC) en un comunicado.

Las firmas de Wall Street fueron multadas con más de 500 millones de dólares en multas por usar aplicaciones de mensajería en lugar del correo electrónico, plataformas de mensajería aprobadas u otros canales de fácil archivo. Las empresas sancionadas por la SEC incluyen Wells Fargo ($125 millones), BNP Paribas ($35 millones), SG Americas Securities ($35 millones), BMO Capital Markets ($25 millones), Mizuho Securities ($25 millones), Houlihan Lokey Capital ($15 millones) , Moelis & Company ($10 millones), Wedbush Securities ($10 millones) y SMBC Nikko Securities America ($9 millones). Mientras tanto, la Commodity Futures Trading Commission (CFTC) multó a Wells Fargo ($75 millones), BNP Paribas ($75 millones), Société Générale ($75 millones) y Bank of Montreal ($35 millones).

“Las fallas en el mantenimiento de registros como las aquí socavan nuestra capacidad para ejercer una supervisión regulatoria efectiva, a menudo a expensas de los inversionistas”, dijo Sanjay Wadhwa, Director Adjunto de Cumplimiento de la SEC. “El mensaje de la Comisión no podría ser más claro: los requisitos de mantenimiento de registros y supervisión son fundamentales, y los registrantes que no cumplen con estas obligaciones regulatorias fundamentales lo hacen bajo su propio riesgo”, dijo el Director de Cumplimiento de la CFTC, Ian McGinley.

Los reguladores federales dijeron que todas las empresas admitieron los hechos sobre las comunicaciones no aprobadas al aceptar las sanciones. “Como se describe en las órdenes de la SEC, las empresas admitieron que desde al menos 2019, sus empleados a menudo se comunicaban a través de varias plataformas de mensajería en sus dispositivos personales, incluidos iMessage, WhatsApp y Signal, sobre los negocios de sus empleadores”, escribió la SEC en una declaración. “Las empresas no mantuvieron ni preservaron la gran mayoría de estas comunicaciones fuera del canal, en violación de las leyes federales de valores. Al no mantener y preservar los registros requeridos, algunas de las empresas probablemente privaron a la Comisión de estas comunicaciones fuera del canal en varias investigaciones de la SEC”.

Ambas agencias gubernamentales enfatizaron que el problema era generalizado y no se limitaba a los empleados de nivel inicial y al personal subalterno. “Las fallas involucraron a empleados en múltiples niveles de autoridad, incluidos supervisores y altos ejecutivos”, dijo la SEC.

En un problema de privacidad, OpenAI ha confirmado que una falla provocó que ChatGPT filtrara brevemente los historiales de conversación de usuarios aleatorios a principios de esta semana.

“Nos sentimos muy mal por esto”, CEO de OpenAI, Sam Altman tuiteó(Se abre en una nueva ventana) El miércoles.

ChatGPT archiva y muestra sus conversaciones pasadas, brindándole un registro actualizado de todas sus entradas de texto con el programa. El lunes por la mañana, algunas personas observó(Se abre en una nueva ventana) que la función de historial de chat mostraba conversaciones pasadas desconocidas aparentemente de otras personas.

ChatGPT también experimentó una interrupción el mismo día. Inicialmente, OpenAI se mantuvo en silencio sobre la situación, pero el miércoles, Altman finalmente confirmó que la exposición de datos era real. “Un pequeño porcentaje de usuarios pudo ver los títulos del historial de conversaciones de otros usuarios”, tuiteó, sin dar más detalles.

Aunque algunos temían que el problema de la privacidad fuera causado por un hackeo, Altman culpó del problema a un error de software en una «biblioteca de código abierto» sin nombre. La buena noticia es que OpenAI lanzó un parche que ha sido validado. Pero parece que la empresa puede haber perdido los historiales de chat de los usuarios del lunes 20 de marzo.

Pío(Se abre en una nueva ventana)

“Desafortunadamente, los usuarios no podrán acceder a su historial de chat desde el lunes a la 1 a. m. PDT hasta el lunes a las 10 a. m. PDT”, dijo Altman, el mismo período de tiempo en que ocurrió el error.

La compañía planea brindar más detalles a través de una «autopsia técnica», agregó Altman. Mientras tanto, la barra lateral del historial de conversaciones ha estado inactiva para ChatGPT desde el lunes.

No está claro si el error expuso la información personal confidencial de alguien. Pero el tweet de Altman dice que solo se expusieron los «títulos» de los historiales de conversación de otros usuarios, no necesariamente el contenido completo. Los usuarios que intentaron hacer clic en los historiales de chat expuestos informaron que experimentaron un error que impidió la divulgación completa. Los títulos filtrados tampoco contenían ninguna indicación aparente de a quién pertenecía el historial de chat.

A pesar del tweet de Altman, OpenAI aún tiene que abordar otro error aparente que causó que el formulario de pago de ChatGPT Plus aparentemente filtrara las direcciones de correo electrónico de otros usuarios el lunes por la mañana. La compañía no ha respondido a las solicitudes de comentarios.

ChatGPT se desconectó y quedó temporalmente inaccesible el lunes después de que algunos usuarios descubrieran que podían ver los títulos de los historiales de chat de otras personas. Las personas publicaron capturas de pantalla de su IU de ChatGPT en redes sociales como Reddit y Gorjeo, mostrando barras laterales llenas de chats que dijeron que no eran suyos. Si bien solo podían ver los títulos y no la totalidad de las conversaciones de otras personas, el incidente aún resalta la necesidad de ser conscientes cuando se trata de compartir detalles o escribir preguntas para el chatbot.

Un portavoz de OpenAI dijo Bloomberg que la empresa deshabilitó temporalmente ChatGPT después de que se dio cuenta de estos informes. Aparentemente, un error en un software de código abierto que la compañía aún no ha nombrado causó el problema, pero OpenAI todavía está investigando para descubrir qué lo provocó exactamente.

Según el informe de incidentes de la compañía, cerró ChatGPT el lunes por la mañana y luego restauró completamente el servicio 10 horas después de implementar una solución. Sin embargo, al momento de escribir este artículo, los historiales de chat aún no están disponibles. OpenAI publicó una nota diciendo lo mismo en la barra lateral, junto con la garantía de que está «trabajando para restaurar esta función lo antes posible». La compañía no ha anunciado una ETA para la restauración de la función.

La función de historial de chat de ChatGPT está actualmente fuera de línea desde el martes por la mañana después de que un error expusiera breves descripciones de las conversaciones de otros usuarios a las personas en el servicio.

El error es un recordatorio importante para tener cuidado con la información confidencial compartida con ChatGPT. “Por favor, no comparta ninguna información confidencial en sus conversaciones”, advierte Preguntas frecuentes en el sitio web de OpenAI, que señala que la empresa no puede eliminar indicaciones específicas del historial de una persona y que las conversaciones pueden usarse para capacitación. Sin embargo, inevitablemente existirá una fuerte tentación de compartir información confidencial con el chatbot, particularmente a medida que las empresas continúen experimentando con la forma de utilizar la nueva herramienta.

Bloomberg informa que OpenAI cerró temporalmente ChatGPT el lunes en respuesta al error, pero que se volvió a poner en línea más tarde esa noche. Al momento de escribir este artículo, la barra lateral del historial de chat se reemplazó con un mensaje que indica que «El historial no está disponible temporalmente» y que la compañía está «trabajando para restaurar esta función lo antes posible». La última actualización en Página de estado de OpenAI a partir de las 10:54 p. m., hora del este, del lunes señala que el servicio se ha restaurado, pero aún funciona para recuperar los historiales de conversaciones anteriores de todos los usuarios.

Se cree que la causa del problema es un error en una pieza de software de código abierto sin nombre, Bloomberg notas, aunque una investigación sobre la causa precisa está en curso.

ACTUALIZAR: Algunos usuarios también informan que la página de pago de ChatGPT Plus posiblemente exponga direcciones de correo electrónico que pertenecen a usuarios aleatorios. OpenAI dice que está investigando los problemas.

historia original:

Es posible que sus consultas recientes de ChatGPT se hayan filtrado accidentalmente a otros usuarios.

ChatGPT muestra un historial de las indicaciones anteriores que ingresaste en el programa de IA en su barra lateral del historial de chat. Pero el lunes, algunos usuarios detectaron historias de conversaciones que no eran las suyas.

La discrepancia fue especialmente marcada para un usuario de Reddit que vio(Se abre en una nueva ventana) conversaciones realizadas en chino. Otros vieron el problema e inmediatamente temieron(Se abre en una nueva ventana) sus cuentas habían sido hackeadas.

Pío(Se abre en una nueva ventana)

OpenAI no respondió de inmediato a una solicitud de comentarios. Por lo tanto, no está claro si ChatGPT realmente mostraba historiales de chat de otros perfiles, o si el programa simplemente inventaba las indicaciones anteriores. Pero OpenAI informó(Se abre en una nueva ventana) una interrupción de ChatGPT alrededor de las 10 am PST después de que los usuarios notaron el problema con los historiales de chat.

El error aparente está generando preocupaciones sobre la privacidad del usuario. Si ingresó información personal en un historial de chat, entonces el error podría revelar la misma información a un extraño.

Pío(Se abre en una nueva ventana)

Afortunadamente, los usuarios que se han encontrado con el problema dicen(Se abre en una nueva ventana) ChatGPT solo mostrará el título del chat anterior, no el aviso completo con todos los detalles. Si hace clic en un chat anterior, el programa no podrá cargarlos.

También parece que, en muchos casos, ChatGPT solo mostrará términos genéricos cuando muestre historiales de chat posiblemente tomados de usuarios anteriores, omitiendo cualquier información de identificación personal. Por lo tanto, no debería estar claro de qué persona proviene el historial de chat.

Dicho esto, el error aparente subraya el riesgo de usar ChatGPT: como cualquier servicio web público, también puede sufrir una posible violación de datos. la política de privacidad(Se abre en una nueva ventana) para OpenAI también señala que puede compartir «información agregada como estadísticas generales de usuarios con terceros, publicar dicha información agregada o hacer que dicha información agregada esté disponible para el público en general».