En la superficie, puede parecer una herramienta que puede ser útil para una variedad de tareas laborales. Pero antes de pedirle al chatbot que resuma notas importantes o verifique si hay errores en su trabajo, vale la pena recordar que cualquier cosa que comparta con ChatGPT podría usarse para entrenar el sistema y tal vez incluso aparecer en sus respuestas a otros usuarios. Eso es algo de lo que varios empleados probablemente deberían haber sido conscientes antes de compartir información confidencial con el chatbot.
Poco después de que la división de semiconductores de Samsung comenzara a permitir que los ingenieros usaran ChatGPT, los trabajadores le filtraron información secreta en al menos tres ocasiones, según (según lo visto por ). Según los informes, un empleado le pidió al chatbot que verificara el código fuente de la base de datos confidencial en busca de errores, otro solicitó la optimización del código y un tercero ingresó una reunión grabada en ChatGPT y le pidió que generara minutos.
sugieren que, después de enterarse de los errores de seguridad, Samsung intentó limitar el alcance de futuros pasos en falso restringiendo la longitud de las indicaciones de ChatGPT de los empleados a un kilobyte, o 1024 caracteres de texto. También se dice que la compañía está investigando a los tres empleados en cuestión y construyendo su propio chatbot para evitar contratiempos similares. Engadget se ha puesto en contacto con Samsung para hacer comentarios.
ChatGPT afirma que, a menos que los usuarios opten explícitamente por no participar, utiliza sus indicaciones para entrenar a sus modelos. El propietario del chatbot, OpenAI, no debe compartir información secreta con ChatGPT en las conversaciones, ya que «no puede eliminar indicaciones específicas de su historial». La única forma de deshacerse de la información de identificación personal en ChatGPT es eliminar su cuenta, un proceso que .
La saga de Samsung es otro ejemplo de por qué es como quizás deberías con toda tu actividad en línea. Nunca se sabe realmente dónde terminarán sus datos.