Los trabajadores de Samsung han filtrado sin darse cuenta datos de alto secreto mientras usaban ChatGPT para ayudarlos con las tareas.
La compañía permitió que los ingenieros de su división de semiconductores usaran el escritor de IA para ayudar a solucionar problemas con su código fuente. Pero al hacerlo, los trabajadores ingresaron datos confidenciales, como el propio código fuente de un nuevo programa, notas de reuniones internas y datos relacionados con su hardware.
El resultado es que, en poco menos de un mes, hubo tres incidentes registrados de empleados que filtraron información confidencial a través de ChatGPT. Dado que ChatGPT retiene los datos ingresados por el usuario para capacitarse aún más, estos secretos comerciales de Samsung ahora están efectivamente en manos de OpenAI, la compañía detrás del servicio de IA.
Fuera en OpenAI
En respuesta, Samsung Semiconductor ahora está desarrollando su propia IA interna para uso interno de los empleados, pero solo pueden usar avisos que están limitados a 1024 bytes de tamaño.
En uno de los casos antes mencionados, un empleado le pidió a ChatGPT que optimizara las secuencias de prueba para identificar fallas en los chips, lo cual es confidencial; sin embargo, hacer que este proceso sea lo más eficiente posible tiene el potencial de ahorrar a las empresas de chips un tiempo considerable en probar y verificar los procesadores, lo que lleva a las reducciones en el costo también.
En otro caso, un empleado usó ChatGPT para convertir las notas de la reunión en una presentación, cuyo contenido obviamente no era algo que a Samsung le hubiera gustado que terceros externos supieran.
Samsung Electronics envió una advertencia a sus trabajadores sobre los peligros potenciales de filtrar información confidencial a raíz de los incidentes, diciendo que dichos datos son imposibles de recuperar ya que ahora están almacenados en los servidores que pertenecen a OpenAI. En la industria de los semiconductores, donde la competencia es feroz, cualquier tipo de fuga de datos podría significar un desastre para la empresa en cuestión.
No parece que Samsung tenga ningún recurso para solicitar la recuperación o eliminación de los datos confidenciales que ahora tiene OpenAI. Algunos han argumentado (se abre en una pestaña nueva) que este mismo hecho hace que ChatGPT no cumpla con el RGPD de la UE, ya que este es uno de los principios básicos de la ley que rige cómo las empresas recopilan y usan datos. También es una de las razones por las que Italia ha prohibido ahora el uso de ChatGPT en todo el país. (se abre en una pestaña nueva).