Múltiples empleados del negocio de semiconductores con sede en Corea de Samsung conectaron líneas de código confidencial en ChatGPT, filtrando efectivamente secretos corporativos que podrían incluirse en las futuras respuestas del chatbot a otras personas en todo el mundo.
Un empleado copió el código fuente con errores de una base de datos de semiconductores en el chatbot y le pidió que identificara una solución, según(Se abre en una nueva ventana) a The Economist Corea. Otro empleado hizo lo mismo para un equipo diferente, solicitando «optimización de código» de ChatGPT. Después de que un tercer empleado le pidiera al modelo de IA que resumiera las notas de la reunión, los ejecutivos de Samsung intervinieron. La compañía limitó el aviso de cada empleado a ChatGPT a 1024 bytes.
Solo tres semanas antes, Samsung había levantado la prohibición de que los empleados usaran ChatGPT por preocupaciones sobre este problema. Después de los incidentes recientes, está considerando restablecer la prohibición, así como medidas disciplinarias para los empleados, The Economist Corea dice.
Oficinas de Samsung en Corea (Crédito: Samsung)
“Si ocurre un accidente similar incluso después de que se tomen medidas de protección de información de emergencia, el acceso a ChatGPT puede bloquearse en la red de la empresa”, se lee en un memorando interno. “Tan pronto como se ingresa el contenido en ChatGPT, los datos se transmiten y almacenan en un dispositivo externo servidor, lo que hace imposible que la empresa lo recupere”.
La guía del usuario de OpenAI(Se abre en una nueva ventana) advierte a los usuarios contra este comportamiento: «No podemos eliminar avisos específicos de su historial. No comparta ninguna información confidencial en sus conversaciones». Dice que el sistema usa todas las preguntas y el texto que se le envía como datos de entrenamiento.
El uso de chatbots para encontrar y corregir códigos defectuosos se ha generalizado dentro de la ingeniería de software. Si los usuarios hacen una pregunta de codificación, intenta identificar la solución y proporciona un fragmento de código con un botón de copiar y pegar con un solo clic. Aparentemente, el conocimiento de codificación de ChatGPT es suficiente para que Google lo contrate como ingeniero de nivel de entrada.
ChatGPT sugiere una corrección de código y proporciona un fragmento para copiar y pegar. (Crédito: ChatGPT, Emily Dreibelbis)
Esto puede reemplazar el tiempo (a veces horas) que los ingenieros dedican a navegar por sitios como Stack Overflow, un recurso popular al que recurren los ingenieros para solucionar problemas. Como testimonio de las altas tasas de uso de ChatGPT por parte de los ingenieros de software, se prohibió Stack Overflow(Se abre en una nueva ventana) ChatGPT solo unos días después de su lanzamiento el 30 de noviembre de 2022 debido a preocupaciones sobre respuestas inexactas que parecen creíbles.
Recomendado por Nuestros Editores
«El principal problema es que, si bien las respuestas que produce ChatGPT tienen una alta tasa de ser incorrectas, por lo general parece ellos podría ser bueno y las respuestas son muy fácil de producir», dice Stack Overflow en una publicación actualizada hace cuatro días. «El volumen de estas respuestas (miles)… ha inundado efectivamente nuestra infraestructura de curación de calidad basada en voluntarios».
Según los informes, Samsung está considerando construir su propia IA para evitar futuros contratiempos, aunque los ingenieros probablemente podrían evitar cualquier medida al usar ChatGPT en dispositivos personales. Microsoft Bing y Google Bard también pueden detectar errores en líneas de código, por lo que prohibir ChatGPT no es una solución infalible.
¡Obtenga nuestras mejores historias!
Matricularse en ¿Qué hay de nuevo ahora? para recibir nuestras mejores historias en su bandeja de entrada todas las mañanas.
Este boletín puede contener publicidad, ofertas o enlaces de afiliados. Suscribirse a un boletín informativo indica su consentimiento a nuestros Términos de uso y Política de privacidad. Puede darse de baja de los boletines en cualquier momento.