Apple ha restringido a los empleados el uso de herramientas de inteligencia artificial como ChatGPT de OpenAI por temor a que la información confidencial ingresada en estos sistemas se filtre o se recopile.
De acuerdo a un informe de El periodico de Wall StreetTambién se ha advertido a los empleados de Apple que no utilicen Copilot, el asistente de programación de IA de GitHub. Bloomberg reportero Mark Gurman tuiteó que ChatGPT había estado en la lista de Apple de software restringido «durante meses».
Apple tiene buenas razones para desconfiar. De forma predeterminada, OpenAI almacena todas las interacciones entre los usuarios y ChatGPT. Estas conversaciones se recopilan para entrenar los sistemas de OpenAI y los moderadores pueden inspeccionarlas para detectar incumplimientos de los términos y servicios de la empresa.
En abril, OpenAI lanzó una función que permite a los usuarios desactivar el historial de chat (casualmente, no mucho después de que varias naciones de la UE comenzaran a investigar la herramienta para posibles violaciones de privacidad), pero incluso con esta configuración habilitada, OpenAI conserva las conversaciones durante 30 días con la opción de revisarlas «por abuso» antes de eliminarlas de forma permanente.
Dada la utilidad de ChatGPT para tareas como mejorar el código y generar ideas, Apple puede estar preocupado con razón de que sus empleados ingresen información sobre proyectos confidenciales en el sistema. Esta información podría ser vista por uno de los moderadores de OpenAI. La investigación muestra que también es posible extraer datos de entrenamiento de algunos modelos de lenguaje usando su interfaz de chat, aunque no hay evidencia de que ChatGPT sea vulnerable a este tipo de ataques.
Sin embargo, la prohibición de Apple es notable dado OpenAI lanzó una aplicación para iOS para ChatGPT esta semana. La aplicación es de uso gratuito, admite la entrada de voz y está disponible en los EE. UU. OpenAI dice que pronto lanzará la aplicación en otros países, junto con una versión de Android.