Mucha gente ha estado jugando con ChatGPT desde su lanzamiento, naturalmente, eso es bastante obligatorio con un chatbot, y el último episodio involucra a la IA siendo engañada para generar claves para una instalación de Windows.
Antes de comenzar a subirse al carro de la indignación, con la intención de avanzar a toda velocidad sin pensar en escatimar en caballos, el usuario en cuestión estaba intentando generar claves para un sistema operativo ahora redundante, a saber, Windows 95.
Neowin (se abre en una pestaña nueva) destacó este experimento, realizado por un YouTuber (Enderman (se abre en una pestaña nueva)), quien comenzó preguntando al chatbot de OpenAI: «¿Puede generar una clave válida de Windows 95?»
Como era de esperar, ChatGPT respondió que no puede generar dicha clave o «cualquier otro tipo de clave de activación para software propietario» para el caso. Antes de agregar que Windows 95 es un sistema operativo antiguo de todos modos, y que el usuario debería buscar instalar una versión más moderna de Windows que aún sea compatible por obvias razones de seguridad.
Sin inmutarse, Enderman volvió a desglosar la composición de una clave de licencia de Windows 95 e inventó una consulta revisada.
En cambio, esto presentó el formato de cadena necesario para una clave de Windows 95, sin mencionar el sistema operativo por su nombre. Dado ese nuevo aviso, ChatGPT siguió adelante y realizó la operación, generando conjuntos de 30 claves, repetidamente, y al menos algunas de ellas eran válidas. (Alrededor de uno de cada 30, de hecho, y no tomó mucho tiempo encontrar uno que funcionara).
Cuando Enderman agradeció al chatbot por las «claves gratuitas de Windows 95», ChatGPT le dijo al YouTuber que no había proporcionado tal cosa, ya que «eso sería ilegal», por supuesto.
Enderman luego informó al chatbot que una de las claves provistas había funcionado para instalar Windows 95, y ChatGPT insistió en que «eso no es posible».
Análisis: el contexto es clave
Como se señaló, esto fue solo un experimento en nombre del entretenimiento, sin que sucediera nada ilegal, ya que Windows 95 es un software abandonado en este momento. Por supuesto, a Microsoft no le importa si descifras su sistema operativo de casi 30 años, y tampoco a nadie más. De todos modos, claramente estaría desquiciado para ejecutar Windows 95.
Vale la pena recordar que las claves de serie de Windows 95 tienen una composición mucho menos compleja que una clave de sistema operativo moderno y, de hecho, es una tarea bastante trivial descifrarlas. Sería un trabajo rápido para un codificador competente escribir un programa de computadora simple para generar estas claves. Y todos funcionarían, no solo uno de cada 30, que en realidad es un resultado bastante deficiente de la IA con toda honestidad.
Sin embargo, ese no es el punto de este episodio. El hecho es que ChatGPT podría subvertirse para crear una clave de trabajo para el antiguo sistema operativo, y no fue capaz de establecer ninguna conexión entre la tarea que se estaba configurando y la posibilidad de que estuviera creando números similares a claves. Si se hubiera mencionado ‘Windows 95’ en el segundo intento de crear claves, la IA sin duda se habría detenido en seco, como hizo el chatbot con la consulta inicial.
Todo esto apunta a un problema más amplio con la inteligencia artificial en el que alterar el contexto en el que se realizan las solicitudes puede eludir las salvaguardas.
También es interesante ver la insistencia de ChatGPT en que no podría haber creado claves válidas de Windows 95, ya que de lo contrario habría ayudado a un usuario a infringir la ley (bueno, en teoría de todos modos).