¿Recuerdas hace un tiempo cuando el CEO de OpenAI, Sam Altman, dijo que el mal uso de la inteligencia artificial podría ser «luces apagadas para todos»? (se abre en una pestaña nueva) Bueno, esa no fue una declaración tan irrazonable considerando que ahora los piratas informáticos están vendiendo herramientas para superar las restricciones de ChatGPT y hacer que genere contenido malicioso.
Control (se abre en una pestaña nueva) informes (a través de Ars Technica (se abre en una pestaña nueva)) que los ciberdelincuentes han encontrado una manera bastante fácil de eludir las barreras de moderación de contenido de ChatGPT y ganar dinero rápido al hacerlo. Por menos de $ 6, puede hacer que ChatGPT genere código malicioso o una tonelada de copia persuasiva para correos electrónicos de phishing.
Estos piratas informáticos lo hicieron utilizando la API de OpenAI para crear bots especiales en la popular aplicación de mensajería Telegram, que pueden acceder a una versión sin restricciones de ChatGPT a través de la aplicación. Los ciberdelincuentes están cobrando a los clientes tan solo $ 5.50 por cada 100 consultas y brindan a los clientes potenciales ejemplos de las cosas dañinas que se pueden hacer con él.
Otros piratas informáticos encontraron una manera de superar las protecciones de ChatGPT mediante la creación de un script especial (nuevamente usando la API de OpenAI) que se hizo público en GitHub. Esta versión oscura de ChatGPT puede generar una plantilla para un correo electrónico de phishing para hacerse pasar por una empresa y su banco, incluso con instrucciones sobre dónde colocar mejor el enlace de phishing en el correo electrónico.
Aún más aterrador es que puede usar el Chatbot para crear un código de malware o mejorar uno existente simplemente pidiéndoselo. Checkpoint había escrito antes (se abre en una pestaña nueva) sobre lo fácil que es generar malware bastante desagradable para quienes no tienen experiencia en codificación, especialmente en las primeras versiones de ChatGPT, cuyas restricciones solo se hicieron más estrictas para crear contenido malicioso.
La tecnología ChatGPT de OpenAI se presentará en la próxima actualización del motor de búsqueda de Microsoft Bing, que contará con un chat de IA para brindar respuestas más sólidas y fáciles de digerir a preguntas más abiertas. Esto también viene con su propio conjunto de problemas con respecto al uso de materiales con derechos de autor. (se abre en una pestaña nueva).
Hemos escrito antes lo fácil que ha sido abusar de las herramientas de inteligencia artificial, como usar la clonación de voz para hacer que los famosos digan cosas horribles. (se abre en una pestaña nueva). Entonces, era solo cuestión de tiempo antes de que algunos malos actores encontraran una manera de hacer que sea más fácil hacer cosas malas. Ya sabes, además de hacer que la IA haga su tarea (se abre en una pestaña nueva).